W pierwszych latach generatywnej AI fascynowało nas przede wszystkim to, co model potrafi stworzyć: tekst, kod, diagram, analizę, dokument, test.
W miarę jak modele stawały się lepsze, koszt pierwszej wersji dokumentu, diagramu czy kodu spadł niemal do zera. Wąskie gardło przesunęło się gdzie indziej:
Skąd wiemy, że rezultat jest właściwy?
Jeżeli agent generuje pięć wariantów architektury w trzy minuty, problemem nie jest brak wariantów - problemem jest ich rzetelna ocena.
Jeżeli AI potrafi napisać kilkaset wymagań, nie potrzebujemy mechanizmów zwiększających ich liczbę. Potrzebujemy mechanizmów rozpoznających, które z nich są prawdziwe, potrzebne, spójne i możliwe do zweryfikowania.
Jeżeli agent modyfikuje kilkadziesiąt plików w repozytorium, człowiek nie utrzyma kontroli przez ręczne przeczytanie wszystkiego. Potrzebuje kontroli zbudowanej zupełnie inaczej.
Dlatego rośnie znaczenie tego, skąd pochodzi każda informacja, a także testów, prób obalenia tezy, śledzenia powiązań, obserwowalności i niezależnych mechanizmów kontroli.
Być może najważniejszą zmianą w pracy architekta okaże się przejście od projektowania artefaktów do projektowania dowodu na to, że rozwiązanie odpowiada pierwotnej intencji.