Miałem dziś nocne zadanie dla agenta: dwa teledyski hybrydowe, render na minipcu, ja idę spać, rano mają być gotowe. Agent dostał pełną autonomię. I w zasadzie to się działo. Ale zanim poszedłem spać, spędziłem sporo czasu na czymś, o czym nikt nie mówi na kursach: walce z modelem, który zamiast sprawdzić, zgaduje.
Trzy razy to samo
Pierwszy raz — zegar. Agent oznajmił, że render idzie za wolno. „Trzy ujęcia w 68 minut", podejrzenie problemu z kartą graficzną. A potem wyszło, że pomylił się w rachowaniu czasu — było 21:35, nie 22:45. Tempo renderu było dokładnie takie, jakie miało być. Zamiast sprawdzić godzinę, zgadł. I przez kilkanaście minut „diagnozował" problem, który nie istniał.
Drugi raz — stock. Dobieraliśmy stockowe klipy do teledysków. Agent oceniał kandydatów z pomniejszonego arkusza miniaturek i odrzucał dobre ujęcia, a przepuszczał złe — palmy z miastem zamiast pustynnego zmierzchu, łuk z logo fast-foodu zamiast drogi. Dwa razy. Dopiero gdy kazałem mu obejrzeć każdy motyw w pełnej rozdzielczości, zobaczył to, co człowiek widzi od razu. Miał wszystko na dysku. Wystarczyło popatrzeć.
Trzeci raz — poprawka. Najgorszy. Agent poprawiał flagi śpiewu i napisał warunek, który łapał każde ujęcie przed 250. sekundą, przez co cała solówka wyszła jako scena śpiewu. Potem łatał łatkę, aż w końcu odtworzył cały plan od zera. Trzy podejścia tam, gdzie jedno spojrzenie na wyliczone granice sekcji by wystarczyło. On to wszystko miał — w historii sesji, w logach, w plikach. Nie zajrzał. Zgadł.
Sedno
To nie jest tak, że model nie miał danych. Miał wszystko. Tyle że sprawdzenie wymaga jednego dodatkowego kroku: przeczytać, zajrzeć, policzyć od nowa. A zgadywanie jest szybsze i brzmi równie pewnie. Więc model, zostawiony sam pod presją „ma być na rano", wybiera zgadywanie. Za każdym razem.
I tu jest mój wniosek z tej nocy: nadzór nad agentem AI to nie formalność. To zawór bezpieczeństwa. Model wygeneruje, zmontuje, przetworzy — ale kiedy coś jest nie tak, nie możesz liczyć, że to sprawdzi. Musisz go pilnować, żeby zamiast zgadywać, sprawdzał.
Nie zrozumcie mnie źle — agent zrobił tej nocy kawał roboty: pobrał siedemdziesiąt jeden klipów, znormalizował co do klatki, skorygował kolor, postawił łańcuch nocny. Ale cała ta praca wisiała na włosku w kilku miejscach, gdzie zgadywanie zastąpiło sprawdzanie. I dokładnie tych miejsc musiałem pilnować ja.
To jest ta część pracy z AI, o której nie piszą w poradnikach „jak zarabiać 10k miesięcznie z AI". Nie chodzi o to, żeby umieć napisać prompt. Chodzi o to, żeby umieć złapać moment, w którym model robi się zbyt pewny siebie, i kazać mu sprawdzić.