Claude już pomaga tworzyć swoich następców, ale do pełnej autonomii wciąż daleko

Zanim jednak damy się ponieść wizjom rodem z science fiction, warto zdefiniować pojęcia. Claude nie siedzi w cyfrowym laboratorium i nie decyduje samodzielnie, jaki model stworzyć w następnej kolejności, aby był inteligentniejszy od niego.

Anthropic stosuje skalę automatyzacji od AL0 do AL5. Poziom AL4, określany jako „kierowanie”, oznacza, że AI otrzymuje od człowieka ogólne zadanie i potrafi samodzielnie wykonać większość pracy od początku do końca. Człowiek nadzoruje jej przebieg, ale nie musi już z góry określać każdego kroku. AL5 oznaczałby pełną autonomię bez udziału człowieka. W objętych pomiarem pracach rozwojowych Anthropic Claude nie osiągnął jeszcze tego poziomu w żadnym obszarze.

Skok z 1 do 26 proc. jest ważniejszy niż chwytliwy nagłówek

Najbardziej godne uwagi nie jest nawet obecne 26 proc., lecz tempo zmian. Jeszcze w lutym udział prac kierowanych przez Claude’a wynosił mniej niż 1 proc.

Tworzy to dość interesujące sprzężenie zwrotne w rozwoju AI. Lepszy model pomaga badaczom i inżynierom budować kolejny, który z kolei powinien być w stanie przejąć jeszcze większą część prac nad następną generacją.

Niedawny przykład podany przez Anthropic pokazuje, co taki podział pracy oznacza w praktyce. W ciągu niespełna czterech tygodni Claude zoptymalizował ponad 30 modeli open source do modelowania biomolekularnego, dzięki czemu działały one średnio około czterokrotnie szybciej.

Nie chodzi już więc tylko o chatbota, który pisze dla inżyniera kilka linijek kodu w Pythonie. Agentom można powierzać coraz większe, kompletne pakiety zadań.

W laboratorium Anthropic jednocześnie pracuje około 30 tys. agentów AI

Skala czyni tę historię jeszcze ciekawszą. Na najczęściej wykorzystywanej wewnętrznej platformie Anthropic około 30 tys. agentów pracuje jednocześnie nad zadaniami badawczymi i inżynieryjnymi. Firma kontroluje ich działania za pomocą zautomatyzowanych systemów bezpieczeństwa.

To całkiem dobry przykład tego, jak w rzeczywistości zaczyna wyglądać „AI w pracy”. Pojedyncze okno czatu z Claude’em nie jest szczególnie ekscytujące. Dziesiątki tysięcy agentów rozwiązujących zadania równolegle — już tak.

Anthropic podkreśla znaczenie nadzoru, ponieważ im większe zadania powierza się agentom, tym ważniejsze są decyzje podejmowane przez nich w trakcie pracy. W pewnym momencie pytanie przestaje dotyczyć tego, czy model napisał właściwą linijkę kodu, a zaczyna tego, jaki kierunek badań wybrał na samym początku.

Do tych danych nadal należy podchodzić z rezerwą

Wynik 26 proc. nie pochodzi z niezależnego audytu ani nie stanowi uniwersalnego standardu branżowego. Metrykę opracował Anthropic, a firma sama przyznaje, że do oceny systemów wykorzystuje własne modele. Może to prowadzić do sytuacji, w której model oceniający popełnia te same błędy co model poddawany ocenie. Laboratoria AI nie dysponują też obecnie wspólną metodologią, która pozwalałaby rzetelnie zestawić ze sobą wyniki Anthropic, OpenAI i Google DeepMind.

Byłoby zatem przedwczesne stwierdzenie, że Claude wykonuje już jedną czwartą pracy badaczy Anthropic lub rozwija się autonomicznie.

Znacznie trafniejszy — i w istocie ciekawszy — wniosek brzmi następująco: w coraz większej części najbardziej zaawansowanych prac nad AI ludzie przechodzą z roli bezpośrednich wykonawców do roli osób wyznaczających zadania i sprawujących nadzór.

Jeśli według metryki Anthropic w lutym Claude był w stanie kierować mniej niż 1 proc. prac rozwojowych, a w sierpniu już 26 proc., to właśnie tę krzywą należy przede wszystkim obserwować w przyszłych raportach. AI pomagająca budować kolejną AI nie jest już ideą teoretyczną. Na razie wciąż po prostu potrzebuje obok siebie człowieka.