Claude už vytváří své vlastní nástupce, ke skutečnému autopilotu má ale stále daleko
Vývoj umělé inteligence začíná připomínat kruhový proces. Společnost Anthropic uvedla, že Claude už „vede“ 26 % jejího výzkumu a vývoje v oblasti AI. V únoru byl tento podíl nižší než 1 %. Ještě působivější je, že AI se alespoň jako spolupracovník podílí na více než 90 % vývojových prací společnosti Anthropic.
Než se však necháme unést představami ze světa science fiction, je třeba vyjasnit si pojmy. Claude nesedí v digitální laboratoři a samostatně nerozhoduje, jaký model vytvořit jako další, aby byl chytřejší než on sám.
Anthropic používá stupnici automatizace od AL0 do AL5. Úroveň AL4 neboli „vede“ znamená, že AI dostane od člověka obecné zadání a většinu práce dokáže od začátku do konce dokončit sama. Člověk na práci dohlíží, ale už nemusí předem určovat každý jednotlivý krok. AL5 by znamenala plnou autonomii bez člověka. V rámci vývojových prací hodnocených společností Anthropic však Claude této úrovně zatím nedosáhl v žádné oblasti.
Skok z 1 % na 26 % je důležitější než chytlavý titulek
Nejpozoruhodnější není ani současných 26 %, ale rychlost změny. Ještě v únoru byl podíl práce vedené Claudem nižší než 1 %.
Ve vývoji AI tak vzniká poměrně zajímavá zpětná vazba. Lepší model pomáhá výzkumníkům a inženýrům vytvořit model následující, který by pak měl zvládnout ještě větší část práce spojené s vývojem další generace.
Nedávný příklad společnosti Anthropic ukazuje, co taková dělba práce znamená v praxi. Za méně než čtyři týdny Claude optimalizoval více než 30 open-source modelů pro biomolekulární modelování a v průměru je přibližně čtyřnásobně zrychlil.
Už tedy nejde jen o chatbot, který inženýrovi napíše několik řádků kódu v Pythonu. Agentům lze svěřovat stále rozsáhlejší a ucelenější pracovní úkoly.
V laboratoři společnosti Anthropic pracuje současně přibližně 30 000 agentů AI
Ještě zajímavější je rozsah celého systému. Na nejpoužívanější interní platformě společnosti Anthropic pracuje současně přibližně 30 000 agentů na výzkumných a inženýrských úkolech. Společnost jejich činnost kontroluje pomocí automatizovaných bezpečnostních systémů.
Jde o velmi názorný příklad toho, jak začíná nasazení AI při práci vypadat ve skutečnosti. Jedno chatovací okno s Claudem není nijak zvlášť působivé. Desítky tisíc agentů, kteří souběžně řeší různé úkoly, ano.
Anthropic zdůrazňuje význam dohledu, protože čím větší úkoly agenti dostávají, tím důležitější jsou rozhodnutí, která během práce činí. V určitém okamžiku už nejde o to, zda model napsal správný řádek kódu, ale jaký směr výzkumu si vůbec zvolil.
Údaj je přesto třeba brát s rezervou
Hodnota 26 % nepochází z nezávislého auditu ani nepředstavuje univerzální oborový standard. Metriku vyvinula společnost Anthropic, která sama připouští, že k hodnocení systémů používá vlastní modely. Může tak nastat situace, kdy hodnoticí model dělá stejné chyby jako hodnocený model. Laboratoře zabývající se AI navíc v současnosti nemají společnou metodiku, která by umožňovala spravedlivě porovnat údaje společností Anthropic, OpenAI a Google DeepMind.
Bylo by proto předčasné prohlašovat, že Claude už vykonává čtvrtinu práce výzkumníků společnosti Anthropic nebo že se vyvíjí autonomně.
Mnohem přesnější — a zároveň zajímavější — závěr zní takto: ve stále větší části špičkového vývoje AI se lidé přesouvají z role těch, kdo práci přímo vykonávají, do role těch, kdo zadávají úkoly a dohlížejí na jejich plnění.
Jestliže Claude podle metriky společnosti Anthropic dokázal v únoru vést méně než 1 % vývojových prací a v srpnu už 26 %, bude právě vývoj této křivky tím hlavním, co sledovat v budoucích zprávách. AI, která pomáhá vytvářet další AI, už není jen teoretickou představou. Prozatím však stále potřebuje člověka po svém boku.
