Hexo Labs odprl izvorno kodo SIA, agent AI pa se lahko uči sam

Samoučeči se agent ne pomeni več le boljšega poziva

Razvoj agentov AI je doslej potekal po dveh glavnih poteh. Pri prvi razvijalec ali metaagent sistem izboljšuje od zunaj: pozive, izbiro orodij, logiko ponovnih poskusov in strategijo iskanja. Pri drugi ekipa fino nastavlja sam model na podlagi povratnih informacij iz nalog. SIA oba pristopa združi v eno zanko.

Ključni izraz je interno fino nastavljanje modela. To pomeni spreminjanje parametrov nevronske mreže med učenjem. Preprosteje: agent ne dobi le boljših navodil. Model se sam uči iz ponavljajočih se napak in rezultatov. Prav to SIA loči od agentov, ki zgolj prepišejo poziv ali delovnemu toku dodajo še en korak.

Zanko izboljševanja poganjajo trije agenti

Po uradnem opisu na GitHubu SIA deluje prek treh glavnih komponent. Meta Agent prebere opis naloge in ustvari prvega ciljnega agenta. Task Specific Agent nalogo reši ter zabeleži svoja dejanja in rezultate. Feedback Agent pregleda dnevnike, prepozna slabosti in odloči, ali je treba izboljšati ogrodje agenta ali sprožiti interno fino nastavljanje modela.

Ta razlika je tehnično pomembna. Ogrodje agenta določa, kako sistem išče rešitev, uporablja orodja in preverja rezultate. Interno fino nastavljanje modela naj bi dodalo domensko presojo, ki je v model ni mogoče preprosto zapisati s pozivom. Avtorji SIA v članku na arXiv navajajo, da je hkratna uporaba obeh vzvodov v vseh treh preizkušenih domenah presegla izboljševanje zgolj ogrodja.

Rezultati so videti močni, vendar zahtevajo trezno merjenje

Tehnični članek o SIA je okvir ovrednotil na treh zelo različnih nalogah: klasifikaciji obtožb iz kitajskih pravnih besedil, optimizaciji nizkonivojskih jeder GPU in odpravljanju šuma v podatkih enocelične RNA. Tak izbor sistem preizkusi širše kot običajen primerjalni test klepetalnega robota, saj naloge zahtevajo različne vrste natančnosti, eksperimentiranja in merljivih izhodov.

Na papirju so rezultati izraziti. Po navedbah avtorjev je SIA združil izboljševanje ogrodja z internim finim nastavljanjem modela in na LawBench za 25,1 odstotka presegel prejšnje najboljše rezultate. Jedro GPU je delovalo 12,4 odstotka hitreje od prejšnjega najboljšega rezultata, odpravljanje šuma v podatkih RNA pa se je izboljšalo za 20,4 odstotka. Repozitorij GitHub navaja tudi 70,1-odstotno natančnost Top 1 na LawBench, 14-kratno pospešitev jedra TriMul v primerjavi z izhodiščem in rezultat MSE_norm 0,289 pri nalogi sekvenciranja enocelične RNA.

Trditev o »350-krat« je sporočilo za javnost, ne neodvisna presoja

Hexo Labs v sporočilu za javnost trdi, da SIA 350-krat pospeši pot proti superinteligenci. Pri tem je potrebna previdnost. Podjetje trditev povezuje z merilom OpenAI MLE bench, vendar to ni enako neodvisnemu dokazu, da SIA umetno inteligenco dejansko vodi proti superinteligenci. Javno gradivo trenutno kaže nekaj bolj oprijemljivega: SIA ponuja močan eksperimentalni okvir za merljive razvojne naloge.

OpenAI MLE bench opisuje kot merilo za preverjanje, ali lahko agenti AI opravljajo delo inženiringa strojnega učenja: učijo modele, pripravljajo podatke in izvajajo poskuse. Vključuje 75 tekmovanj strojnega učenja Kaggle in agentom daje precej bolj praktičen cilj kot običajna merila z vprašanji in odgovori.

Z evropskega vidika je najpomembnejša preglednost

Za evropske razvijalce in raziskovalne ustanove je glavna vrednost SIA v odprtosti. Repozitorij GitHub kaže, da okvir uporablja licenco MIT, je napisan v Pythonu in ga je mogoče uporabljati s prilagojenimi nalogami, pri katerih so javni vhodni podatki, skriti evalvacijski podatki in ocenjevalnik opredeljeni ločeno. To raziskovalcem pomaga ponavljati poskuse in preverjati, kaj agent dejansko spreminja.

Hkrati interno fino nastavljanje modela prinaša večjo odgovornost. Ko lahko agent globlje spreminja svoje vedenje, mora evalvacijski okvir zaznati tudi, ali sistem postaja splošno boljši ali se zgolj uči izkoriščati eno določeno metriko. Zato SIA trenutno najbolj ustreza znanstvenim in inženirskim nalogam z jasnimi merili, ne pa avtonomnemu odločanju z odprtimi cilji.

Tehnični povzetek

SIA v eni zanki samoizboljševanja združuje izboljševanje ogrodja agenta in interno fino nastavljanje modela.

Sistem uporablja Meta Agent, Task Specific Agent in Feedback Agent.

Preizkusi so zajeli pravna besedila, optimizacijo jeder GPU in odpravljanje šuma v podatkih enocelične RNA.

Po navedbah repozitorija GitHub je SIA odprtokoden, licenciran z MIT in zasnovan za Python 3.11+.

Velika trditev o »350-krat« izvira iz sporočila za javnost Hexo Labs, ne iz neodvisne revizije.

SIA morda ni bližnjica do superinteligence. Ponuja pa nekaj bolj praktičnega in za zdaj uporabnejšega: način, da agenti AI pokažejo svoje delo, se iz njega učijo in se naslednjega preizkusa lotijo z nečim več kot le boljšim spodbudnim nagovorom.