Hexo Labs atver SIA pirmkodu un ļauj MI aģentam mācīt pašam sevi
Hexo Labs prezentējis atvērtā pirmkoda MI aģentu ietvaru SIA, jeb Self Improving Agent. Tas ne tikai uzlabo uzvednes un darbplūsmas. Galvenais apgalvojums ir ambiciozāks: aģents analizē savus mēģinājumus, maina darba metodes un, ja vajadzīgs, sāk iekšēju modeļa pielāgošanu, lai nākamo ciklu veiktu labāk.
Pašuzlabojošs aģents vairs nenozīmē tikai labāku uzvedni.
MI aģentu izstrāde līdz šim virzījusies pa diviem galvenajiem ceļiem. Vienā izstrādātājs vai meta aģents uzlabo sistēmu no ārpuses: uzvednes, rīku izvēli, atkārtotu mēģinājumu loģiku un meklēšanas stratēģiju. Otrā komanda pielāgo pašu modeli, izmantojot uzdevumu atgriezenisko saiti. SIA apvieno abas pieejas vienā ciklā.
Galvenais jēdziens šeit ir iekšēja modeļa pielāgošana, proti, neironu tīkla parametru maiņa apmācības laikā. Vienkāršāk sakot, aģents nesaņem tikai labākas instrukcijas. Pats modelis mācās no atkārtotām kļūdām un rezultātiem. Tas atšķir SIA no aģentiem, kas vienkārši pārraksta uzvedni vai darbplūsmai pievieno vēl vienu soli.
Uzlabojumu ciklu vada trīs aģenti.
Saskaņā ar oficiālo GitHub aprakstu SIA darbojas ar trim galvenajiem komponentiem. Meta Agent nolasa uzdevuma aprakstu un izveido pirmo mērķa aģentu. Task Specific Agent risina uzdevumu un reģistrē savas darbības un rezultātus. Feedback Agent pārskata žurnālus, nosaka vājās vietas un izlemj, vai uzlabot aģenta ietvaru vai palaist iekšēju modeļa pielāgošanu.
Tehniski šī atšķirība ir būtiska. Aģenta ietvars nosaka, kā sistēma meklē risinājumu, izmanto rīkus un pārbauda rezultātus. Iekšējai modeļa pielāgošanai būtu jāpapildina modelis ar domēna spriestspēju, ko uzvedne nevar tajā vienkārši ierakstīt. arXiv publikācijā SIA autori norāda, ka abu sviru izmantošana kopā visās trīs pārbaudītajās jomās pārspēja tikai ietvara uzlabošanu.
Rezultāti izskatās spēcīgi, taču tie jāvērtē piesardzīgi.
SIA tehniskajā publikācijā ietvaru vērtēja trīs ļoti atšķirīgos uzdevumos: apsūdzības klasifikācijā no Ķīnas juridiskajiem tekstiem, zema līmeņa GPU kodola optimizācijā un vienšūnas RNS datu attrokšņošanā. Šāda izvēle dod sistēmai plašāku pārbaudi nekā standarta čatbota etalontests, jo uzdevumi prasa atšķirīgu precizitāti, eksperimentēšanu un izmērāmu rezultātu.
Uz papīra rezultāti ir izteiksmīgi. Pēc autoru teiktā, SIA apvienoja ietvara uzlabošanu ar iekšēju modeļa pielāgošanu un LawBench par 25,1 procentu pārspēja iepriekšējo labāko sasniegumu. GPU kodols darbojās par 12,4 procentiem ātrāk nekā iepriekšējais labākais sasniegums, savukārt RNS datu attrokšņošana uzlabojās par 20,4 procentiem. GitHub repozitorijā norādīta arī 70,1 procenta Top 1 precizitāte LawBench testā, TriMul kodola 14 reižu paātrinājums pret bāzes līniju un MSE_norm rezultāts 0,289 vienšūnas RNS sekvencēšanas uzdevumā.
Apgalvojums par “350 reizēm” ir preses paziņojuma frāze, nevis neatkarīgs vērtējums.
Hexo Labs savā preses paziņojumā apgalvo, ka SIA 350 reizes paātrina ceļu uz superintelektu. Pret šo apgalvojumu jāizturas piesardzīgi. Uzņēmums to sasaista ar OpenAI MLE bench, taču tas nav tas pats, kas neatkarīgs pierādījums, ka SIA patiešām virza MI uz superintelektu. Publiski pieejamie materiāli pašlaik rāda piezemētāku ainu: SIA piedāvā spēcīgu eksperimentālu ietvaru izmērāmiem izstrādes uzdevumiem.
OpenAI MLE bench raksturo kā etalontestu, ar ko pārbauda, vai MI aģenti spēj veikt mašīnmācīšanās inženierijas darbu: apmācīt modeļus, sagatavot datus un veikt eksperimentus. Tajā iekļautas 75 Kaggle mašīnmācīšanās sacensības, un tas aģentiem dod daudz praktiskāku mērķi nekā parasti jautājumu un atbilžu etalontesti.
Eiropas skatījumā svarīgākā daļa ir caurspīdīgums.
Eiropas izstrādātājiem un pētniecības institūcijām SIA galvenā vērtība ir atvērtība. GitHub repozitorijs rāda, ka ietvars izmanto MIT licenci, ir rakstīts Python un to var izmantot ar pielāgotiem uzdevumiem, kuros publiskās ievades, slēptie vērtēšanas dati un vērtētājs definēti atsevišķi. Tas palīdz pētniekiem atkārtot eksperimentus un pārbaudīt, ko aģents patiesībā maina.
Vienlaikus iekšēja modeļa pielāgošana nozīmē lielāku atbildību. Ja aģents var dziļāk mainīt savu uzvedību, vērtēšanas ietvaram jāspēj noteikt, vai sistēma kopumā kļūst labāka vai tikai iemācās izmantot vienu konkrētu metriku savā labā. Tāpēc SIA pašlaik vislabāk iederas zinātniskos un inženiertehniskos uzdevumos ar skaidriem mērījumiem, nevis autonomā lēmumu pieņemšanā ar atvērtiem mērķiem.
Tehniskais kopsavilkums.
SIA vienā pašuzlabošanās ciklā apvieno aģenta ietvara uzlabošanu un iekšēju modeļa pielāgošanu.
Sistēma izmanto Meta Agent, Task Specific Agent un Feedback Agent.
Testi aptvēra juridiskos tekstus, GPU kodola optimizāciju un vienšūnas RNS datu attrokšņošanu.
Saskaņā ar GitHub repozitoriju SIA ir atvērtā pirmkoda projekts ar MIT licenci, kas veidots Python 3.11+ videi.
Plašais apgalvojums par “350 reizēm” nāk no Hexo Labs preses paziņojuma, nevis no neatkarīga audita.
SIA, iespējams, nav īsākais ceļš uz superintelektu. Tas piedāvā ko praktiskāku un pagaidām noderīgāku: veidu, kā likt MI aģentiem parādīt savu darbu, mācīties no tā un nākamo pārbaudi sagaidīt ar kaut ko vairāk nekā tikai labāku uzmundrinājumu.
