Claude bouwt al aan zijn eigen opvolgers, maar volledige autonomie is nog ver weg

Voordat we ons laten meeslepen door sciencefiction, is het echter goed om de begrippen af te bakenen. Claude zit niet in een digitaal laboratorium zelfstandig te beslissen welk model het hierna moet bouwen dat slimmer zal zijn dan Claude zelf.

Anthropic hanteert een automatiseringsschaal van AL0 tot AL5. AL4, oftewel ‘leidt’, betekent dat AI een algemene taak van een mens krijgt en het grootste deel daarvan van begin tot eind zelf kan uitvoeren. Een mens houdt toezicht op het werk, maar hoeft niet langer elke stap vooraf te specificeren. AL5 zou volledige autonomie zonder menselijke tussenkomst betekenen. Bij het ontwikkelingswerk dat Anthropic heeft gemeten, heeft Claude dat niveau nog op geen enkel gebied bereikt.

De sprong van 1% naar 26% is belangrijker dan de pakkende kop

Het opvallendst is niet eens het huidige aandeel van 26%, maar de snelheid van de verandering. Nog maar in februari lag het aandeel van het werk dat door Claude werd geleid onder de 1%.

Dit zorgt voor een interessante terugkoppeling bij de ontwikkeling van AI. Een beter model helpt onderzoekers en ingenieurs het volgende model te bouwen, dat vervolgens een nog groter deel van het werk aan de daaropvolgende generatie voor zijn rekening zou moeten kunnen nemen.

Een recent voorbeeld van Anthropic zelf laat zien wat zo’n taakverdeling in de praktijk betekent. In minder dan vier weken optimaliseerde Claude meer dan 30 opensourcemodellen voor biomoleculaire modellering, waardoor die gemiddeld ongeveer vier keer zo snel werden.

Het gaat dus niet langer alleen om een chatbot die voor een ingenieur enkele regels Python-code schrijft. Aan agents kunnen steeds grotere, complete werkpakketten worden toegewezen.

In het laboratorium van Anthropic werken ongeveer 30.000 AI-agents tegelijk

De schaal maakt het verhaal nog interessanter. Op het meest gebruikte interne platform van Anthropic werken ongeveer 30.000 agents tegelijkertijd aan onderzoeks- en technische taken. Het bedrijf houdt de activiteiten van de agents onder controle met geautomatiseerde veiligheidssystemen.

Dit is een goed voorbeeld van hoe ‘AI op het werk’ er in werkelijkheid begint uit te zien. Eén chatvenster met Claude is niet bijzonder spectaculair. Tienduizenden agents die parallel taken oplossen, zijn dat wel.

Anthropic benadrukt het belang van toezicht, omdat de beslissingen die agents tijdens hun werk nemen belangrijker worden naarmate ze grotere taken krijgen. Op een gegeven moment is de vraag niet langer of het model de juiste regel code heeft geschreven, maar welke onderzoeksrichting het überhaupt heeft gekozen.

Het cijfer moet nog altijd met een korreltje zout worden genomen

Het cijfer van 26% is geen onafhankelijke audit of universele industrienorm. De meetmethode is door Anthropic ontwikkeld en het bedrijf erkent zelf dat het zijn eigen modellen gebruikt om de systemen te beoordelen. Daardoor kan een situatie ontstaan waarin het beoordelende model dezelfde fouten maakt als het model dat wordt beoordeeld. AI-laboratoria beschikken momenteel bovendien niet over een gezamenlijke methodologie waarmee de cijfers van Anthropic, OpenAI en Google DeepMind op een eerlijke manier naast elkaar kunnen worden gelegd.

Het zou daarom voorbarig zijn om te stellen dat Claude nu al een kwart van het werk van de onderzoekers bij Anthropic verricht of zichzelf autonoom ontwikkelt.

Een veel nauwkeuriger — en eigenlijk interessantere — conclusie is deze: bij een steeds groter deel van de meest geavanceerde AI-ontwikkeling verschuift de rol van mensen van uitvoerders naar opdrachtgevers en toezichthouders.

Als Claude volgens de meetmethode van Anthropic in februari minder dan 1% van het ontwikkelingswerk kon leiden en in augustus al 26%, dan is deze ontwikkeling het belangrijkste om in toekomstige rapporten in de gaten te houden. AI die helpt de volgende AI te bouwen, is geen theoretisch idee meer. Voorlopig heeft die AI alleen nog altijd een mens naast zich nodig.