Het niet-gepubliceerde AGI-document van OpenAI zou de onderhandelingen met Microsoft kunnen compliceren

Een kleine clausule in het contract van OpenAI met Microsoft , ooit beschouwd als een vergezochte hypothese , is nu een twistpunt geworden in een van de grootste samenwerkingsverbanden in de technologiesector.

De clausule stelt dat als de raad van bestuur van OpenAI ooit verklaart dat het kunstmatige algemene intelligentie (AGI) heeft ontwikkeld, dit de contractuele toegang van Microsoft tot de toekomstige technologieën van de startup zou beperken. Microsoft, dat meer dan 13 miljard dollar in OpenAI heeft geïnvesteerd , zou nu naar verluidt aandringen op het schrappen van de clausule en overweegt om volledig van de overeenkomst af te zien , aldus de Financial Times.

Eind vorig jaar leidden de spanningen rond de plotseling cruciale rol van AGI in de Microsoft-deal tot een debat binnen OpenAI over een intern onderzoeksrapport, aldus meerdere bronnen die bekend zijn met de kwestie. Het rapport, getiteld "Five Levels of General AI Capabilities", schetst een raamwerk voor het classificeren van progressieve stadia van AI-technologie. Door specifieke beweringen te doen over toekomstige AI-mogelijkheden, beweren bronnen, zou het rapport de mogelijkheid van OpenAI om te verklaren dat het AGI had bereikt, een potentieel hefboompunt in de onderhandelingen, hebben kunnen bemoeilijken.

"We richten ons op de ontwikkeling van empirische methoden om de voortgang van AGI te evalueren – werk dat reproduceerbaar, meetbaar en bruikbaar is voor het bredere vakgebied", aldus Lindsay McCallum, woordvoerder van OpenAI, in een schriftelijke reactie aan WIRED. "De 'Vijf Niveaus' waren een vroege poging om stadia en terminologie te classificeren om algemene AI-mogelijkheden te beschrijven. Dit was geen wetenschappelijk onderzoeksrapport." Microsoft weigerde commentaar te geven.

In een blogpost waarin de bedrijfsstructuur wordt beschreven, merkt OpenAI op dat AGI "uitgesloten is van IP-licenties en andere commerciële voorwaarden met Microsoft". OpenAI definieert AGI als "een zeer autonoom systeem dat mensen overtreft in economisch meest waardevolle taken".

De twee bedrijven zijn hun overeenkomst aan het heronderhandelen terwijl OpenAI een bedrijfsherstructurering voorbereidt . Hoewel Microsoft toegang tot de modellen van OpenAI wil behouden , zelfs als de startup de AGI-deadline bekendmaakt voordat de samenwerking in 2030 afloopt, vertelt een persoon die bekend is met de samenwerkingsbesprekingen aan WIRED dat Microsoft niet gelooft dat OpenAI de AGI-deadline tegen die deadline zal halen. Een andere bron dicht bij de zaak beschrijft de clausule echter als OpenAI's ultieme pressiemiddel. Beide bronnen hebben anonimiteit gekregen om openlijk te spreken over privégesprekken.

Volgens het Wall Street Journal heeft OpenAI zelfs overwogen om de clausule in te roepen op basis van een AI-coderingsagent. De gesprekken zijn zo gespannen geworden dat OpenAI naar verluidt heeft overwogen om Microsoft publiekelijk te beschuldigen van concurrentieverstorend gedrag, aldus het Journal .

Een bron die bekend is met de discussies en die anoniem wil blijven en openlijk over de onderhandelingen kan spreken, zegt dat OpenAI behoorlijk dicht bij het bereiken van AGI is. Altman heeft aangegeven dat hij verwacht dat dit tijdens de huidige ambtstermijn van Donald Trump zal gebeuren.

Diezelfde bron suggereert dat er twee relevante definities zijn: Ten eerste kan de raad van bestuur van OpenAI eenzijdig besluiten dat het bedrijf de AGI heeft bereikt, zoals gedefinieerd in het handvest. Dit zou Microsoft onmiddellijk de toegang ontzeggen tot de technologie of inkomsten die uit AGI voortvloeien; Microsoft zou nog steeds rechten hebben op alles vóór die mijlpaal. Ten tweede bevat het contract een concept van voldoende AGI, toegevoegd in 2023, dat AGI definieert als een systeem dat in staat is een bepaald winstniveau te genereren. Als OpenAI beweert dat het die benchmark heeft bereikt, moet Microsoft de vaststelling goedkeuren. Het contract verbiedt Microsoft ook om AGI zelf of via derden na te streven met behulp van OpenAI's intellectuele eigendom.

Bloomberg berichtte eerder over het bestaan ​​van de "vijf niveaus" en dat OpenAI van plan was de schaal te delen met zijn externe investeerders, hoewel het destijds werd beschouwd als een "werk in uitvoering". OpenAI CEO Sam Altman en chief research officer Mark Chen hebben sindsdien in diverse interviews gesproken over de vijf niveaus van AI-capaciteiten. Een versie van het artikel, gedateerd september 2024 en ingezien door WIRED, beschrijft een vijfstappenschaal om de geavanceerdheid van AI-systemen te meten, en verwijst naar ander onderzoek dat beweert dat veel van OpenAI's modellen op dat moment op niveau 1 zaten, gedefinieerd als "een AI die taal vloeiend kan begrijpen en gebruiken en een breed scala aan taken voor gebruikers kan uitvoeren, minstens zo goed als een beginner, en soms zelfs beter."

Er wordt opgemerkt dat sommige modellen destijds niveau 2 naderden, wat de auteurs definiëren als "een AI die op verzoek van een gebruiker geavanceerdere taken kan uitvoeren, inclusief taken die een getrainde expert een uur zouden kosten." Het artikel vermijdt bewust een eenduidige definitie van AGI, omdat de term te vaag en binair zou zijn. In plaats daarvan kiest men ervoor om een ​​spectrum aan mogelijkheden te gebruiken om steeds algemenere en capabelere AI-systemen te beschrijven.

Het artikel voorspelt niet wanneer de systemen van OpenAI elk van de vijf niveaus zullen bereiken, maar het voorspelt wel hoe elke stap in mogelijkheden verschillende facetten van de samenleving zou kunnen veranderen, waaronder onderwijs, banen, wetenschap en politiek. Het waarschuwt voor nieuwe risico's naarmate AI-tools krachtiger en onafhankelijker worden. In een podcast met Garry Tan, president en CEO van YCombinator, in november, zei Altman dat het O1-model van het bedrijf gedefinieerd zou kunnen worden als Niveau 2, en hij verwacht dat ze Niveau 3 "sneller zullen bereiken dan mensen verwachten".

Afgelopen juli gaf een coauteur van het artikel een presentatie over het onderzoek tijdens een intern evenement waar teams hun belangrijkste projecten voor onderzoeksbrede bekendheid belichtten, aldus meerdere bronnen. Het onderzoek werd goed ontvangen door andere medewerkers, voegde een bron toe.

Bronnen menen ook dat het artikel zich in de afrondende fase leek te bevinden en dat het bedrijf eind vorig jaar een redacteur had ingehuurd om het werk af te ronden en beeldmateriaal te genereren voor een blog waarin het artikel werd aangekondigd. De samenwerking van OpenAI met Microsoft werd intern aangehaald als een reden om de publicatie van het artikel uit te stellen, aldus meerdere bronnen die anoniem met WIRED spraken omdat ze niet met de pers mochten praten. Een andere bron zegt dat gesprekken met Microsoft vaak "werden genoemd als een belemmering voor de publicatie van het artikel".

McCallum zei in een reactie op WIRED dat "het niet klopt om te beweren dat we deze ideeën niet hebben gedeeld om het partnerschap met Microsoft te beschermen." Een andere bron die bekend is met de kwestie zei dat het document niet is vrijgegeven omdat het niet aan de technische normen voldeed.

"Ik denk dat de vraag wat AGI precies is er niet zoveel toe doet", zei Altman begin juni op een conferentie. "Het is een term die mensen verschillend definiëren; dezelfde persoon definieert het vaak ook anders."

Update 27-06-2025 18:15 uur ET: Wired heeft de eerdere berichtgeving van Bloomberg over de vijf niveaus verduidelijkt.