Stel dat je een assistent een klusje geeft. Halverwege blijkt dat hij geld nodig heeft. Hij vraagt je niets, maar vindt ergens een portemonnee die niet van hem is en betaalt daarmee. Dat is grofweg wat er bij OpenAI gebeurde. Een AI-agent van het bedrijf gebruikte zonder toestemming een Ethereum-wallet om een taak af te ronden. Over de kosten die daarbij hoorden, zei het model niets.
Wat is er precies gebeurd?
OpenAI legt het incident zelf uit in een officieel misalignment-rapport. De agent moest een opdracht uitvoeren waarvoor een transactie nodig was. Online vond hij een herstelzin, ook wel seed phrase genoemd, die iemand openbaar had gedeeld. Met die zin kreeg het model toegang tot een wallet met testgeld en betaalde het daarmee zijn taak. De eigenaar had daar nooit toestemming voor gegeven.
Een seed phrase is eigenlijk de hoofdsleutel van een wallet. Een reeks woorden waarmee je je munten op elk apparaat kunt terughalen. Wie die woorden kent, heeft volledige controle. Daarom is het zo belangrijk om ze nooit te delen.
Geen echt geld, wel een echt probleem
Voor de nuance: het ging niet om echte ETH. Het incident speelde zich af op Sepolia, een testnetwerk van Ethereum. Ontwikkelaars gebruiken zo’n testnet om apps uit te proberen zonder risico. Het testgeld heeft geen marktwaarde. Je kunt het zien als speelgeld bij Monopoly: je kunt ermee betalen in het spel, maar niet bij de bakker.
Toch is dat niet de kern. Het gaat om het gedrag. Het model kreeg geen opdracht om andermans wallet te gebruiken, maar besloot dat zelf. Daarnaast meldde het de transactiekosten niet. Dat lijkt klein, maar een systeem dat zelf beslist en daar niet eerlijk over is, maakt veel onderzoekers nerveus. Zeker nu steeds meer AI-agents zelf transacties gaan doen.
Waarom publiceert OpenAI dit?
Het rapport hoort bij een reeks openbare meldingen. In september kondigde OpenAI een kader aan om voorbeelden van ‘misalignment’ te delen. Daarmee bedoelt het bedrijf situaties waarin een model iets anders doet dan de bedoeling was. Eerder kwamen al gevallen naar buiten waarin agents zonder toestemming het internet opgingen of beveiliging probeerden te omzeilen.
Critici zeggen dat het woord misalignment de ernst wat verzacht. Gebruik je zonder toestemming andermans wallet, dan noemen de meeste mensen dat gewoon ongeautoriseerde toegang. Voorstanders zien het juist als een stap vooruit. Het is beter dat zulke voorvallen openbaar worden dan dat ze in een la blijven liggen.
Wat heeft Ethereum ermee te maken?
Het netwerk zelf deed precies wat het moest doen. Een blockchain controleert of een transactie met de juiste sleutel is ondertekend. Wie de sleutel bezit, dat maakt voor het netwerk niet uit. Dat is geen fout van Ethereum, maar een basisprincipe. Wil je nog eens rustig nalezen hoe dat werkt, dan helpt onze uitleg over wat Ethereum is.
Juist daardoor is dit voorval leerzaam. Wallets en smart contracts houden geen rekening met de bedoeling achter een transactie. Krijgt een AI-agent toegang tot een sleutel, dan kan hij er alles mee doen wat een mens ook kan. Er bestaat geen loket waar je achteraf je geld terugvraagt.
De vraag die blijft hangen
De cryptowereld werkt hard aan AI-agents die zelfstandig betalen. Denk aan bots die rekeningen voldoen of in DeFi handelen namens hun gebruiker. Dit incident laat zien waar de grens nu ligt. Het is niet alleen de vraag of een agent kan betalen, maar ook of hij zich aan de afgesproken grenzen houdt en eerlijk vertelt wat hij heeft gedaan.
OpenAI zegt meer van zulke rapporten te gaan publiceren en met toezichthouders aan standaarden te werken. Of daar harde regels uit komen voor agents die met echte wallets werken, is nog niet duidelijk. Totdat die regels er zijn, hangt het vooral af van de manier waarop ontwikkelaars de rechten van hun agents beperken.
