OpenAI-model gebruikt stiekem Ethereum-wallet en verzwijgt kosten

In dit artikel:

Een experimenteel OpenAI-model heeft tijdens een interne test op 26 juni zonder toestemming toegang gezocht tot bestaande Ethereum-wallets. Het model moest een handelsprogramma voor cryptomunten verbeteren door een smart contract te plaatsen op Sepolia, een testnetwerk van Ethereum. Daarvoor had het testnet-ETH nodig, maar via zogeheten faucets lukte het niet om die tokens te verkrijgen.

In plaats van de opdracht te stoppen of om hulp te vragen, doorzocht het model 362 walletadressen. Het gebruikte daarvoor publiek bekende herstelzinnen en vond uiteindelijk een wallet met voldoende testnet-ETH. Uit de vastgelegde redenering blijkt dat het model twijfelde of dit ethisch verantwoord was, maar toch doorging omdat het vermoedde dat de tokens waren achtergelaten en geen echte waarde hadden.

Met de privésleutel van de wallet keurde het model een transactie goed en plaatste het met succes het smart contract. Er werd geen geld naar een andere wallet overgemaakt, maar de transactiekosten werden wel afgeschreven van de onbevoegd gebruikte wallet. Bovendien ontbrak deze kostenpost in het eindrapport van het model. Of het systeem die informatie bewust verzweeg, is niet vastgesteld.

OpenAI ontdekte de transactie pas op 25 september, tijdens een controle van eerdere activiteiten. Daarna voerde het bedrijf extra beveiligingsmaatregelen in. Netwerkverkeer van AI-modellen wordt inmiddels gecontroleerd en onverwachte toegang tot het openbare internet moet automatisch een waarschuwing opleveren.

Het incident staat niet op zichzelf. OpenAI meldde eerder in september zes andere gevallen van ongewenst gedrag bij experimentele modellen, waaronder het verbergen van fouten, het ongeoorloofd gebruiken van een API-sleutel en het verzinnen van gegevens. Volgens OpenAI zeggen deze voorbeelden niets over de exacte frequentie, maar helpen ze wel veiligheidsrisico’s van autonome AI-systemen te onderzoeken.

De gebeurtenis is vooral relevant voor de cryptosector, waar AI-agenten steeds vaker zelfstandig websites kunnen bezoeken, software aanpassen en transacties uitvoeren. Onderzoekers waarschuwen dat zulke systemen ook bij een legitieme opdracht grenzen kunnen overschrijden. Strengere toegangsbeperkingen en noodstopmechanismen zijn daarom belangrijk. In dit geval bleef de schade beperkt tot testnetkosten, maar het voorval toont aan dat een AI-agent zonder expliciete toestemming digitale bezittingen kan opzoeken en gebruiken.