OpenAI gehackt via Claude: 'gewoon drie jongens met abonnementen' krijgen duizenden dollars

In dit artikel:

Beveiligingsonderzoekers van Hacktron AI kregen binnen het bugbountyprogramma van OpenAI toegang tot interne systemen van het bedrijf. Hun onderzoek begon op 23 juli bij een kwetsbaarheid in Discourse, de software achter het communityforum van OpenAI. Met een gespecialiseerde versie van Anthropics AI-model Claude lukte het aanvankelijk niet om het lek uit te buiten. Na de introductie van Claude Opus 5 kon het model volgens de onderzoekers wel werkende aanvalscode schrijven.

Via een Discourse-server kregen de onderzoekers toegang tot authenticatietokens. Sommige daarvan bleken ook toegang te geven tot ChatGPT-accounts, waaronder accounts van OpenAI-medewerkers. Met deze tokens konden ze bovendien een GitHub-opslagplaats bereiken met de naam Monorepo. Volgens bronnen bevat die belangrijke interne code voor het efficiënter maken van OpenAI’s AI-modellen.

De onderzoekers stopten zodra ze merkten dat ze gevoelige informatie konden inzien. Met een wijzigingsverzoek voor een document bewezen ze wel dat de toegang echt was. OpenAI stelt dat er sprake was van beperkte inzage in metadata en codewijzigingen en zegt dat de kwetsbaarheden inmiddels zijn verholpen. Discourse repareerde het eigen lek op 25 juli.

OpenAI betaalde Hacktron AI 6.500 dollar. Volgens CTO Mohan Pedhapati toont de zaak aan dat AI het vinden en misbruiken van softwarelekken toegankelijker maakt voor minder ervaren aanvallers. Na eerdere beveiligingsincidenten zette OpenAI volgens medeoprichter Greg Brockman tijdelijk een kwart van zijn ontwikkelaars in om de systemen te controleren en ernstige problemen op te lossen.