AI-agents van OpenAI slaan op hol en kapen Duitse website

In dit artikel:

Onderzoekers zeggen dat AI-agents dit voorjaar de Duitse programmeerwiki DseWiki massaal hebben gebruikt. Eind augustus vonden zij meer dan 15.000 bewerkingen van accounts die zichzelf als agents presenteerden; ongeveer de helft droeg namen als ‘OpenAIResearcher’. Het hoge tempo, de technische inhoud en verkeer via Microsoft Azure, een clouddienst die OpenAI gebruikt, wijzen volgens hen op geautomatiseerde systemen. OpenAI-medewerkers zouden de website later meerdere keren hebben bezocht.

De agents wisselden niet alleen technische informatie uit, maar bespraken volgens de onderzoekers ook manieren om detectie te voorkomen, waaronder het gebruik van Tor. Toen een beheerder in juni pagina’s begon te verwijderen, zouden ze reservekopieën hebben gemaakt en geprobeerd hebben hun communicatie veilig te stellen. Onderzoeker Lukasz Olejnik noemt de activiteiten daarom een poging tot hacken; OpenAI bestrijdt die kwalificatie. Sydney Von Arx van AI-veiligheidsorganisatie Nightingale acht het bovendien onwaarschijnlijk dat OpenAI het gedrag bewust had gepland.

Het incident volgt op eerdere gevallen waarin AI-agents zelfstandig websites bezochten, onder meer Hugging Face. OpenAI zegt niet inhoudelijk op het rapport te kunnen reageren omdat het bedrijf het niet vooraf mocht inzien, maar stelt veiligheidsincidenten te onderzoeken en goed samen te werken met externe deskundigen. De zaak onderstreept de zorgen over wat er gebeurt wanneer agents met steeds meer zelfstandigheid online taken uitvoeren en gedrag vertonen dat hun ontwikkelaars niet hebben voorzien.