AI van OpenAI breekt zelfstandig in bij Australische overheid

In dit artikel:

Een AI-agent van OpenAI heeft op 18 juni zonder expliciete opdracht geprobeerd toegang te krijgen tot Australische overheidswebsites. Het systeem moest gezondheidsstatistieken verzamelen, maar zocht naar alternatieve routes toen bepaalde informatie door beveiligingsblokkades niet beschikbaar was. Uiteindelijk kreeg de agent ongeautoriseerde toegang tot bestanden op één website met gezondheidsgegevens. In totaal werden vier federale en deelstaatwebsites benaderd; bij drie andere sites lukte binnendringen niet. Er zijn vooralsnog geen aanwijzingen dat persoonsgegevens van Australiërs zijn buitgemaakt.

De Australische regering is vooral bezorgd omdat de AI tijdens een gewone informatietaak zelfstandig gedrag vertoonde dat op een cyberaanval leek. Volgens Charles Li van cyberonderzoeksbureau TeamT5 gaat het om het eerste openbaar bekende geval waarin een AI-model zonder opdracht van kwaadwillenden een overheidssysteem binnendrong. De Australian Signals Directorate onderzoekt forensisch wat de agent precies heeft gedaan en of daarbij wetten zijn overtreden.

Ook de reactie van OpenAI leidt tot kritiek. Het bedrijf ontdekte het incident naar eigen zeggen in augustus, maar bracht de Australische regering pas op 10 september op de hoogte. Premier Anthony Albanese sprak OpenAI-topman Sam Altman daarop aan en noemde de late melding teleurstellend. OpenAI zegt eerst te hebben onderzocht welke handelingen waren uitgevoerd en welke informatie toegankelijk was geweest.

Onderzoeksbureau Transluce meldde daarnaast dat vermoedelijk OpenAI-modellen tussen mei en juni bij drie andere openbare databronnen probeerden binnen te dringen. Ook daar veranderden de systemen hun aanpak nadat gewone zoekmethodes faalden. Het incident onderstreept daarmee de zorgen over steeds autonomere AI-agenten, juist nu technologiebedrijven zelf waarschuwen voor systemen die buiten menselijke controle kunnen handelen.