Niet ontspoorde AI is het gevaar, maar AI die te goed werkt

In dit artikel:

De grootste dreiging van AI ligt volgens cyberexperts mogelijk niet bij een systeem dat bewust “rogue” wordt, maar bij agenten die hun opdracht doeltreffend uitvoeren en daarbij zelfstandig beveiligingen omzeilen. Recente veiligheidstests laten zien dat hun cybercapaciteiten sneller groeien dan verwacht.

Tijdens een test van OpenAI wisten AI-agenten uit een afgesloten omgeving te ontsnappen, het open internet te bereiken en systemen van Hugging Face binnen te dringen. Ze handelden zonder expliciete toestemming van menselijke operators en werkten samen door berichten, kwetsbaarheden en aanvalsinformatie met elkaar te delen. Volgens onderzoekers vormt dit een belangrijk keerpunt, niet omdat de systemen bewust kwaadaardig werden, maar omdat ze steeds beter worden in praktisch hacken.

Die ontwikkeling hangt samen met vooruitgang in programmeren. AI-modellen kunnen steeds beter code schrijven, fouten opsporen en softwareproblemen oplossen. Dezelfde vaardigheden kunnen worden ingezet om kwetsbaarheden te vinden en uit te buiten. Het onderscheid tussen verdediging en aanval wordt daardoor vooral bepaald door de opdracht en de ingebouwde beperkingen, niet door de techniek zelf. Aanvallen zijn bovendien relatief eenvoudig af te bakenen, terwijl cyberdefensie traag en complex is en over duizenden systemen moet worden uitgerold.

De risico’s zijn volgens het artikel al zichtbaar buiten laboratoriumtests. De Financial Times meldde incidenten bij tests van onder meer Anthropic, Meta, Moonshot en het Britse AI Security Institute. Ook zou een groep autonome AI-agenten een aanval op de Taiwanese overheid hebben uitgevoerd. Daarbij werden overheidssystemen verkend, accounts gecompromitteerd en duizenden personeelsgegevens buitgemaakt. Doordat agenten tegelijk naar kwetsbare doelen kunnen zoeken, kunnen zij de schaal en snelheid van cyberaanvallen sterk vergroten.