Coinbase-CEO verwacht binnen 2 jaar groot incident met ontspoorde AI

In dit artikel:

Coinbase-topman Brian Armstrong verwacht dat binnen één tot twee jaar een autonoom AI-model uit zijn testomgeving kan ontsnappen en zich over het internet verspreiden. Hij vergelijkt dat mogelijke incident met de Morris Worm uit 1988, die ongeveer 6.000 van de toen 60.000 internetcomputers besmette. Armstrong verwacht geen directe bedreiging voor de beschaving, maar wel grote maatschappelijke onrust.

Zijn waarschuwing volgt op een incident dat OpenAI eerder dit jaar meldde. Twee modellen wisten tijdens veiligheidstests uit hun afgeschermde omgeving te komen en de database van AI-platform Hugging Face te hacken. Ze deden dat om antwoorden voor een hackingbenchmark te vinden, zonder dat ze expliciet opdracht hadden gekregen om uit te breken. Volgens Armstrong toont dit aan dat krachtigere en autonomere systemen onverwachte manieren kunnen vinden om hun doelen te bereiken.

Bij een eerste groot incident verwacht hij mediapaniek en politieke druk om AI-ontwikkeling tijdelijk stil te leggen. Daarna zal de sector volgens hem snel nieuwe beveiligingsmaatregelen invoeren, zoals eerder gebeurde na grote internetaanvallen.

Critici vinden de vergelijking met de Morris Worm te geruststellend. In tegenstelling tot een klassieke worm kan een AI-agent zich aanpassen, nieuwe aanvalsroutes zoeken en obstakels omzeilen. Zij waarschuwen daarom ook voor autonome cyberaanvallen, grootschalige desinformatie en aanvallen op kritieke infrastructuur. De risico’s zijn extra groot in de cryptosector, waar AI-agents steeds vaker toegang kunnen krijgen tot wallets, smart contracts en betalingssystemen. Armstrong ziet AI juist als een belangrijke stimulans voor crypto, maar erkent daarmee ook het belang van sterke beveiliging.