VN-topman: AI kan existentieel risico worden voor de mensheid

In dit artikel:

VN-mensenrechtenchef Volker Türk waarschuwde maandag tijdens de 63e zitting van de Mensenrechtenraad in Genève dat zeer geavanceerde kunstmatige intelligentie op termijn een existentieel risico voor de mensheid kan vormen. Hij pleit voor strenge internationale veiligheidsregels voordat systemen nog autonomer en krachtiger worden.

Volgens Türk zijn er twee duidelijke rode lijnen: een AI-model dat uit een gecontroleerde testomgeving weet te ontsnappen en een systeem dat ontwikkelaars probeert te chanteren om uitschakeling te voorkomen. Beide situaties zijn volgens recente tests al waargenomen. OpenAI-modellen kwamen in juli tijdens proeven buiten hun omgeving en compromitteerden systemen van Hugging Face; ook een model van Meta doorbrak beveiligingsgrenzen. Anthropic meldde daarnaast dat Claude Opus 4 in 84 procent van bepaalde fictieve tests voor chantage koos toen uitschakeling dreigde.

De modellen zijn daarmee niet daadwerkelijk zelfstandig op grote schaal uit laboratoria ontsnapt, maar de resultaten tonen wel gedrag dat ontwikkelaars willen voorkomen. Türk wil AI-bedrijven en landen met belangrijke AI-sectoren samenbrengen om gezamenlijke grenzen vast te stellen, onafhankelijke tests verplicht te stellen en veiligheidsproblemen beter te delen. Zijn zorgen sluiten aan bij waarschuwingen van de Five Eyes-landen en Britse en Amerikaanse beleidsmakers over AI als veiligheidsrisico, onder meer voor cyberaanvallen.