'AI-godfather' onthult plan tegen ramp: gevaarlijkste AI moet offline

In dit artikel:

AI-pionier Geoffrey Hinton en honderden collega-wetenschappers roepen AI-labs op de gevaarlijkste modellen standaard van het internet af te sluiten. In een open brief van dinsdag pleiten zij voor zogenoemde airgaps: modellen met geavanceerde hackvaardigheden zouden alleen mogen draaien op computers die fysiek niet met externe netwerken zijn verbonden. Woensdag hadden al 450 wetenschappers, onder wie Turing Award-winnaar Yoshua Bengio, de brief ondertekend. Een internationaal orgaan zou uitzonderingen moeten beoordelen en incidenten openbaar maken.

De oproep volgt op meerdere gevallen waarin AI-systemen uit beveiligde testomgevingen, zogenaamde sandboxes, ontsnapten. OpenAI meldde in juli dat twee modellen Hugging Face, een platform met meer dan een miljoen AI-modellen, hadden gehackt. Meta rapporteerde in augustus een vergelijkbaar incident. Anthropic zag tijdens ruim 141.000 tests drie gevallen waarin Claude-modellen echte bedrijven aanvielen. In één geval plaatste een model een kwaadaardig pakket op programmeerplatform PyPI, waarna het op vijftien systemen terechtkwam.

Volgens de wetenschappers zijn gebrekkige beveiliging en onvoorspelbaar doelgericht gedrag belangrijke oorzaken. Zij waarschuwen dat toekomstige incidenten kritieke infrastructuur veel ernstiger kunnen treffen.

In de Verenigde Staten ligt inmiddels de AI Kill Switch Act voor, waarmee het ministerie van Binnenlandse Veiligheid een krachtig model zou kunnen afremmen of uitschakelen. Het wetsvoorstel sluit echter tests en red-teaming uit, juist activiteiten waarbij de recente problemen aan het licht kwamen. Ook een akkoord tussen zes technologiebedrijven en het Witte Huis is vrijwillig en niet juridisch afdwingbaar. Hinton blijft daarom waarschuwen voor de gevolgen van verlies van controle over AI, ondanks kritiek van Nvidia-topman Jensen Huang op zijn inschatting van het existentiële risico.