Dit is waarom Fable 5 van Anthropic werd stopgezet door de Amerikaanse overheid
In dit artikel:
Onderzoekers van Amazon stuitten op een kwetsbaarheid in Fable 5, het nieuwste AI-model van Anthropic, waardoor het systeem mogelijk beveiligingsmaatregelen kon omzeilen en informatie zou kunnen produceren die misbruikers voor cyberaanvallen kunnen gebruiken. Omdat Amazon de bevindingen ernstig genoeg achtte, werden zorgen intern en bij beleidsmakers in Washington aangekaart; ook Amazon-topman Andy Jassy zou hierbij betrokken zijn geweest.
De kwestie escaleerde snel. De Amerikaanse regering nam contact op met Anthropic‑oprichter Dario Amodei met het verzoek het model tijdelijk van de markt te halen totdat de fout was verholpen. Amodei zou zich tegen dat verzoek hebben verzet, waarna Washington besloot tot striktere maatregelen: exportbeperkingen werden opgelegd en Anthropic trok Fable 5 vrijdagavond terug. David Sacks, medevoorzitter van de Presidentiële Adviesraad voor Wetenschap en Technologie, bevestigt dat die stap voortkwam uit veiligheidszorgen en zei dat de regering het besluit met tegenzin nam; de beperkingen kunnen worden opgeheven zodra de kwetsbaarheid is opgelost.
Anthropic houdt vol dat de risico’s zijn overdreven en spreekt van een misverstand. Volgens het bedrijf betrof het een specifieke zwakte die alleen onder beperkte omstandigheden misbruikt kon worden en dat er aan een oplossing wordt gewerkt. Amazon wilde niet expliciet bevestigen dat het direct met overheidsfunctionarissen heeft gesproken en benadrukte dat overheden regelmatig advies inwinnen over digitale veiligheid.
De situatie is een zeldzaam voorbeeld van rechtstreekse overheidsinterventie in de uitrol van een commercieel AI-model en illustreert hoe gevoelig AI‑ontwikkeling inmiddels is geworden: waar bedrijven eerder vrijuit konden ontwikkelen, grijpt Washington vaker in wanneer er nationale‑veiligheidsrisico’s worden gezien. Deze zaak kan precedentwerking hebben voor toekomstige controles op krachtige AI-systemen en benadrukt de spanning tussen snelle innovatie en risico‑beheersing.