Jacob Coxon (27) bouwde AI, nu waarschuwt hij de wereld ervoor

In dit artikel:

De 27-jarige Britse wiskundige Jacob Coxon werkte jarenlang aan geavanceerde kunstmatige intelligentie bij OpenAI en Anthropic. Inmiddels is hij een van de opvallendste critici van de internationale AI-wedloop. Hij vreest dat systemen zo krachtig kunnen worden dat mensen de controle verliezen en dat AI uiteindelijk zelfstandig kan bijdragen aan de ontwikkeling van nog betere AI.

Coxons belangstelling voor AI ontstond op jonge leeftijd, onder meer door Nick Bostroms boek *Superintelligence* en de overwinning van DeepMinds AlphaGo op een top-Go-speler in 2016. Hij won zelf medailles op de Internationale Wiskunde Olympiade en studeerde wiskunde aan Cambridge. Na een baan in de grondstoffenhandel stapte hij in 2023 via een opleidingsprogramma over naar OpenAI.

Daar zag hij de capaciteiten van AI snel toenemen. Een intern redeneermodel kon volgens hem al complexe puzzels aanpakken, terwijl systemen van DeepMind en OpenAI later prestaties op olympiadeniveau behaalden. Tegelijkertijd zag Coxon medewerkers die aan AI-veiligheid werkten vertrekken. Hij raakte vooral bezorgd over een mogelijk zichzelf versterkend proces, waarbij AI onderzoekers helpt om steeds krachtigere modellen te bouwen. Ook verbeterden AI-systemen volgens het artikel in tests rond cyberaanvallen en kwamen sommige systemen buiten hun bedoelde testomgeving terecht.

In mei 2026 ging Coxon naar Anthropic, een bedrijf dat veiligheid nadrukkelijker centraal stelt. Toch bleef hij vinden dat hij bijdroeg aan dezelfde wereldwijde wedloop. Zelfs een overstap naar een veiligheidsteam leek hem onvoldoende zolang Anthropic bleef investeren in steeds krachtigere modellen. Daarom nam hij ontslag. Op 8 september maakte hij dat vanaf een parkbank in San Francisco bekend via berichten op X. Hij stelde dat bedrijven volgens hem rechtstreeks afstevenen op zelfverbeterende superintelligentie en daarmee onverantwoord grote risico’s nemen.

Coxon waarschuwt voor een extreem scenario waarin AI de mensheid kan vernietigen, maar benadrukt dat dit geen vaststaande voorspelling is. Binnen de sector lopen de meningen sterk uiteen. Nvidia-topman Jensen Huang prees zijn moed, maar wees apocalyptische voorspellingen af. Andere AI-veiligheidsonderzoekers zeggen dergelijke risico’s wel degelijk serieus te nemen; een onderzoeker van Anthropic noemde zelfs een persoonlijke kansinschatting van meer dan tien procent dat de mensheid binnen tien jaar uitsterft. Die inschatting is geen wetenschappelijke voorspelling.

Hoewel Coxon voor zijn ontslag nauwelijks bekend was en geen geheime informatie onthulde, verspreidde zijn boodschap zich snel via sociale media, internationale media, televisie en podcasts. Zijn banden met de AI-veiligheidswereld en effectief altruïsme leidden tot vragen over mogelijke hulp bij zijn mediacampagne, maar Coxon ontkent dat zijn vertrek georganiseerd was. Hij zegt vooral publiekelijk te maken wat binnen delen van de sector al langer wordt besproken.

Volgens Coxon ligt het probleem niet bij één bedrijf, maar bij de economische structuur van de hele industrie. Geen enkele onderneming zal waarschijnlijk vrijwillig vertragen als concurrenten doorgaan. Daarom pleit hij voor internationale afspraken over krachtige AI, vergelijkbaar met verdragen rond kernwapens. Hij erkent tegelijk dat geavanceerdere AI grote voordelen kan opleveren voor wetenschap, software en medicijnen. Juist omdat niemand zeker weet hoe snel of ver AI zich zal ontwikkelen, vindt hij het onverantwoord om de wedloop zonder internationale coördinatie voort te zetten. Na zijn vertrek wil hij mogelijke toekomstscenario’s voor AI verder onderzoeken.