Koning Charles haalt Nvidia, OpenAI en Anthropic naar paleis voor AI-top

In dit artikel:

De Britse koning Charles ontvangt deze week in Buckingham Palace topbestuurders van Nvidia, OpenAI, Anthropic en Google DeepMind, samen met de Britse AI-minister. Zij bespreken hoe kunstmatige intelligentie de samenleving kan helpen zonder de menselijke waardigheid en veiligheid uit het oog te verliezen. Ook staat de vraag centraal of bedrijven gezamenlijke uitgangspunten nodig hebben voor de ontwikkeling van krachtige AI-modellen.

De bijeenkomst volgt op waarschuwingen van onder anderen OpenAI-topman Sam Altman, Elon Musk en Anthropic-CEO Dario Amodei. Amodei pleitte voor vertraging bij de krachtigste modellen, nadat Anthropic meldde dat Claude al werd ingezet bij onder meer cyberoperaties, fraude en surveillance. Het Verenigd Koninkrijk probeert een middenweg te vinden tussen innovatie en toezicht: het land reguleert AI minder streng dan de Europese Unie, maar heeft sinds 2023 een AI Security Institute dat nieuwe modellen vooraf op risico’s onderzoekt.

Wereldwijde afspraken blijven moeilijk. De Amerikaanse president Donald Trump verwerpt een ontwikkelingspauze, omdat die volgens hem China een voorsprong kan geven. Tegelijkertijd halen AI-bedrijven miljarden op en zijn hun hoge waarderingen afhankelijk van snelle vooruitgang. Charles kan die spanning niet oplossen, maar zijn overleg laat zien dat AI-veiligheid inmiddels ook onderwerp is van gesprekken op het hoogste politieke en maatschappelijke niveau.