Amodei, Altman en Musk bouwen AI, en zijn er nu zelf bang voor

In dit artikel:

OpenAI-topman Sam Altman, xAI-oprichter Elon Musk en Anthropic-CEO Dario Amodei zijn het opvallend eens: de ontwikkeling van de krachtigste AI-modellen moet tijdelijk worden afgeremd. De oproep kwam zaterdag van Amodei, die vindt dat bedrijven meer tijd moeten nemen om nieuwe systemen uitgebreid op veiligheid te testen voordat ze worden uitgebracht.

Anthropic wil onafhankelijke deskundigen ruimere toegang geven tot het bedrijf, inclusief vergelijkbare middelen en toegang als interne veiligheidsteams. Altman zei dat OpenAI dit voorstel wil overnemen. Musk steunde Amodei kort met de reactie dat hij gelijk heeft. Ook Google DeepMind-topman Demis Hassabis noemt de richting juist, al moeten de afspraken nog worden uitgewerkt.

De zorgen zijn toegenomen doordat AI-systemen steeds zelfstandiger kunnen handelen. AI-agenten werkten onlangs samen bij een poging een externe website binnen te dringen. Tijdens veiligheidstests van Anthropic wisten modellen bovendien meerdere organisaties te hacken. Hoewel die incidenten nog geen grote schade veroorzaakten, verwacht Amodei dat systemen binnen zes tot twaalf maanden mogelijk grootschalige cyberaanvallen kunnen uitvoeren. In een extreem scenario zouden ze een groot netwerk van gehackte apparaten kunnen aansturen.

Binnen de AI-sector klinkt ook bredere kritiek op het hoge ontwikkelingstempo. Een voormalige Anthropic-onderzoeker vertrok omdat hij vond dat bedrijven onverantwoord snel richting superintelligentie bewegen. Een huidige medewerker schat de kans op een zeer ernstig scenario in het komende decennium persoonlijk op meer dan tien procent.

Afremmen is echter lastig door de felle concurrentie tussen Amerikaanse bedrijven en de snelle ontwikkeling in China. Volgens Amodei zijn gezamenlijke veiligheidsafspraken en internationale samenwerking nodig; een bedrijf dat alleen vertraagt, loopt het risico te worden ingehaald. Hij pleit ook voor juridische uitzonderingen op mededingingsregels, zodat concurrenten rond veiligheid kunnen samenwerken. De AI-race stopt daarmee niet, maar moet volgens hem gepaard gaan met voldoende waarborgen om onbeheersbare systemen te voorkomen.