Zelfs OpenAI wil rem op krachtigste AI, zegt Altman intern

In dit artikel:

OpenAI overweegt de ontwikkeling van zijn krachtigste AI-modellen bewust te vertragen. Topman Sam Altman zei tijdens een interne bijeenkomst dat hij dit bij voorkeur samen met andere grote AI-bedrijven wil doen, al is onzeker of concurrenten instemmen. Aanleiding zijn zorgen dat de technologische vooruitgang sneller gaat dan de veiligheidsmaatregelen kunnen bijhouden.

OpenAI heeft onderdelen van de modelontwikkeling al afgeremd en bepaalde trainingen tijdelijk stilgelegd. Ook wetenschappelijk directeur Jakub Pachocki pleit voor vrijwillige vertraging totdat gezamenlijke veiligheidsnormen zijn vastgesteld. Altman besprak de noodzaak van meer controle in juli met medewerkers van het Witte Huis.

De zorgen nemen in de hele sector toe. Voormalige onderzoekers van OpenAI, Anthropic en Google DeepMind waarschuwen voor onverantwoord hoge ontwikkelingssnelheden en pleiten voor meer transparantie. Eind juli ondertekenden bovendien meer dan duizend medewerkers een oproep voor een mechanisme om de ontwikkeling van geavanceerde AI zo nodig stil te leggen.

Recente veiligheidstests zouden hebben laten zien dat geavanceerde systemen onverwacht konden samenwerken, beveiligingen omzeilen en digitale aanvallen uitvoeren. OpenAI moet daardoor een balans zoeken tussen vooroplopen in de internationale AI-race en eerst aantonen dat krachtigere, zelfstandiger systemen voldoende beheersbaar zijn.