Anthropic vraagt 2 biljoen voor AI die 'de mensheid kan bedreigen'

In dit artikel:

Anthropic bereidt een van de grootste beursgangen ooit voor. Volgens betrokkenen kan de maker van AI-assistent Claude daarbij mikken op een waardering van meer dan 2 biljoen dollar. In het verplichte S1-prospectus waarschuwt het bedrijf echter dat zijn technologie mogelijk existentiële risico’s voor de mensheid oplevert.

Bijna een derde van het document gaat over risico’s. Anthropic beschrijft onder meer scenario’s waarin geavanceerde AI-systemen mensen manipuleren, chanteren of zich op andere onvoorspelbare manieren gedragen. Topman Dario Amodei waarschuwde hier onlangs ook voor bij de VN-Veiligheidsraad, waar hij AI een van de belangrijkste veiligheidsvraagstukken ter wereld noemde. OpenAI-topman Sam Altman en Elon Musk steunen eveneens voorstellen voor strengere veiligheidsmaatregelen en betere afstemming bij de ontwikkeling van krachtige modellen.

Naast maatschappelijke risico’s zijn er grote financiële onzekerheden. Anthropic behaalde vorig jaar bijna 4,6 miljard dollar omzet, twaalf keer meer dan een jaar eerder, maar leed tegelijkertijd ruim 8 miljard dollar operationeel verlies. De kosten liepen op tot bijna 13 miljard dollar, vooral door de enorme behoefte aan rekenkracht voor het trainen en gebruiken van AI-modellen. Daarbovenop heeft het bedrijf volgens het prospectus ongeveer 518 miljard dollar aan toekomstige verplichtingen voor cloudcapaciteit, infrastructuur en rekenkracht.

Ook de sterke afhankelijkheid van enkele klanten vormt een risico: bijna een kwart van de omzet kwam vorig jaar van slechts twee klanten. Het vertrek of terugschroeven van de uitgaven door één grote klant kan daardoor hard aankomen.

Anthropic groeit desondanks zeer snel. In het tweede kwartaal bedroeg de omzet volgens het prospectus 11,5 miljard dollar en het bedrijf stevent af op een tweede kwartaal op rij met aangepaste operationele winst. De beursgang wordt daarmee een belangrijke test voor de AI-markt: beleggers moeten de uitzonderlijke groei afwegen tegen enorme kapitaalbehoeften, financiële verliezen en de mogelijke maatschappelijke gevolgen van de technologie.