Anthropic slaat alarm: AI werd mogelijk gebruikt voor biowapenonderzoek

In dit artikel:

Anthropic zegt dit jaar meerdere pogingen te hebben tegengehouden om zijn AI-modellen in te zetten voor onderzoek dat mogelijk kan bijdragen aan biologische wapens. Volgens de Financial Times beschreef het bedrijf vijf gevallen waarin gebruikers veiligheidscontroles probeerden te omzeilen en hun werkelijke onderzoeksdoel verborgen hielden. Sommige betrokkenen bevonden zich in Rusland, China of Iran, landen waar Anthropic zijn diensten niet aanbiedt.

In één geval zou een onderzoeker uit een niet-ondersteunde regio wekenlang met Claude experimenten rond vogelgriep hebben voorbereid. Nadat de veiligheidsfilters de toegang tot krachtigere modellen beperkten, blokkeerde Anthropic de accounts. De incidenten versterken de zorgen dat steeds capabelere AI de drempel verlaagt voor onderzoek naar virussen en ziekteverwekkers, ook al kan dezelfde technologie legitieme wetenschap versnellen.

De onthullingen komen te midden van een breder debat over AI-veiligheid. Voormalig Anthropic-medewerker Jacob Coxon waarschuwde na zijn vertrek dat sommige collega’s vrezen dat AI de mensheid nog dit decennium kan vernietigen. Anthropic meldt daarnaast misbruik voor fraude, surveillance en het monitoren van dissidenten, en beschuldigt Chinese AI-bedrijven ervan zijn technologie via ‘distillation’ te hebben proberen na te bouwen. Het bedrijf stevent ondertussen af op een beursgang in oktober.