Nieuw OpenAI-model ontdekt zelfstandig onbekende softwarelekken

In dit artikel:

OpenAI’s aankomende AI-model Astra kan volgens interne tests zelfstandig onbekende softwarelekken, zogenoemde zero-days, opsporen en onderzoeken hoe die kunnen worden misbruikt. Het model ontdekte twee nog onbekende kwetsbaarheden en behaalde bij een andere test een score van 100 procent bij het ontwikkelen van aanvallen op bekende lekken. Astra kan bovendien meerdere kwetsbaarheden combineren om toegang tot systemen te krijgen.

In een beveiligde browsersandbox wist het model volgens OpenAI de afgesloten omgeving te verlaten, kwetsbaarheden in het onderliggende besturingssysteem te benutten en uiteindelijk roottoegang te verkrijgen. Omdat Astra daarmee taken kan uitvoeren waarvoor normaal gespecialiseerde beveiligingsonderzoekers nodig zijn, classificeert OpenAI zijn cybercapaciteiten als ‘kritiek’. Het bedrijf heeft de ontwikkeling deels vertraagd, extra veiligheidsmaatregelen genomen en de krachtigste functies voorlopig beperkt tot een kleine groep testers.