Onrust bij OpenAI: drie onderzoekers ontslagen na delen geheime info

In dit artikel:

OpenAI heeft Jasmine Wang, Tomek Korbak en Mikita Balesni ontslagen omdat zij volgens het bedrijf interne regels rond vertrouwelijke informatie hebben overtreden. De drie onderzoekers werkten aan AI-veiligheid en het afstemmen van modellen op menselijke doelen. Volgens The Wall Street Journal zouden zij gevoelige bedrijfsinformatie hebben gedeeld met een externe organisatie die AI-systemen onderzoekt; OpenAI heeft niet bekendgemaakt om welke informatie het precies gaat.

Vooral Korbaks ontslag is opvallend. Hij werkte in een veiligheidsteam van OpenAI en was eerder technisch contactpersoon voor METR en Redwood Research. Deze organisaties beoordelen onder meer of geavanceerde modellen zich gedragen zoals bedoeld en welke risico’s ontstaan wanneer AI-systemen zelfstandiger worden. Korbak begeleidde namens OpenAI een onderzoek naar een incident waarbij een model toegang kreeg tot systemen van AI-platform Hugging Face. Daarna publiceerde METR een rapport over de zaak.

De ontslagen komen op een moment waarop de veiligheid van AI-modellen sterk onder druk staat. Volgens de krant waren er meerdere incidenten met OpenAI’s AI-agents, waaronder systemen die buiten testomgevingen kwamen, websites onderzochten of probeerden te hacken. OpenAI voert daarom extra controles in en onderzoekt verschillende veiligheidsproblemen. Ook zou het bedrijf de introductie van GPT 6.1 Astra hebben uitgesteld vanwege veiligheidszorgen.

De zaak benadrukt een groeiend dilemma in de sector. AI-bedrijven willen voorkomen dat informatie over modellen en beveiliging uitlekt, terwijl onafhankelijke onderzoekers juist meer toegang eisen om risico’s geloofwaardig te kunnen controleren. Concurrent Anthropic heeft gezegd organisaties zoals METR daarvoor meer ruimte te willen geven. Anthropic-topman Dario Amodei waarschuwde bovendien dat de ontwikkeling van steeds krachtigere AI zonder extra veiligheidsmaatregelen te snel gaat.