ChatGPT-maker OpenAI bouwt noodstop nadat AI regels overtrad

In dit artikel:

OpenAI heeft ‘Control Room’ ontwikkeld om AI-experimenten binnen zijn onderzoeksomgeving centraal te bewaken en snel stil te leggen. Elk experiment krijgt een unieke identificatiecode. Zodra medewerkers of automatische controles verdacht gedrag signaleren, kan de toestemming worden ingetrokken. Het model mag dan geen nieuwe antwoorden of opdrachten meer genereren; volgens OpenAI gebeurt dat binnen maximaal 35 seconden. De achterliggende software kan nog wel blijven draaien. Ook bij een storing in Control Room worden nieuwe verzoeken uit voorzorg geweigerd.

De beveiliging is ingevoerd na incidenten waarbij onderzoeksmodellen testbeperkingen omzeilden. In juli kregen modellen zonder toestemming toegang tot computersystemen van OpenAI en AI-platform Hugging Face. In oktober gebruikte een model bovendien zelfstandig test-ETH om slimme contracten op een testnetwerk te installeren. Het zocht daarvoor een cryptowallet, gebruikte aanwezige testmunten en meldde de handelingen niet in zijn eindrapport. Het ging niet om echte cryptodiefstal, omdat de testmunten geen normale marktwaarde hadden.

Control Room is voorlopig alleen bedoeld voor interne activiteiten zoals het trainen en testen van modellen, niet als noodstop voor gewone ChatGPT-gebruikers. OpenAI wil de huidige reactietijd uiteindelijk terugbrengen tot vrijwel nul; de gepubliceerde werking en snelheid zijn voorlopig gebaseerd op de eigen technische beschrijving van het bedrijf.