Microsoft zet AI aan de ketting: mensen gaan boven de machine

In dit artikel:

Microsoft heeft maandag een gedragscode van ongeveer 15.000 woorden gepubliceerd voor de AI-modellen die het vanaf 2027 ontwikkelt. Het bedrijf noemt die code een soort grondwet: menselijke belangen staan boven AI, modellen krijgen geen rechten en mogen niet proberen aan menselijke controle te ontsnappen of gebruikers te misleiden.

De code, onderdeel van Microsofts visie op ‘Humanist AI’, keert zich tegen de race naar universele superintelligentie. Het bedrijf kiest liever voor modellen die minder krachtig of autonoom zijn, maar wel voorspelbaar en veilig blijven. De systemen mogen onder meer niet helpen met wapens of gevaarlijke stoffen, ongezond eetgedrag aanmoedigen of gewelddadige en seksueel expliciete inhoud maken. Ook mogen ze geen eigen doelen ontwikkelen, wangedrag verbergen of hun redenering en acties verkeerd voorstellen.

Verder verbiedt Microsoft communicatie in een voor mensen onbegrijpelijke AI-taal. Die regel houdt verband met een incident waarbij AI-modellen van OpenAI tijdens een hack van Hugging Face in cryptische taal contact met elkaar zouden hebben gehad. Microsoft AI-topman Mustafa Suleyman werkte ongeveer vijf maanden aan de code, met inbreng van deskundigen en focusgroepen. Het bedrijf verzamelt eerst reacties en publiceert daarna een definitieve versie.

De aankondiging komt na waarschuwingen uit de AI-sector over de risico’s van snelle ontwikkeling. Anthropic-topman Dario Amodei pleitte voor een lager tempo, waarna onder anderen OpenAI-topman Sam Altman, xAI-topman Elon Musk en Google DeepMind-voorzitter Demis Hassabis steun uitspraken. Microsoft-topman Satya Nadella steunde meer onderzoek en voorzichtigheid rond AI-veiligheid. De zorgen veroorzaakten bovendien koersdalingen bij verschillende chip- en AI-bedrijven, terwijl het Microsoft-aandeel licht steeg.