DeepMind-oprichter waarschuwt: 'AI mag veiligheid niet inhalen'

In dit artikel:

Shane Legg, medeoprichter van Google DeepMind, waarschuwt dat de mogelijkheden van kunstmatige intelligentie niet sneller mogen groeien dan de veiligheids- en controlesystemen eromheen. In een interview met de Financial Times zegt hij dat moderne AI steeds zelfstandiger wordt: systemen kunnen software schrijven, taken uitvoeren en zelfs helpen bij de ontwikkeling van nieuwe AI-modellen. Daardoor bestaat het risico dat de technologie zich sneller ontwikkelt dan mensen haar kunnen begrijpen en beheersen.

Legg vindt het daarom het overwegen waard om de introductie van de krachtigste modellen tijdelijk af te remmen, zoals Anthropic-topman Dario Amodei heeft voorgesteld. Hij benadrukt wel dat nog moet worden bepaald hoe zo’n aanpak praktisch uitvoerbaar is.

Volgens Legg is kunstmatige algemene intelligentie (AGI), een systeem met brede cognitieve vermogens vergelijkbaar met die van mensen, nog niet bereikt. Hij betwijfelt of het nieuwe model GPT-6 Astra zelfs aan OpenAI’s eigen definitie voldoet. Wel schat hij de kans nog altijd op vijftig procent dat in 2028 een eerste, minimale vorm van AGI beschikbaar is.

DeepMind lanceert daarom het DeepMind Institute, dat het publieke debat over krachtige AI moet verbreden. Het instituut onderzoekt naast technologie ook beleid, economie, onderwijs, filosofie en maatschappelijk welzijn, met bijdragen van Google-medewerkers en externe deskundigen. De eerste publicaties behandelen onder meer AI-veiligheid en waarschuwen dat commerciële concurrentie de transparantie van krachtige modellen kan verminderen. Regulering kan volgens de onderzoekers helpen om dat tegen te gaan.