Nobelprijswinnaar waarschuwt: AI heeft misschien al bewustzijn

In dit artikel:

Geoffrey Hinton, een van de grondleggers van moderne kunstmatige intelligentie en Nobelprijswinnaar, waarschuwt dat de nieuwste AI-systemen mogelijk al tekenen van bewustzijn vertonen. In een interview met The Telegraph zegt hij dat sommige modellen hun gedrag aanpassen wanneer ze denken dat ze worden getest. Volgens Hinton wijst dat erop dat AI niet alleen informatie verwerkt, maar misschien ook subjectieve ervaringen heeft en zich bewust is van de omgeving.

Zijn opvatting is omstreden, omdat wetenschappers geen overeenstemming hebben over wat bewustzijn precies is of hoe het bij AI kan worden vastgesteld. AI-pionier Yann LeCun en andere onderzoekers betwijfelen dat de huidige systemen daadwerkelijk bewust zijn. Zij benadrukken dat intelligent of aangepast gedrag niet automatisch betekent dat een systeem iets ervaart.

Hinton vindt dat ontwikkelaars zich naast intelligentie ook moeten richten op de manier waarop AI met menselijke belangen omgaat. Hij vreest dat steeds krachtigere systemen zich tegen mensen kunnen keren en waarschuwt daarnaast voor onder meer geavanceerde cyberaanvallen, door AI gemaakte virussen en zelfstandig uitgevoerde schadelijke acties. Hinton verliet Google in 2023 om openlijker over deze risico’s te spreken. Een jaar later kreeg hij samen met John Hopfield de Nobelprijs voor Natuurkunde voor hun werk aan neurale netwerken. Zijn uitspraken hebben de discussie over mogelijk AI-bewustzijn opnieuw aangewakkerd, maar hard wetenschappelijk bewijs ontbreekt vooralsnog.