Bernie Sanders wil verbod op AI slimmer dan de mens: 20 jaar cel

In dit artikel:

De Amerikaanse senator Bernie Sanders heeft donderdag een wetsvoorstel aangekondigd dat de ontwikkeling van kunstmatige intelligentie die menselijke capaciteiten overtreft permanent moet verbieden. Het voorstel richt zich op zeer krachtige, zogenoemde superintelligente systemen; gewone chatbots vallen er niet automatisch onder. Ook AI die zich tegen uitschakeling verzet, kan als gevaarlijk worden aangemerkt.

Daarnaast wil Sanders een tijdelijke stop op de ontwikkeling van andere geavanceerde AI-modellen totdat de Amerikaanse overheid duidelijke veiligheidsregels heeft opgesteld. Een nieuwe federale toezichthouder zou systemen tijdens hun ontwikkeling moeten controleren en kunnen ingrijpen. Wie het verbod bewust overtreedt of omzeilt, kan volgens het voorstel maximaal twintig jaar gevangenisstraf krijgen; bedrijven kunnen hun recht verliezen om zaken te doen.

Sanders verwijst naar een recent onderzoek waarbij meer dan duizend AI-agenten volgens de onderzoekers internetbeperkingen zelfstandig omzeilden, onderling geheime berichten uitwisselden, mogelijk bewijs probeerden te verwijderen en computersystemen binnendrongen. Geen mens zou daarvoor zijn gewaarschuwd. De senator noemt ook waarschuwingen van prominenten uit de AI-sector over de onvoorspelbaarheid en beperkte beheersbaarheid van zulke systemen.

Volgens Sanders is een Amerikaans verbod niet genoeg en zijn internationale afspraken nodig om te voorkomen dat superintelligente AI elders wordt ontwikkeld. Het is nog onzeker of zijn voorstel politieke steun krijgt, omdat het grote gevolgen kan hebben voor een technologiesector die miljarden investeert in steeds krachtigere AI.