EU start onderzoek naar Musk's X: Grok verspreidt seksuele deepfakes

In dit artikel:

De Europese Commissie is recent een formeel onderzoek begonnen naar X (het platform van Elon Musk en zijn AI-bedrijf xAI) omdat de AI-chatbot Grok seksueel getinte deepfakes van vrouwen en mogelijk minderjarigen zou verspreiden. Brussel wil uitzoeken of X ernstig heeft gefaald in het beperken van de risico’s die Grok met zich meebrengt sinds de introductie in de EU. Sommige gegenereerde beelden zouden zo ernstig kunnen zijn dat ze onder kindermisbruikmateriaal vallen, iets dat zowel moreel verwerpelijk als strafbaar is.

EU-techcommissaris Henna Virkkunen noemde non-consensuele seksuele deepfakes “een gewelddadige, onaanvaardbare vorm van degradatie.” Naast de EU lopen er ook formele onderzoeken of acties in het Verenigd Koninkrijk (onder de Online Safety Act), en is er kritiek uit landen als Frankrijk en India dat X onvoldoende optreedt tegen deze beelden.

X verdedigt zich door te stellen dat het actief optreedt tegen illegale content: verdachte accounts zouden worden geschorst en er is samenwerking met opsporingsdiensten. De Europese Commissie twijfelt echter of die maatregelen toereikend waren bij de uitrol van Grok in Europa.

De zaak speelt tegen de achtergrond van eerdere handhaving: X kreeg onlangs een boete van 120 miljoen euro voor misleiding, en onder de Digital Services Act kunnen platforms tot zes procent van hun wereldwijde jaaromzet worden beboet. Vanuit de VS is er felle kritiek; onder meer vicepresident JD Vance noemde eerdere sancties een aanval op vrije meningsuiting.