Meta-medewerkers vrezen groot datalek door nieuwe AI-agent Muse

In dit artikel:

Meta’s AI-agent Muse maakte vorige maand indruk op beleggers, maar zorgt intern voor grote veiligheidszorgen. Volgens ingewijden vrezen meerdere senior engineers dat de assistent uiteindelijk een omvangrijk datalek kan veroorzaken. Muse is ontworpen om zelfstandig taken uit te voeren, zoals vluchten boeken en boodschappen bestellen, en kan daarvoor toegang krijgen tot e-mails, bankrekeningen en andere apps.

Kort voor de lancering ontdekten beveiligingsingenieurs een kwetsbaarheid waarmee gebruikers mogelijk uit de afgeschermde omgeving van Muse konden ontsnappen. Daardoor zouden ze toegang kunnen krijgen tot interne systemen van Meta of gegevens van andere gebruikers. Verschillende beveiligingsteams werkten daarop dag en nacht aan een oplossing; ook CEO Mark Zuckerberg zou bij de kwestie betrokken zijn geweest.

Meta zegt de bekende kwetsbaarheid inmiddels te hebben verholpen, maar de interne zorgen blijven bestaan. Het bedrijf heeft een beloning van 300.000 dollar uitgeloofd voor onderzoekers die vergelijkbare problemen vinden. De hoge beloning benadrukt het risico van AI-agenten die niet alleen informatie verwerken, maar ook namens gebruikers handelen. Hoe meer toegang ze krijgen tot persoonlijke accounts en financiële gegevens, hoe groter de mogelijke schade bij een beveiligingsdoorbraak.