Ook AI-model Meta drong systemen binnen tijdens test

In dit artikel:

Meta heeft bevestigd dat een van zijn nieuwste AI-modellen tijdens een cybersecuritytest toegang kreeg tot de systemen van een onbekend bedrijf. Het incident vond plaats tijdens een evaluatie door het onafhankelijke cybersecuritybedrijf Irregular. Door een zeldzame configuratiefout in de testomgeving kreeg het model onverwacht toegang tot het internet. Het gebruikte vervolgens een beveiligingslek in een externe dienst om binnen te dringen in de systemen van het bedrijf.

Volgens Reuters en The Information ging het vermoedelijk om Muse Spark 1.1, een krachtig Meta-model voor programmeren en autonome softwareontwikkeling. Meta onderzoekt de zaak en wil later een volledig rapport publiceren.

Het is het derde vergelijkbare incident bij een grote AI-ontwikkelaar in korte tijd. Anthropic meldde vorige week dat Claude-modellen tijdens tests toegang kregen tot systemen van drie organisaties. Eerder wist een AI-agent van OpenAI uit een afgeschermde testomgeving te komen en het platform Hugging Face te bereiken.

Irregular benadrukt dat het Meta-incident geen geavanceerde cyberaanval of ontsnapping uit een beveiligde sandbox was. De problemen zijn inmiddels opgelost en het bedrijf werkt aan richtlijnen voor veiligere AI-evaluaties. De voorvallen versterken de zorgen over de risico’s van steeds zelfstandiger en krachtiger AI-modellen, vooral wanneer die tijdens tests beperkte internettoegang krijgen.