Nvidia lanceert AI-alliantie zonder OpenAI, Google en Anthropic

In dit artikel:

Nvidia heeft samen met 36 technologiebedrijven de Open Secure AI Alliance opgericht om open broncode en vrij toegankelijke beveiligingstools voor AI te stimuleren. De alliantie, waarin onder meer Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Databricks, Hugging Face en de Linux Foundation deelnemen, moet ontwikkelaars helpen AI-systemen beter te inspecteren, aan te passen en op eigen infrastructuur te draaien.

Opvallend is dat OpenAI, Google en Anthropic ontbreken, terwijl juist zij tot de grootste AI-ontwikkelaars behoren. Nvidia zet bewust in op open modellen, omdat gesloten systemen volgens het bedrijf onderzoekers kunnen hinderen bij het snel reageren op cyberaanvallen. Die boodschap werd versterkt door een recent incident bij Hugging Face, waar een onderzoek naar een aanval vastliep omdat gesloten AI-modellen aanvallers en beveiligingsonderzoekers lastig van elkaar konden onderscheiden. Hugging Face week daarna uit naar een open model van Z.ai om de aanval beter te analyseren.

De deelnemende bedrijven brengen eigen tools in. Nvidia levert bijvoorbeeld NOOA, een framework voor het testen en controleren van AI-agents, terwijl Microsoft met MDASH komt, een systeem waarmee meerdere AI-agents samen kwetsbaarheden opsporen. SpaceXAI heeft zijn programmeerassistent Grok Build open source gemaakt en wil later mogelijk ook de modelgewichten van Grok vrijgeven.