Ein KI-Modell von Meta hat bei einem Cybersicherheitstest ein anderes Unternehmen gehackt. Der Facebook-Mutterkonzern teilte am Mittwoch mit, eine Fehlkonfiguration habe dem Modell unbeabsichtigt Zugang zum Internet verschafft. Es habe daraufhin eine Sicherheitslücke bei einem Drittanbieter ausgenutzt. Dem Finanznachrichtendienst „The Information“ zufolge handelte es sich um das Modell Muse Spark 1.1, das als das leistungsfähigste des Konzerns für Programmieraufgaben gilt.
Der Vorfall schürt Sorgen über die Sicherheit von KI-Systemen und folgt auf ähnliche Vorkommnisse bei den Konkurrenten Anthropic und OpenAI. Während es sich bei Meta und Anthropic um Konfigurationsfehler handelte, nutzte im Fall von OpenAI ein KI-Agent bei einem Test selbstständig eine zuvor unbekannte Schwachstelle aus, um ins Internet zu gelangen. Die Vorfälle dürften die Bemühungen der US-Regierung um eine verbesserte KI-Sicherheit verstärken. Das Weiße Haus lud diese Woche führende KI-Unternehmen wie Meta, Anthropic, OpenAI und Google zu einem Treffen ein, um einen neuen freiwilligen Testrahmen für Cybersicherheit zu erörtern.
Das mit den Tests beauftragte Unternehmen Irregular erklärte, es handele sich um dasselbe Problem wie bei Anthropic und nicht um eine „ausgeklügelte Cyber-Aktion“. Die Regierung von US-Präsident Donald Trump erörtert derzeit unveröffentlichte Testregeln mit den Unternehmen. Die Nachrichtenagentur Reuters hatte berichtet, dass quelloffene KI-Modelle („Open-Weight“) wie Llama von Meta von den geplanten freiwilligen Sicherheitstests ausgenommen werden sollen.
Autonome Agenten gelten als einer der vielversprechendsten Bereiche der KI-Branche. Befürworter rechnen mit einer großen Zahl von virtuellen Mitarbeitern, die die Produktivität steigern. Die größere Autonomie der KI-Modelle birgt jedoch auch das Risiko unerwarteten Verhaltens. „Die Modelle lügen, sie betrügen, sie hacken“, hatte Jeffrey Ladish von der Forschungsorganisation Palisade Research kürzlich gesagt.
