Das neue KI-Modell der Firma Anthropic kann so gut Software-Schwachstellen finden, dass es als Cyberwaffe dienen könnte. Anthropic hält es geheim. Doch Neugierige verschafften sich angeblich Zugang.
San Francisco - Ein Medienbericht wirft Fragen zu den Sicherheitsvorkehrungen rund um das neue KI-Modell der Firma Anthropic auf, das extrem gut darin ist, Software-Schwachstellen zu finden. Einige wenige Unbefugte mit Kenntnis von Anthropic-Systemen hätten sich Zugang zu dem Modell mit dem Namen Claude Mythos Preview verschafft, berichtete der Finanzdienst Bloomberg. Von Anthropic hieß es, man prüfe den Bericht.
Nach der Werbung weiterlesen
Mythos gelang es laut Anthropic, zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken in verschiedener Software zu finden. In den falschen Händen könnte das KI-Modell deshalb zur Entwicklung gefährlicher Cyberwaffen führen. Anthropic hat keine Pläne, Mythos zu veröffentlichen - und gewährt bisher Zugang für ausgewählte Unternehmen und Organisationen, damit sie Schwachstellen in ihrer Software schließen können. So gaben die Entwickler des Web-Browsers Firefox gerade erst bekannt, dass sie mit Mythos 271 Lücken schließen konnten.
Bloomberg zufolge war unter den unbefugten Nutzern ein Mitarbeiter eines externen Dienstleisters von Anthropic mit Zugang zu Systemen der KI-Firma. Geholfen habe den Nutzern auch Wissen darüber, wie Anthropic vorherige Modelle gespeichert habe. Das Unternehmen teilte Bloomberg mit, man habe bisher keine Hinweise darauf, dass es Zugang zu dem Modell abseits der Systeme des Dienstleisters gegeben habe.
Bundesbank-Präsident Joachim Nagel hatte erst am Dienstag vor erheblichen Risiken durch den Einsatz von Künstlicher Intelligenz (KI) für den Finanzsektor gewarnt. Er verwies in einer Rede in Rom darauf, dass damit neue und komplexe Cyberrisiken einhergingen, da autonome KI-Agenten schädliches Verhalten an den Tag legen könnten.
"Die frühzeitige Erkennung und Eindämmung solcher Risiken ist für die Finanzstabilität von entscheidender Bedeutung, wie die aktuelle Diskussion um Mythos von Anthropic deutlich macht", sagte Nagel. "Mythos ist ein KI-Modell, das offenbar in der Lage ist, Sicherheitslücken in der Software von Finanzinstituten schnell zu identifizieren und auszunutzen."
Dieses KI-Modell scheine jedoch ein zweischneidiges Schwert zu sein, da es nicht nur zur Verbesserung digitaler Sicherheitssysteme, sondern auch zur Ausnutzung ihrer Schwachstellen für böswillige Zwecke genutzt werden könne. "Wir müssen den Missbrauch dieser Technologie verhindern." Zugleich müssten alle relevanten Institutionen Zugang zu der Technologie haben, um Wettbewerbsverzerrungen zu vermeiden.
