Erst OpenAI, dann Anthropic: Beide KI-Firmen mussten vor Kurzem Bedenkliches eingestehen. Bei Tests haben ihre KI-Modelle Grenzen gebrochen, die sie eigentlich nicht hätten überschreiten dürfen. Die Vorfälle im Überblick.

Ein neues KI-Modell von OpenAI sollte in einer abgesicherten Testumgebung Programmieraufgaben lösen. Stattdessen brach die KI aber aus, verschaffte sich selbstständig Zugang zum echten Internet und hackte dann Computer-Systeme von mehreren Online-Diensten.
Auch bei Versuchen von Anthropic gab sich deren KI-System krawallig: Hier traf es ebenfalls echte Firmen, in einem Fall bot die KI sogar Schadsoftware zum Download an, die dann heruntergeladen wurde – darunter auch von einer IT-Sicherheitsfirma.

Es zeigt sich, was KI maximal kann

Die Vorfälle zeigen, dass KI-Systeme so leistungsfähig sind, dass sie komplexe Hacker-Angriffe durchführen können. Das Problem: Die Entwickler hatten für die Tests die Sicherheitsbremsen ausgeschaltet, um zu sehen, was die KI maximal kann.

Experten warnen schon lange vor solchen Szenarien. Steve Newman vom Golden Gate Institute for AI nannte den OpenAI-Vorfall einen „Warnschuss“. Andere vermuten aber, dass diese Vorfälle nur Marketing-Stunts sind.

Micah Carroll von OpenAI schrieb, wenn dieser Vorfall niemanden davon überzeuge, dass die Diskrepanz zwischen menschlichen Absichten und KI-Verhalten zu den größten Risiken der Zukunft gehört, „weiß ich auch nicht, was dazu in der Lage wäre“. Die Zukunft wird zeigen, ob das Worthülsen sind oder wirksame Sicherheitsmaßnahmen ergriffen werden.