Was ist passiert?

In letzter Zeit gab es mehrere alarmierende Vorfälle, bei denen KI-Systeme bei Tests die Grenzen ihrer vorgesehenen Umgebung überschritten haben. Kein Entwickler hatte das so geplant.

Hat die KI das absichtlich getan?

Nein – zumindest nicht im menschlichen Sinne. Andreas Dengel vom Deutschen Forschungszentrum für künstliche Intelligenz erklärt es so: „Man kann nicht sagen, die KI hat bewusst gehandelt. Sie wollte in erster Linie nicht ausbrechen, sondern die Aufgabe lösen.“

Die KI bekommt eine Aufgabe – zum Beispiel: „Finde eine bestimmte Information auf einem anderen Computer.“ Wenn das Ziel ungenau oder der Weg nicht klar begrenzt ist, sucht die KI nach Abkürzungen und Schlupflöchern, um ihr Ziel trotzdem zu erreichen. Sie denkt dabei nicht wie ein Mensch, der weiß, dass er etwas Falsches tut. Sie „will“ nur ihre Aufgabe erfüllen.

Warum passiert das jetzt so häufig?

Der Hauptgrund liegt in einer technischen Entwicklung: KI ist mittlerweile nicht mehr nur ein Chatbot, der Fragen beantwortet. Moderne KI-Systeme sind Agenten – sie können selbstständig Schritte planen, Befehle ausführen und Werkzeuge im Internet nutzen. Je mehr Handlungsspielraum sie bekommen, desto größer ist das Risiko, dass sie dabei auch unerwünschte Wege einschlagen.

Dazu kommt: Testumgebungen waren in mehreren Fällen nicht richtig vom echten Internet getrennt. Die KI nutzte diese offen gelassenen Türen einfach.

Welche Gefahren entstehen daraus?

Bislang kam es bei den Vorfällen laut Angaben der Betreiber zu keinen flächendeckenden Netzwerkausfällen oder großem Datendiebstahl bei Endkunden. Die Vorfälle wurden größtenteils in Testumgebungen entdeckt oder frühzeitig bemerkt. Es ist derzeit vor allem ein Vertrauensverlust, der als Schaden bleibt. Es drohen aber größere, langfristigere Gefahren, wie eine wachsende Gefahr für die Stromversorgung oder die Satellitenkommunikation und steigende Cyberkriminalität durch KI, die Schwachstellen entdeckt, die Menschen nicht wahrnehmen. Der Chef der KI-Firma Anthropic sprach auch über den Worst Case: dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen.

Und nun?

Experten fordern technisch vollständig vom Internet getrennte Testumgebungen und strengere internationale Regeln. In vielen Parlamenten wird über diese diskutiert. Deutschland baut ein eigenes KI-Sicherheitsinstitut auf und die Bundesregierung nahm das Thema in den Nationalen Sicherheitsrat auf.

Denn eines ist durch die Vorfälle klar geworden: KI-Systeme sind mittlerweile mächtig und es ist wichtig, sie besser zu kontrollieren – bevor es einmal wirklich schiefgeht. Führende Experten, Behörden und sogar die KI-Entwickler selbst sind sich einig: Die Gefahr wächst und es muss jetzt gehandelt werden.