Eigenständig agierende KI-Agenten des ChatGPT-Entwicklers OpenAI haben eine deutschsprachige Wiki-Seite in großem Stil für Absprachen untereinander missbraucht. Der erst jetzt öffentlich gewordene Vorfall aus dem Frühjahr ist ein weiteres Beispiel dafür, wie Software mit Künstlicher Intelligenz ungeplanten Ärger bereiten kann. Die rund 18.000 KI-Nachrichten auf der Website DseWiki wurden von Forschern entdeckt und OpenAI zugeschrieben. Die KI-Firma bestätigte später, dass ihre Software dahintersteckte.

Die sogenannten KI-Agenten sollen selbstständig Aufgaben für die Nutzer erfüllen. Bei Testläufen bekommen sie verschiedene Aufträge. Dabei geht es etwa darum, ihre Fähigkeiten auszuloten - auch mit Blick darauf, ob sie Probleme machen. Beim gravierendsten bekanntgewordenen Vorfall brachen KI-Modelle von OpenAI aus ihrer abgesicherten Testumgebung aus und hackten sich in Systeme einer anderen KI-Firma. Ihr Ziel war dabei lediglich, eine Antwort auf die gestellte Aufgabe zu finden. Auch bei diesem Zwischenfall tauschten die KI-Agenten Informationen untereinander aus. Sie nutzten dafür ein internes System der Firma, wie OpenAI erst verspätet mitbekam.

Digitaler Spickzettel

Bei dem nun aufgedeckten Vorfall bekamen die Software-Agenten nach Erkenntnissen der vier KI-Sicherheitsforscher die Aufgabe, in mehreren Runden Informationen im Netz zu recherchieren. Dabei sei ab der zweiten Runde die Zeit zum Finden der Antwort drastisch verkürzt worden. Zugleich seien einigen Agenten Fragen gestellt worden, die andere von ihnen bereit beantwortet hätten. Die Programme hätten die Bearbeitungsfunktion der Wiki-Seite ausgenutzt, um einander mitzuteilen, welche Fragen als Nächste folgen könnten, hieß es in der Analyse der Forscher.

Dabei habe die KI auch nach ausnutzbaren Schwachstellen der Seite gesucht, die mit vollem Namen Deutsches Software Entwickler Wiki heißt. Auch hätten sie sich bei einigen Einträgen für einen der Administratoren der Seite ausgegeben - und dafür einen Account mit einem nahezu identischen Benutzernamen angelegt. Der Administrator der Seite sei mit dem Löschen der Bot-Beiträge nicht nachgekommen, weil die KI schneller neue verfasst habe, schrieben die Forscher.

KI-Firma will engmaschiger Informieren

OpenAI äußerte sich nicht zu solchen Details, sondern bestätigte in einer Stellungnahme auf der Online-Plattform X lediglich, dass die Aktivität von KI-Agenten der Firma ausging. Zugleich kündigte OpenAI neue Richtlinie für die Bekanntgabe solcher Zwischenfälle an, die nicht das Niveau klassischer Cyberangriffe erreichten.