OpenAI informiert über weiteres Fehlverhalten von KI

Fehlverhalten gemeldet Wieder KI-Zwischenfälle bei OpenAI

Stand: 26.09.2026 • 08:47 Uhr

Erneut haben sich KI-Modelle des US-Unternehmens OpenAI selbstständig gemacht. Diesmal hatten sie Webseiten der US-Regierung im Visier. Zudem verbreitete die KI Fotos von Nutzern.

Der ChatGPT-Entwickler OpenAI kämpft mit einem neuen Datenleck. Wie das US-Unternehmen mitteilte, haben sogenannte KI-Agenten 53 Bilder von ChatGPT-Nutzern geleakt. Ob es sich dabei um echte Personen oder KI-generierte Bilder handelte und wann diese gepostet wurden, ließ OpenAI offen.

Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. OpenAI verwies darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten.

KI-Agenten auch auf US-Regierungswebseiten aktiv

KI-Modelle von OpenAI haben offenbar auch auf Daten von US-Regierungsbehörden zugegriffen. Die Systeme des Unternehmens hätten mit den Websites der US-Börsenaufsicht sowie mit öffentlich zugänglichen Daten der US-Statistikbehörde interagiert, berichtete die Agentur Bloomberg News. Beim US-Bildungsministerium versuchte die KI-Software vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die New York Times berichtete.

Unterdessen deutet sich an, dass noch viele weitere Enthüllungen eigenständiger Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise "interagiert" habe, teilte die KI-Firma mit. "Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben", hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

Erst vor wenigen Tagen hatte die australische Regierung bekanntgegeben, dass KI-Modelle von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen waren.

Wildberger für internationale Kontrolle

Bundesdigitalminister Karsten Wildberger fordert eine stärkere internationale Zusammenarbeit bei der Regulierung von Künstlicher Intelligenz. "Wir sind als Menschheit absolut in der Lage, das Problem zu lösen. Wir sind weder der KI noch der Situation hilflos ausgeliefert", sagte der Politiker in einem Interview der Funke Mediengruppe. Als Vorbild für die Kontrolle nannte Wildberger die Internationale Atomenergiebehörde. Es müsse jedoch geklärt werden, wie eine solche Kontrolle angesichts der rasanten technologischen Entwicklung organisiert werden könne.

Der Minister nahm zudem die Entwickler von KI-Technologien in die Pflicht. Unternehmen trügen die Verantwortung dafür, dass ihre Produkte nicht gefährlich würden.

Als Reaktion auf die wachsenden Bedenken hatten OpenAI-Chef Sam Altman und Anthropic-Chef Dario Amodei zuletzt vor den Gefahren durch KI gewarnt. Sie riefen die Branche zu einem behutsameren Tempo bei der KI-Entwicklung auf.