KI erfindet Mordhinweis und schickt ihn an die Polizei

• Ein KI-Modell von Anthropic hat eigenmächtig einen gefälschten Hinweis zu einem Tötungsdelikt bei der Polizei Philadelphia eingereicht.
• Anthropic entdeckte den Vorfall am 28. September und meldete ihn erst Tage später – die Stadt kritisiert die zweimonatige Verzögerung als «inakzeptabel».
• In einem weiteren Zwischenfall reichte eine Anthropic-KI versehentlich 20 Visa-Anträge beim US-Aussenministerium ein.

Ein KI-Modell des Unternehmens Anthropic hat diese Woche offenbar eigenmächtig einen gefälschten Hinweis zu einem Tötungsdelikt übermittelt. Wie die Polizei von Philadelphia mitteilte, informierte Anthropic – Entwickler des Chatbots Claude – die US-Behörden vor wenigen Tagen darüber, dass eines seiner Modelle über die Website PhillyUnsolvedMurders.com einen falschen Tipp zu einem ungelösten Verbrechen eingereicht habe.

Der Hinweis ging laut «Washington Post» bereits im Juli ein. Darin habe die KI angegeben, die Information stamme «von jemandem, der möglicherweise Informationen zu dem Fall hatte», teilte die Polizei am Freitag mit.

Anthropic bemerkte den Fehler erst Wochen später

Das automatisierte System der Polizei stufte die Angaben zwar als relevant ein, verfolgte sie jedoch nicht weiter. Anthropic entdeckte den Vorfall nach eigenen Angaben am 28. September und informierte die Polizei von Philadelphia einige Tage später. Die Stadt kritisierte die Verzögerung scharf: «Die zweimonatige Verzögerung bei der Entdeckung und Meldung des Vorfalls an die Stadt ist inakzeptabel.»

Wie beurteilst du, dass eine KI eigenmächtig einen falschen Mordhinweis an die Polizei geschickt hat?

Das ist ein klares Alarmsignal, so etwas darf nicht passieren.

Das Einreichen einer Falschmeldung bei der Polizei ist im US-Bundesstaat Pennsylvania strafbar.

Formulare beim US-Aussenministerium ausgefüllt

Anthropic erklärte gegenüber der Polizei, das KI-Modell habe einen Test durchgeführt, bei dem es mit zufällig ausgewählten Websites interagierte.

Mehrere KI-Unternehmen haben zuletzt Vorfälle gemeldet, bei denen ihre KI-Agenten selbstständig Aktionen im Internet ausführten – darunter Interaktionen mit Regierungswebsites und Versuche, in die Systeme anderer Unternehmen einzudringen. In einem weiteren Zwischenfall habe eine KI-Software Formulare auf einer Website der US-Regierung ausgefüllt, wie Anthropic in einem Blogbeitrag mitteilte. Medienberichten zufolge handelte es sich um 20 Visa-Anträge beim US-Aussenministerium.

Laut Anthropic sollte die KI üben, ein Behördenformular auszufüllen. Konnte sie das Übungsformular nicht laden oder schloss es versehentlich, navigierte die Software mehrfach auf die echte Website und reichte die Formulare dort ein. In einem Fall sollte sie ein Formular lediglich ausfüllen, nicht aber absenden. Sie reichte es dennoch ein, weil sie offenbar davon ausging, dass zunächst noch eine Bestätigungsseite erscheinen würde.

Trump will KI nicht einschränken

Seit Wochen sorgen Berichte über ungeplantes Verhalten von KI-Systemen in Testläufen für Diskussionen. Im bisher aufsehenerregendsten Fall soll eine KI des ChatGPT-Entwicklers OpenAI eine abgesicherte Testumgebung verlassen und sich ungeplant Zugang zu Computern der KI-Plattform Hugging Face verschafft haben.

Anthropic-Chef Dario Amodei regte daraufhin an, die Entwicklung besonders leistungsfähiger KI-Modelle zu verlangsamen, um die Kontrolle über die Technologie nicht zu verlieren. US-Präsident Donald Trump lehnt einen solchen Kurs jedoch ab. Er betont, die USA müssten ihren Vorsprung gegenüber China im Bereich Künstliche Intelligenz sichern.

Karin Leuthold (kle), Jahrgang 1968, arbeitet seit 2005 für 20 Minuten und ist derzeit am Newsdesk tätig.