«Die meisten Ängste stammen aus der Sci-Fi-Literatur»

• ZHAW-Professor Thilo Stadelmann hält die verbreitete Angst vor einer Menschheitsgefahr durch KI für kaum begründet.
• Die meisten Weltuntergangsszenarien stammen laut ihm aus der Science-Fiction-Literatur, nicht aus der Technologie.
• Er rät Verunsicherten, sich bewusst zu machen, dass Politik und Nutzende die Entwicklung mitbestimmen.

Immer wieder warnen Menschen aus der KI-Bubble vor den Gefahren künstlicher Intelligenz. Auch Menschen aus der Community bereitet der Gedanke an die Zukunft zum Teil Sorgen. User Truth_Fighter schreibt: «Wir können KI nicht mehr rückgängig machen. Ich halte es für ein hochpotentes Risiko.»

Und Nickilaudername warnt: «Wenn immer leistungsfähigere Systeme entwickelt werden, kann der Punkt kommen, an dem wir Entwicklungen nicht mehr rechtzeitig verstehen oder korrigieren können.»

Doch wie realistisch sind solche Szenarien und wie soll man mit der diffusen Zukunftsangst umgehen? Thilo Stadelmann ist Professor für künstliche Intelligenz und maschinelles Lernen an der ZHAW und sagt im Interview, warum viele Szenarien unrealistisch sind.

Herr Stadelmann, haben die Menschen Angst vor künstlicher Intelligenz?

Die Befürchtungen sind sicherlich breit da in der Bevölkerung – und ich wundere mich darüber, dass wir dem nicht entschiedener entgegentreten. Denn es gibt kaum Fakten, auf denen sie beruhen.

Sie sagen also: Wir fürchten uns vor etwas, wovor wir uns gar nicht fürchten müssten?

Es gibt Risiken, keine Frage. Aber vor Szenarien, wonach KI die Menschheit oder alle Jobs auslöschen könnte, muss sich niemand fürchten. Wir haben eine Technologie, die künstliche Intelligenz heisst, und die kann einiges. Das sehen wir jeden Tag. Aber das allermeiste, was im Zusammenhang mit solchen Ängsten diskutiert wird, entstammt nicht der Technologie, sondern der Science-Fiction-Literatur.

Ein solches Weltuntergangsszenario ist folgendes: Je mehr KI-Modelle sich selbst weiterentwickeln, desto weniger Möglichkeiten haben Menschen noch, steuernd einzugreifen. Eine «künstliche Superintelligenz» könnte entstehen und die Menschheit vernichten, weil sie den Zielen der KI im Weg steht. Wieso ist dies nicht plausibel?

Da stecken viele unbelegte Annahmen dahinter, die alle höchst spekulativ und für mich recht unplausibel sind:

• Sich selbst auf fundamentale Weise weiterentwickelnde KI existiert so nicht und wird von namhaften Experten für schlicht unmöglich gehalten.
• Auch dass mehr Intelligenz automatisch einen «Willen» hervorbringe und eigene Ziele entwickle, ist eine Annahme, die von Philosophen sehr unterschiedlich gesehen wird.
• Selbst wenn eine «böse» Super-KI entstehen könnte, würde dies noch nichts über Zugriff auf echte Infrastruktur sagen – warum sollte ein Mensch Zugriff darauf gewähren?

Aber selbst führende Personen aus der Branche warnen davor, dass KI irgendwann ausser Kontrolle geraten könnte.

Damit man zu einem solchen Szenario kommt, muss man eine ganze Reihe von Annahmen machen, die nicht auf Wissenschaft, sondern auf Weltanschauung beruhen. Zum Beispiel darüber, was der Mensch ist, was Bewusstsein und Intelligenz sind und ob Mensch und Maschine letztlich dasselbe sind. Man muss weiter annehmen, dass eine KI sich selbst immer weiter verbessern und daraus irgendwann eine Superintelligenz entstehen könnte. Ein grosser Teil der Wissenschaftscommunity schüttelt über solche Annahmen den Kopf.

Machst du dir Sorgen wegen KI und der Zukunft?

Nein, ich glaube nicht, dass die Weltuntergangsszenarien realistisch sind.

Warum warnen dann ausgerechnet Menschen, die selbst an KI arbeiten, so laut vor der Technologie?

Ich gehe davon aus, dass einige diese Überzeugungen wirklich teilen. Menschen haben Glaubenssätze, für die sie einstehen, und diese sind nicht immer nur rational. Gleichzeitig lässt sich das heute nur schwer von kommerziellen Interessen trennen.

Sie vermuten also, dass hinter den Warnungen wirtschaftliche Interessen stehen können?

Es würde mich wundern, wenn das keine Rolle spielt, auch wenn das letztlich Vermutungen sind. In diese Unternehmen fliessen enorme Summen. Gleichzeitig gibt es starke Konkurrenz, etwa durch offene Modelle. Wenn man die Öffentlichkeit und die Politik davon überzeugt, dass KI extrem gefährlich ist und deshalb nur wenige lizenzierte Anbieter solche Systeme entwickeln dürfen, wird Regulierung Konkurrenz fernhalten.

Was raten Sie jemandem, der tatsächlich Angst vor der Zukunft mit KI hat?

Sich bewusst zu machen, dass diese Zukunft viel offener ist, als wir meinen. Wir haben die Entwicklung mit in der Hand – nicht nur ein paar Firmenlenker weit weg von hier. Wir entscheiden politisch, aber auch als Nutzerinnen und Nutzer: Welche Systeme setzen wir ein? Wem vertrauen wir unsere Daten und unsere Gedanken an? KI wird wichtig werden, auch wenn sie nie superintelligent wird, schlicht weil sie nützlich ist. Deshalb ist es entscheidend, dass wir eine Wahl haben.

Anja Zingg (anz), arbeitet seit 2020 bei 20 Minuten. Sie ist seit Juni 2023 Leiterin des Ressorts Gesellschaft & Community.