«Slopocalypse» – KI überschwemmt die Forschungswelt mit Studien

Die Community ist in Aufruhr. Mehr als 700 vollständig von KI erzeugte mathematische Veröffentlichungen (Preprints), einsehbar auf der Softwareplattform GitHub: So etwas hat es noch nie gegeben.

Der Husarenstreich des kalifornischen Unternehmens OpenAI hat die Gemeinschaft der Mathematikerinnen und Mathematiker gespalten. Die einen jubeln über riesige Fortschritte. Andere zeigen sich konsterniert, weil KI ihnen die Ergebnisse vorweggenommen habe. Und manche sprechen gar von einer «Slopocalypse» – einer Flut von sloppy, also schlampigen, KI-Inhalten.

Inhalt teils top, Form flop

Auch am Departement Mathematik der ETH Zürich verfolgt man die Diskussion. Tim Gehrunger ist Postdoktorand und forscht über arithmetische Geometrie. Auch er nutzt dabei KI-Systeme.

Den Vorveröffentlichungen von OpenAI attestiert Gehrunger, dass sie fachlich viele Fortschritte, ja sogar Bahnbrechendes enthielten. Doch man müsse auch festhalten, «dass die Art, wie diese Studien geschrieben sind, nicht wissenschaftlichen Standards entspricht.» Es würden an vielen Stellen Arbeiten nicht zitiert, die man zitieren müsste, und generell seien sie für Menschen schlecht zu lesen.

Die Ergebnisse sind nicht nachvollziehbar. Aber das war denen offensichtlich ziemlich wurscht.

Raphael Mario Steiner, seit Kurzem an der ETH zum Assistenzprofessor avanciert, sieht es ähnlich: Die schiere Menge an Resultaten würde einem Menschen mehrfach die begehrte Fields-Medaille einbringen – hätte er sie denn selbst geschrieben.

Der Haken: Die Ergebnisse seien nicht nachvollziehbar, sagt Steiner. «Aber das war denen offensichtlich ziemlich wurscht.»

Allerdings: Als grundsätzliche Kritik an den KI-Systemen wollen die beiden ETH-Mathematiker dies nicht verstanden wissen. Tatsache sei: «Die überwiegende Mehrheit der Mathematikerinnen und Mathematiker nutzt jeden Tag mehrfach KI.» Auch an der ETH Zürich.

Alle in der Mathematik nutzen KI

Es sei eine Art goldenes Zeitalter der Mathematik, sagt Gehrunger. Weil die KI sehr viele Sachen beweisen könne, von denen Mathematiker bis vor Kurzem nicht zu träumen wagten. Doch das sei zweischneidig: Wenn die Maschine sämtliche Beweise schon erbracht habe – sozusagen die mathematische Kür –, dann bleibe für die Forschenden nur noch die Pflichtübung, das Ganze sauber aufzuschreiben.

Die Frage sei: «Ist dieser Mensch dann noch motiviert? Bringt ihm das etwas, kann er oder sie das überhaupt noch veröffentlichen?»

Es ist wichtig, in der Mathematik weiterhin kritisch denkende Menschen auszubilden, die nicht einfach alles glauben, was die KI, das Orakel, ihnen vorbetet.

Raphael Steiner ist überzeugt, dass Mathematiker nicht so schnell durch KI obsolet werden. Vor allem, wenn es darum gehe, Mathematik zu erklären, dann sei der Mensch unverzichtbar. «Es ist wichtig, in der Mathematik weiterhin kritisch denkende Menschen auszubilden, die nicht einfach alles glauben, was die KI, das Orakel, ihnen vorbetet.»

Derweil blickt Tim Gehrunger mit gemischten Gefühlen in die Zukunft. Zwar nutzt er KI kreativ für seine Forschung, gleichzeitig hat er erlebt, dass ihm bei der mathematischen Beweisführung die KI deutlich überlegen ist. Das schmerzt.

Ich finde es einigermassen frustrierend, dass die KI jetzt offenbar besser weiss, wie man mein Resultat beweist.

«Früher war es ein grosser Teil der Kreativität und auch für mich ein wichtiger Teil des Mathematikers-Seins, Beweise zu finden», sagt Gehrunger. «Und ich finde es einigermassen frustrierend, dass die KI jetzt offenbar besser weiss, wie man mein Resultat beweist.»

Das goldene Zeitalter der Mathematik – es hat auch seine Schattenseiten.