Geht jetzt die Welt unter?

Plötzlich wird heiß diskutiert, ob KI innerhalb des nächsten Jahrzehnts die Menschheit auslöschen könnte. Als jemand, der selbst schon empirische KI-Sicherheitsforschung betrieben hat, habe ich natürlich dazu auch so meine Gedanken. Der Diskurs ist aber schon wieder dabei, sicher derart zu überschlagen, dass es kaum möglich ist, konzise Stellung zu beziehen. Daher, weil ich mehrfach gefragt wurde, nur ganz kurz: Ja, KI hat in ihrer gegenwärtigen Gestalt bereits das Potenzial großen Schaden anzurichten und nein, ich habe nicht den Eindruck, dass wir auch nur annähernd schnell genug Strukturen aufbauen, die uns resilienter machen würden. Mit einer über Bewusstsein verfügenden, vermeintlich der Menschheit müßigen Super-KI hat das aber erstmal gar nichts zu tun. Wir bräuchten dringend einen gesellschaftlichen Diskurs zum Thema und bekommen das leider nicht hin, auch weil die Politik sich der Sache immer noch nicht unter den Gesichtspunkten der jeweiligen Partei (Sicherheit, Freiheit, Umwelt, etc.) annimmt. Ich selbst habe versucht, mich genau der jetzt virulenten Frage durch künstlerische Forschung zu nähern – in Form eines Romans, womit sich nämlich viele der in naher Zukunft relevanten Aspekte viel besser besprechen lassen als durch empirische Studien und abstrakte Diskussionen. Wer einen mutigen Verlag kennt, der Lust auf ein solches Debattenbuch hat, darf gerne die Verbindung herstellen …

Bis dahin belasse ich es jetzt erstmal bei den obigen kurzen Kommentaren und verweise auf einen Diskurs, der für all die Szenarien, die momentan so hysterisch diskutiert werden, eigentlich basal ist – nämlich derjenige, welche der KI-Papst Leo XIV. durch seine Enzyklika Magnifica humanitas angestoßen hat … beziehungsweise hätte anstoßen sollen. Denn obwohl der Text mehr mediale Aufmerksamkeit erhielt als wohl jede Enzyklika zuvor, fehlt mir bisher eine konstruktive Aufnahme der darin enthaltenen Impulse – was wohl auch darin liegt, dass schon die dem Schreiben zugrundeliegende Diagnose oft nicht angemessen verstanden wurde. Ich habe an einigen Stellen Stichworte zum Thema geben dürfen, etwa Mitte Juni in einem Radiobeitrag von Matthias Morgenroth in der Bayern-2-Reihe Glauben, Zweifeln, Leben (zum Nachhören, mein O-Ton ab Minute 14) und Anfang Juli dann (sehr verschwitzt, bei 40°C in der TLL-Bibliothek der BAdW) im BR-Magazin Stationen, im Beitrag „Der Papst und die KI – Chancen und Risiken“ (in der ARD Mediathek, ab ca. Minute 5:50). Weil ich dem Wesen dieser Formate geschuldet darin aber nicht gut zum Ausdruck bringen konnte, was ich am Papst-Schreiben so revolutionär finde, habe ich noch einen ausführlicheren Essay verfasst, der jetzt kürzlich im Blog des Merkur erschienen ist und vor allem der Frage nachgeht, weshalb ich die Metapher der notwendigen „Entwaffnung“ der KI-Entwicklung für geradezu prophetisch zutreffend und beunruhigend halte: „Keine Menschenseele? Beten, Hoffen und Entwaffnen nach Papst Leos KI-Enzyklika“. Wie man KI zu einem Menschheitsprojekt macht, das zumindest nicht vollständig in den Mechanismen des Kapitalismus aufgeht, das ist die große Herausforderung, vor der wir jetzt schon stehen und für die wir eine Lösung finden müssen – weil uns potenzielle Superintelligenzen sonst erst gar nicht mehr groß zu kümmern brauchen werden.