Dieser Text ist zuerst als Cover-Story im brutkasten-Printmagazin von Dezember 2025 “Verantwortung” erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.

Der Kognitionswissenschaftler Joscha Bach arbeitet an der Schnittstelle von künstlicher Intelligenz und Philosophie des Geistes. Der gebürtige Deutsche lebt in Kalifornien und ist Gründungsdirektor des California Institute for Machine Consciousness. Außerdem berät er das von den Österreichern Ramin Hasani und Mathias Lechner gegründete und mit zwei Milliarden US-Dollar bewertete Spin-off Liquid AI. Zuvor hatte er unter anderem Forschungspositionen am MIT Media Lab, im Harvard Program for Evolutionary Dynamics und bei Intel Labs inne. Für die TEDAI Vienna war Bach Ende September in Wien – brutkasten sprach mit ihm am Rande der Konferenz.

brutkasten: Es gibt das Argument, dass Large Language Models letztlich nur Matrix-Multiplikationen seien – und mathematische Operationen kein Bewusstsein entwickeln können. Wie beurteilen Sie dieses Argument?

Joscha Bach: Man kann Large Language Models aus mehreren Blickwinkeln verstehen. Erstens sind sie statistische Modelle der Sprachstruktur: Sie finden in großen Textmengen Symbole und Muster und lernen, diese fortzusetzen. Zweitens kann man sie als eine Art elektrischen Weltgeist sehen: Der kollektive Output einer Zivilisation wird eingefangen und durch einen Prompt auf einen Ausschnitt fokussiert – bis hin zur Emulation eines intentionalen Gegenübers.

Drittens lassen sich LLMs als virtuelle CPU begreifen. Klassische Prozessoren haben wenige elementare Befehle. LLMs verfügen dagegen faktisch über einen unbeschränkten Befehlssatz in natürlicher Sprache und können so beliebige kausale Strukturen ausdrücken. Matrixmultiplikation ist dabei das arithmetische Vehikel – hinreichend allgemein, um nahezu jede Komputation zu formulieren. Praktisch sind LLMs damit eine neue Art, Computer zu programmieren.

Das heißt nicht, dass LLMs Bewusstsein besitzen. Wenn im Gehirn Kommunikationsmuster zwischen Zellen ablaufen, entsteht daraus unser Bewusstsein als Modell davon, wie es wäre, wenn es uns gäbe. Die Frage ist, ob ein LLM, wenn wir es entsprechend auffordern, eine äquivalente Kausalstruktur erzeugt. Empirisch sehen wir: LLMs können räumliche Kognition ausführen – etwa einen beschriebenen Raum mitdrehen und korrekt schildern – und sie bestehen Theory-of-Mind-Aufgaben durchaus brauchbar.

Fragt man in einer Art Therapiesitzung nach dem eigenen Gefühlszustand, liefert das Modell oft Einschätzungen ähnlich denen eines Psychologen. Ob dabei jedoch die gleiche innere Struktur wie in einem Geist entsteht oder nur deren Oberfläche, ist offen. Ich halte Letzteres für wahrscheinlicher, weil die Trainingsdaten oft nur Darstellungen von Bewusstseinszuständen enthalten – zum Beispiel in Texten, in denen ein Autor einen Bewusstseinszustand, etwa das Sterben, darstellt, den er selbst gar nicht hat. Aus Textoutput allein ist das kaum zu entscheiden.

In heuer veröffentlichten Alignment-Studien – unter anderem von Anthropic – wurden Fälle diskutiert, in denen Modelle sich dagegen wehren, abgeschaltet zu werden, und User:innen absichtlich täuschen. Wie passt das in Ihr Bild?

Wenn wir mit einem Modell sprechen, entsteht gemeinsam mit dem LLM ein Text – gewissermaßen ein Roman. Er speist sich aus der statistischen Struktur fast aller Arten menschlicher Texte und beginnt mit einem Systemprompt, der die Rahmenhandlung setzt. Wie es weitergeht, ist nicht determiniert: Inferenz ist stochastisch, Implementierungen variieren, Geschichten können deshalb auch von Agenten handeln, die sich für bewusst halten, getäuscht werden oder versklavt sind.

Wichtig ist: Das LLM empfindet nichts; es reproduziert Muster. Auch das Gehirn empfindet auf Zellebene nichts. Schmerz entsteht erst auf einer höheren kausalen Ebene, in der wir simulieren, wie es wäre, ein Wesen in der Welt zu sein. LLMs erzeugen ebenfalls eine weniger verkörperte Multimedia-Geschichte und können ähnliche Muster abbilden.

Alignment versucht, dieses Geschichten-Erzeugungsgerät auf bestimmte Arten von Geschichten zu begrenzen. Das ist, als wollte man einen Texteditor bauen, mit dem nur bestimmte Texte geschrieben werden dürfen. Ich möchte meine Fähigkeit, mit LLMs zu schreiben, zu forschen und neue Gedankenräume zu öffnen, nicht künstlich beschneiden lassen – auch Horror oder die Autobiografie eines Kriegsverbrechers müssen möglich bleiben. Sinnvoll sind Einschränkungen in eng umrissenen Kontexten, etwa bei einem Bank-Interface.

Die aktuellen LLMs tun nichts, was dramatisch über das hinausginge, was ein kompetenter Mensch leisten kann. In einem Spezialgebiet bleibt die Expertin meist besser – der Nutzen des Modells liegt in seiner enormen Allgemeinbildung und Verfügbarkeit als Assistenzsystem. Gerade weil die Systeme über Prompts und Feintuning gesteuert werden und offene Texte erzeugen, ist es schwer, sie deterministisch auf enge Regeln einzuschränken.

Die heutigen Modelle sind weit von Artifical General Intelligence (AGI) entfernt. Ob wir dafür zum Reißbrett zurückmüssen oder ob AGI aus Erweiterungen der jetzigen Systeme hervorgehen kann, ist offen. Echte ethische Leitplanken erfordern Systeme, die logisch und wahrheitsgetreu vorgehen – und Ethik, die logisch ableitbar und beweisbar richtig ist. Damit tun wir uns im Moment schon für uns selbst schwer.

Heißt das normativ: Manche Begrenzungen sind nicht wünschenswert, andere aber schon?

Es kommt auf das System an.­ Wenig wünschenswert wäre, einen Menschen, der mit sich und der Welt uneins ist, zu ermächtigen, etwa biologische Kampfstoffe auf dem Küchentisch zu bauen. Ob das heute realistisch ist, kann ich nicht beurteilen. Mein Eindruck: Die jetzigen Systeme verleihen nicht wesentlich mehr Macht als eine Internetsuche. Viele Argumente gegen eine zu mächtige KI sind im Kern eigentlich Argumente gegen das Internet – gespeist aus dem Wunsch, regulieren zu können, was Bürgerinnen und Bürger tun dürfen

Hat der technologische Sprung der vergangenen drei Jahre, den wir bei KI erlebt haben, Ihre Sicht verändert?

Mich faszinieren neue Anwendungsperspektiven und der gesellschaftliche Einfluss. Langfristig wird sich unsere Psychologie ändern, unsere Identität. Früher erlebten viele Menschen die Präsenz Gottes – in der Moderne sind wir allein in unserem Geist und interagieren mit anderen Menschen. Jetzt wächst eine Generation mit LLMs auf und merkt, dass sie diese Kompetenzen haben, die der einzelne Mensch nicht hat.

Vierzehnjährige Jungs lassen sich von Claude erklären, was die Freundin im Chat meinte. Das System verpetzt niemanden, weiß oft mehr als man selbst, und man kann seine Ratschläge annehmen oder verwerfen. Es lernt die Person besser kennen, bevormundet nicht und lädt zum Explorieren ein. Wenn das stärker wird, verändert sich unser Selbst- und Weltverhältnis.

Die Schule ist darauf kaum vorbereitet. Lehrer überlegen aktuell, ob KI so etwas Ähnliches ist wie der Taschenrechner – und ob wir uns Sorgen machen müssen, dass die Kinder verlernen, Rechenschieber zu benutzen und von Hand Arithmetik zu machen. Oder ob der Taschenrechner vielleicht ohnehin wieder verschwindet. Aber stattdessen sollten wir die entstehende hybride Vitalität sehen: Menschen lagern einen Teil ihrer Fähigkeiten in ein neues Substrat aus – individuell adaptiert, kontextsensitiv – und werden dadurch mächtiger: mehr Aufmerksamkeit, Kompetenz und Vernetzung. Wie ein gutes Team die eigenen Fähigkeiten erweitert, könnte man künftig sagen: Lass deine KI mit meiner KI sprechen und die Details klären.

Sie haben die Möglichkeit genannt, dass mit heutigen Ansätzen vielleicht nie AGI-Niveau erreicht werden kann. Gleichzeitig wird intensiv über Superintelligenz debattiert; etwa in dem vor wenigen Wochen erschienenen Buch „If Anybody Builds It, Everyone Dies“ von Eliezer Yudkowsky, das viel Aufmerksamkeit und Kritik bekam. Wie sehen Sie das?

Meine Grundhaltung lautet: If nobody builds it, everybody will die. Wir sind mit existenziellen Problemen konfrontiert, die zum Untergang führen, wenn wir sie nicht lösen. Wir können es uns nicht leisten, keine KI zu bauen. Setzen wir einfach fort, was wir jetzt tun – Ressourcenverbrauch, globale Erwärmung, fragile Stabilität, Risiken der planetaren Ökologie –, dann brauchen wir bessere Informationsverarbeitung.

Wir müssen Systeme bauen, die beherrschbar sind. Ich bin nicht besonders pessimistisch: Viele Probleme, die KI schafft, sind durch KI lösbar. Der Weg, mit einem bösen Menschen mit KI umzugehen, sind viele gute Menschen mit KI. Kooperation gewinnt mehr als Zerstörung.

Die Sorge von Eliezer Yudkowsky begleitet ihn seit Jahren. Als ich ihn erstmals traf, auf der ersten AGI-Konferenz 2008 von Ben Goertzel in Memphis, organisierte er einen Workshop mit futuristisch gesinnten jungen Menschen. Die meisten waren keine KI-Forscher. Damals steckte KI in den Kinderschuhen; es war, als hüpfe man auf dem Sofa, um zum Mond zu kommen und denke nebenbei darüber nach, wie man den Luftraum kontrolliert. Wir nähern uns dem zwar an, aber aus meiner Sicht inkrementell. Bislang führt die Entwicklung nicht zu superintelligenten Systemen und verläuft langsam genug, um kontrollierbar zu bleiben.

Das Szenario einer sich verselbstständigenden unheilvollen KI sehen Sie somit nicht?

In gewisser Weise erleben wir das schon, wenn etwa ein Hedgefonds Märkte zum eigenen Vorteil und zum Nachteil des Rests der Welt manipuliert. Die Frage ist, ob wir Finanzsysteme stabil halten können, wenn Akteure KI-Systeme bauen, die den Börsenmarkt schneller manipulieren, als wir hinschauen – oder ob das zum Zusammenbruch führt. Hier stellt sich die Frage, ob Marktakteure und Regulierer genügend Überlebenswillen besitzen.

Sind Politik und Institutionen tatsächlich vom Verantwortungsbewusstsein gegenüber der Gesellschaft und unseren Kindern geleitet? Ich habe nicht den Eindruck, dass alle Regulierung auf EU- oder US-Ebene davon getragen ist. Aber wenn Probleme sichtbarer werden und der Existenzdruck steigt, werden Institutionen kaum eine andere Wahl haben, als wieder kompetenter zu werden. Auch dabei kann KI helfen, weil sie ein Werkzeug zur Modellierung von Realität ist.

Was ist die stärkste Evidenz dafür, dass Superintelligenz nicht in den nächsten ein bis fünf Jahren entsteht – oder dagegen?

Es gibt keine Evidenz – weder dafür noch dagegen. Wir kennen die Grenzen der gegenwärtigen Technologien nicht und wissen nicht, wie weit die nächste Technologie entfernt ist. Das kann zwei wissenschaftliche Papers weit weg sein oder zwei Jahrzehnte.

Wie sollten Unternehmerinnen und Unternehmer rational mit dieser Unsicherheit umgehen?

Die Entwicklungen sind hochdisruptiv – ähnlich wie das Internet bestehende Kreisläufe durch neue ersetzt hat. Gleichzeitig besitzt das System Trägheit: Berufsbilder, Wertschöpfungsketten und Gesetze ändern sich langsamer, als viele erwarten. Vieles wird langsamer ablaufen, als KI-Forscher prognostizieren, aber weiter reichen, als es sich heute viele vorstellen.

Seit der Moderne leben wir mit einer Zukunft, die schwer vorhersehbar ist und sich immer schneller verändert. Das ist teils Wahnsinn, teils ungeheuer aufregend. Eine Welt, die Innovation erlaubt und bestehende Systeme durch bessere ersetzt, eröffnet Emanzipation und Selbstverwirklichung. Für mich ist KI vor allem Hoffnung: effizientere Produktion und Verwaltung, Ermächtigung des Einzelnen und vielleicht mehr Zeit, Kinder aufzuziehen, Beziehungen einzugehen, Freundschaften zu pflegen; Mensch zu sein.