Günter Klambauer ist assozierter Professor für künstliche Intelligenz an der Johannes Kepler Universität Linz. Im brutkasten-Interview erläutert er, wie die Fortschritte bei großen Sprachmodellen (Large Language Models – LLMs) aus technischer Sicht zu bewerten sind und welche Zukunftszenarien für künstliche Intelligenz überhaupt realisitisch sind.

brutkasten: Beruhen die aktuellen Fortschritte bei Large Language Models (LLMs) auf besseren Algorithmen oder doch eher auf stärkerer Rechenpower und höherer Skalierung?

Günter Klambauer: 2019 hat man herausgefunden, dass man einfach durch das bloße Größermachen von Modellen deutliche Verbesserungen erzielen kann. Diese Modelle sind sogenannte künstliche neuronale Netze und bei deren Entwicklung kann man einfach entscheiden, wie groß die sind. Man kann die größer machen, indem man einfach eine Zahl im Programm ändert. 

Für manche in der Forschung war das ein bisschen enttäuschend, denn bis dahin ist man davon ausgegangen, dass man dafür neue Algorithmen brauchen würde. Tatsächlich hat sich aber eben herausgestellt, dass sich die Modelle durch das bloße Größermachen verbessern. 

Das führt aber dazu, dass man mehr Rechenpower benötigt. Für die IT-Giganten wie Google, Facebook, Amazon oder OpenAI war das super. Die verfügen über große Rechenzentren und konnten ihre Modelle einfach immer größer und größer machen. 

Allerdings beruhen nicht alle Fortschritte nur auf Skalierung. Es hat schon auch die sogenannte Transformer-Technologie benötigt. Sie hat dazu geführt, dass Sprachmodelle eben nicht nur übersetzen, sondern auch generieren – basierend auf Texten oder Vervollständigen. Das ist, was wir als Generative Pre-Trained Transformers, als GPTs, kennen.

Welche Rolle spielen die Datensätze dabei?

Das ist die zweite Achse, man füttert die Modelle mit mehr Daten. Früher waren die Datensätze vergleichsweise klein – mit ein paar Milliarden Wörtern aus Wikipedia. Mittlerweile muss man sich das so vorstellen, dass der gesamte textuelle Teil des Internet für das Training verwendet wird – viele Terabytes an Daten. Die Modelle verbessern sich also aus zwei Richtungen: Größere Datensätze sind die eine, und die Modelle vergrößern ist die andere. Beides hilft. 

Wie lange kann man diese Sprachmodelle durch Skalierung weiter verbessern? Erreichen wir Grenzen der Skalierung?

Das weiß man jetzt noch nicht, aber ich glaube schon, dass wir jetzt an dem Punkt sind, an dem Hochskalierung nicht mehr so viel bringt wie früher. Ab jetzt brauchen wir neue Ideen für Sprachmodelle – und neue Technologien. 

Allerdings kann man es oft auch nicht mit Sicherheit sagen: Wenn man nicht zu den IT-Giants gehört, kann man das schwer überprüfen, wo wir gerade stehen. Ein Sprachmodell wie GPT-4 von OpenAI trainiert auf zehntausenden Grafikkarten gleichzeitig. Da gibt es in ganz Europa kein Rechenzentrum, das das durchrechnen könnte. 

Als OpenAI Ende November 2022 den Chatbot ChatGPT veröffentlicht hat, hat dies in der Öffentlichkeit für großes Aufsehen gesorgt. Wie war die Reaktion in der Wissenschaft?

Das war auch für die Wissenschaft erstaunlich. Ich war damals gerade auf einer wissenschaftlichen Konferenz. Dort sind die Leute herumgelaufen und haben ChatGPT am Handy ausprobiert und waren verblüfft. Natürlich haben wir seit 2014 den Trend gesehen, dass Sprachmodelle immer besser und besser wurden. 

Aber erstaunlich war auch, wie leicht zugänglich künstliche Intelligenz dadurch wurde. OpenAI hat dafür gesorgt, dass die Sprachmodelle sehr gut mit Menschen interagieren können. In der Forschung nennt man das “Human Alignment”. Das war etwas Neues. 

Das war übrigens auch ein zusätzlicher Trainingsschritt. ChatGPT hat nicht nur aus bestehenden Texten die Abfolge der Wörter gelernt, sondern es hat auch auf das sogenannte Reinforcement Learning with Human Feedback gesetzt. Es gab bei ChatGPT eine Phase, in der menschliche KI-Trainer dem Modell Feedback gegeben haben.

Dafür gab es allerdings auch Kritik, weil diese Trainer in Kenia rekrutiert wurden und für zwei Dollar in der Stunde gearbeitet haben. Aus wissenschaftlicher Sicht war dies aber ein zusätzlicher Trainingsschritt, über den die Modelle lernen konnten, die menschliche Intention besser zu verstehen.

Kritik gibt es auch der KI-Forschung generell – in Hinblick darauf, dass die Entwicklung außer Kontrolle geraten könnte und Risiken schlagend werden könnten, die jetzt noch nicht absehbar sind. Anfang des Jahres gab es sogar einen Aufruf, die KI-Forschung für ein halbes Jahr auszusetzen. Wie beurteilen Sie dies?

Dieser Call für ein Moratorium ist genau von jenen gekommen, die eigentlich selbst am meisten an dem Thema geforscht haben. Die haben dann auch keine Pause gemacht, sondern weiter Sprachmodelle trainiert.

Das Moratorium wurde wegen angeblich existenziellen Risiken gefordert – einem “Terminator”-Szenario, in dem eine KI die Weltherrschaft übernimmt oder die Menschheit auslöscht. Aber das lenkt einerseits von tatsächlich existenziellen Problemen ab – wie dem Klimawandel oder Atombomben. Andererseits lenkt es auch von den wirklichen Problemen ab, die mit den KI-Systemen schon heute bestehen: Es kommt zu unterschiedlichen Verzerrungen – etwa kann es sein, dass Modelle Frauen schlechter behandeln oder Vorurteile gegenüber bestimmten Bevölkerungsgruppen übernehmen, weil diese in Texten im Internet, anhand derer sie trainiert wurden, enthalten waren. 

Für KI-Systeme legt man außerdem immer Ziele fest – beispielsweise, dass sie eine gute Wortabfolge geben. Wenn Sprachmodelle mit “I am as an AI Agent” antworten, verstärkt das unsere Tendenz zum Anthropomorphismus, also dass wir Dingen menschliche Eigenschaften zuschreiben.

Durch Filme wie “Terminator” kommt es zu dieser Idee, dass KI-Systeme eigene Ziele haben und den Menschen möglicherweise unterwerfen wollen – weil eben Menschen über anderen Menschen herrschen wollen. Ein KI-System will das aber gar nicht. “Intelligenz” an sich bedeutet überhaupt nicht, dass man über andere herrschen möchte – das ist auch wieder ein Anthropomorphismus. 

Für KI-Systeme geben wir die Ziele vor – eben für ein Sprachmodell, dass sie eine Wortfolge gut vorhersagt. Hier gibt es natürlich das Risiko des Missbrauchs – etwa dass so ein System eingesetzt wird, um Fake News zu erzeugen. Da ist ein tatsächliches Problem, da ist aber wieder der Mensch dahinter. Es ist nicht das Ziel des KI-Systems selbst, Fake News zu erzeugen.

Ist das Konzept einer Artificial General Intelligence (AGI) für Sie damit in den Bereich Science Fiction einzuordnen – oder ist eine solche doch ein Szenario, das in den nächsten Jahrzehnten eintreten könnte?

Ja, ich glaube, dass das ein Science-Fiction-Konzept ist, das sich wieder sehr an dem Konzept menschlicher Intelligenz anlehnt. Wenn KIs besser werden, bezieht sich das immer nur auf bestimmte Bereiche. In der Bilderkennung haben KIs menschliche Qualität schon erreicht. Teilweise ist es sogar so, dass es uns als Menschen bei Bildern, auf denen viele ähnliche Dinge sind, schwer gefällt, irgendwas zu erkennen. Für eine KI ist das dagegen einfach.

Es gibt Dinge, die für Menschen extrem einfach sind und für eine KI wahnsinnig schwer und das auch noch lange bleiben werden. Das betrifft zum Beispiel motorische  Fähigkeiten – sehen Sie sich einmal an, wenn ein Roboter etwas aufheben muss, das am Boden liegt. 

Dass sich eine KI immer weiterentwickelt und dann exakt die menschliche Intelligenz erreicht – das wird so nicht ablaufen. Es wird zuerst Zwischenstufen geben, aber nicht den einen Moment, an dem man sagt, jetzt ist eine AGI erreicht oder nicht. In manchen Bereichen, wie zum Beispiel Bilderkennung oder Schach oder Go spielen, ist KI sogar dem Menschen schon überlegen.

Ist es somit aus Ihrer Sicht illusorisch, wenn davon gesprochen wird, dass künstliche Intelligenz irgendwann ein Bewusstsein entwickeln könnte?

Wenn Sie am Computer zwei Matrizen multiplizieren, sagt niemand, dass ein Ergebnis ein leichtes Bewusstsein habe. Genau das ist, was jetzt passiert. In einem neuronalen Netz werden sehr viele Matrix-Multiplikationen vorgenommen. Aber dass das Modell deswegen ein Bewusstsein entwickeln soll, ist meiner Meinung nach ein starker Anthropomorphismus.

Wenn man mit ChatGPT interagiert, erhält man häufig Antworten, die mit der Phrase “As an AI Agent,…” eingeleitet werden. Das personifiziert sehr stark und versucht uns bis zu einem gewissen Grad glauben zu machen, dass wir wirklich mit einer Person interagieren. Ich hätte es daher bevorzugt, wenn ChatGPT in solchen Fällen “The Large Language Model…” antworten würde. 

Wenn die gängigen aktuellen KI-Modelle nur mehr von den Tech-Giganten betrieben werden können, weil nur diese die notwendige Rechenpower haben – bedeutet dies, dass künftig einige wenige Large Language Models den Markt dominieren werden und diese auf alle möglichen Use Cases angewendet werden? Oder ist zu erwarten, dass Unternehmen eigene LLMs für spezifische Fälle trainieren und sich ebenfalls damit etablieren können? 

Das ist eine wirklich entscheidende Frage, über die ich mir auch schon viele Gedanken gemacht habe. Ich denke, dass es darauf hinauslaufen wird, dass es kleine Anzahl von diesen Modellen geben wird. Die Entwicklung könnte hier ähnlich verlaufen wie bei Suchmaschinen. Auch hier gab es am Anfang viele und mittlerweile sind es nur mehr einige wenige. Ich würde schätzen, dass am Ende drei bis fünf LLMs übrig bleiben, die die Leute verwenden. 

Die Frage ist dann: Wer sind diese Anbieter? OpenAI ist definitiv dabei. Schön wäre aber, wenn man es in Europa schaffen würde, ein europäisches Sprachmodell zu bekommen, dass dann zu europäischer Infrastruktur wird, die von Unternehmen verwendet werden kann. Ein Startup könnte dann also sagen, ich nehme dieses europäische Sprachmodell und passe es für meinen Einsatzzweck an.

Müsste ein solches europäisches Modell öffentlich finanziert werden? 

Die Finanzierung könnte zum Beispiel zum Teil öffentlich geschehen und zum Teil über private Investoren, etwa in Form einer Public-Private-Partnership. Wichtig ist jedenfalls immer die Rechenkapazität, die man braucht, um ein großes Sprachmodell zu entwicklen. Zwar gibt es auch in Europa Rechenzentren mit ein paar tausend Grafikkarten, aber die sind aus kleineren Einheiten aufgebaut und erlauben es normalerweise nicht, ein großes Sprachmodell auf allen Grafikkarten gleichzeitig zu trainieren.