04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.
/artikel/chatgpt-dreiste-luegen-sebastian-kurz
ChatGPT und Sebastian Kurz
Porträt Sebastian Kurz (c) EVP via Wikimedia Commons | Hintergrund (c) Choong Deng Xiang via Unsplash
kommentar

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show „2 Minuten 2 Millionen“, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Screenshot: https://chat.openai.com/

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei „2 Minuten 2 Millionen“ auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei „2 Minuten 2 Millionen“ – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Screenshot: https://chat.openai.com/

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff „Investitionsveranstaltung“ in dem von ChatGPT vorgebrachten Kontext nicht auf „Startup Live“-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei „erfunden“ – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten „Lügen“ von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an „Literacy“ und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene „Fakten“ auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:
09.11.2026

Thomas Fuchs: Wie ein Österreicher die KI-Strategie des wertvollsten Pharmakonzerns der Welt verantwortet

Ein Österreicher verantwortet die KI-Strategie des wertvollsten Pharmakonzerns der Welt: Thomas Fuchs ist seit 2024 der erste Chief AI Officer in der Geschichte von Lilly. brutkasten hat ihn in Wien zum Interview getroffen. Er erklärt, warum der Konzern einen eigenen Supercomputer mit mehr als 1.000 GPUs betreibt und warum KI trotzdem kein Medikament auf Knopfdruck liefert.
/artikel/thomas-fuchs-lilly-chief-ai-officer
09.11.2026

Thomas Fuchs: Wie ein Österreicher die KI-Strategie des wertvollsten Pharmakonzerns der Welt verantwortet

Ein Österreicher verantwortet die KI-Strategie des wertvollsten Pharmakonzerns der Welt: Thomas Fuchs ist seit 2024 der erste Chief AI Officer in der Geschichte von Lilly. brutkasten hat ihn in Wien zum Interview getroffen. Er erklärt, warum der Konzern einen eigenen Supercomputer mit mehr als 1.000 GPUs betreibt und warum KI trotzdem kein Medikament auf Knopfdruck liefert.
/artikel/thomas-fuchs-lilly-chief-ai-officer
Thomas Fuchs, Chief AI Officer von Lilly | Foto: Christian Fichtner/big5comm

Thomas Fuchs ist seit Oktober 2024 der erste Chief AI Officer in der Geschichte des US-Pharmakonzerns Lilly. Der aus Österreich stammende Forscher studierte Technische Mathematik an der TU Graz, promovierte an der ETH Zürich und forschte am Jet Propulsion Laboratory der NASA, bevor er am Memorial Sloan Kettering Cancer Center in New York das Digital-Pathology-Unternehmen Paige AI mitgründete. Später baute er am Mount Sinai das erste AI-Department einer Medical School mit auf. Beim Besuch von Lilly Österreich in Wien sprach er mit brutkasten über den Supercomputer des Konzerns, die Grenzen von KI in der Medikamentenentwicklung und darüber, warum Österreich der Schweiz nicht nachstehen müsste.


brutkasten: Sie haben selbst mehrere Unternehmen gegründet, darunter Paige AI. Warum der Schritt in einen Konzern wie Lilly?

Thomas Fuchs: Mein erstes Startup habe ich mit 16 gegründet, tief in den 90er-Jahren. Das waren Multimedia-CD-ROMs über die österreichische Geschichte zum Jubiläum 1996, die Hypertext-Engine haben wir noch ohne Internet selbst geschrieben. 2017 haben wir dann Paige in New York gegründet, ein Spin-out des Memorial Sloan Kettering, dem größten tertiären Krebszentrum der USA. Es ging darum, auf digitalisierten Pathologieschnitten Krebs und seine Treiber automatisch zu erkennen. Das führte 2021 zur FDA-Autorisierung von Paige Prostate, der ersten KI-basierten Software zur Unterstützung bei der Erkennung verdächtiger Bereiche in digitalisierten Prostatabiopsien. Dazu war ich lange Professor am Sloan Kettering, an der Weill Cornell und am Mount Sinai, wo wir das erste AI-Department einer Medical School gegründet haben. Ein fantastisches Umfeld, aber die Mittel, um das Feld wirklich voranzutreiben, sind bei Lilly ungleich größer. Nicht nur bei der Infrastruktur, sondern auch beim Zugang zu Daten und Expertise. Lilly hat tausende Chemiker:innen und Biolog:innen. Bei Lilly erreichen wir mit unseren Medikamenten ungleich mehr Menschen. Das ist ein enormer Hebel.

Welches Wissen bringen Sie als Chief AI Officer ein?

Die meisten Leute denken bei KI zunächst an Sprachmodelle wie ChatGPT oder Claude. Die sind wichtig, aber das Feld ist deutlich breiter. Wir entwickeln Modelle, die Wissenschaftler:innen beim Design von Molekülen unterstützen, bei Proteinen, bei kleinen Molekülen und auch in der genetischen Medizin. Die Sprachmodelle nutzen wir wiederum, um diese unterschiedlichen Systeme mit Agenten zu orchestrieren. Und wir setzen KI nicht nur in der Discovery und der Entwicklung ein, sondern auch in der Produktion. Lilly baut das Manufacturing weltweit aus, und dort arbeiten wir mit digitalen Zwillingen für Geräte und Prozesse. Wenn man die ganze Pharma-Wertschöpfungskette anschaut, kann jeder einzelne Teil davon profitieren.

Wie haben Sie Ihre Organisation aufgebaut?

Lilly hatte schon vor mir ausgezeichnete Analytics-Abteilungen und begann sehr früh damit, Sprachmodelle zu verwenden. Wir haben dem Ganzen eine neue Struktur gegeben. Mein Team arbeitet im Startup-Stil, in kleinen interdisziplinären Teams, die sich jeweils tief in einzelne Bereiche einarbeiten, von Discovery über Development bis Manufacturing. Der erste Schritt war die Struktur, der zweite der Ausbau der Infrastruktur. Lilly hatte, wie die meisten Betriebe, damals nicht sehr viele GPUs für die Forschung. Jetzt haben wir eine sehr leistungsfähige Recheninfrastruktur.

Thomas Fuchs, Chief AI Officer von Lilly, zu Besuch bei Lilly Österreich in Wien. | Foto: Christian Fichtner/big5comm

Wo hat KI in dieser Wertschöpfungskette aktuell den größten Impact?

Das hängt von der Zeitskala ab. Am unmittelbarsten ist es das Manufacturing. Jede Anwendung von KI, die Prozesse in der Produktion effizienter macht, hilft uns, Medikamente verlässlich zu den Patient:innen zu bringen. Der große Teil unserer Arbeit liegt aber in der Discovery: Wie kann man neue Moleküle designen und ihre Eigenschaften, ihre Verträglichkeit und ihre Produzierbarkeit besser einschätzen? Das ist eine wesentlich längere Zeitskala, da reden wir von Jahren. Am Anfang kann man viel beschleunigen und de-risken. Aber am Ende muss die Biologie wirken. Man braucht die klinischen Studien, um zu sehen, ob ein Medikament sicher und effektiv ist. Das wird KI nicht einfach ersetzen.

Warum ein eigener Supercomputer statt Cloud?

Deep Learning besteht intern aus Vektor- und Matrixmultiplikationen, deshalb hat unsere Community ab etwa 2012 angefangen, GPUs aus dem Spieledesign dafür zu verwenden. Unser System ist ein NVIDIA DGX Superpod, deshalb heißt er bei uns LillyPod, mit mehr als 1.000 B300 GPUs. Man kann sich das wie ein wissenschaftliches Instrument vorstellen, wie ein Teleskop oder Mikroskop, das uns erlaubt, tiefer in die kleinsten Dinge hineinzuschauen. Wenn Wissenschaftler:innen nur wenige GPUs haben, können sie keine großen Experimente laufen lassen. Heute können wir Modelle auf Basis all jener Moleküle trainieren, die Lilly in seiner 150-jährigen Geschichte entwickelt hat. Daten bleiben trotzdem der Engpass, in der Biologie gibt es im Vergleich zur Sprache wenige Datenpunkte bei viel höherer Komplexität. Deshalb bauen wir auch automatisierte Labore: Ein Modell schlägt ein Experiment vor, das Labor führt es aus, aus den Daten lernt das Modell wieder dazu. Dieses Flywheel soll uns immer bessere Modelle und damit immer bessere Werkzeuge für unsere Forschenden bringen. Der zweite Teil: Wir passen Sprachmodelle auch an unsere eigenen wissenschaftlichen Anforderungen an.

Das ist eine massive Investition. Wie bringt man das durch?

Wir haben eine Führung, die sehr langfristig denkt und gleichzeitig ein starkes technisches Verständnis mitbringt. Am Ende müssen neue Medikamente herauskommen, die den Patient:innen helfen.

Ist schon etwas herausgekommen?

Im Manufacturing setzen wir KI ein, um Prozesse effizienter zu machen, damit Medikamente verlässlich verfügbar bleiben. In der Discovery haben wir ein Modell entwickelt, das Chemiker:innen beim Design kleiner Moleküle unterstützt. Das verwenden sie tagtäglich. Es hat ihnen neue Ansätze geliefert, die sie dann geprüft haben. So wie Magnus Carlsen im Schach Züge verwendet, die er von der KI gelernt hat, verwenden unsere Chemiker:innen jetzt Motive, die sie von der KI gelernt haben. Aber es bleibt immer eine Partnerschaft zwischen Mensch und Technologie. Wir sind weit davon entfernt, einfach einen Knopf zu drücken und am Ende kommt ein Medikament heraus. KI ist für uns ein Werkzeug, das wir gemeinsam mit unseren Wissenschaftler:innen und für ihre Arbeit entwickeln.

Thomas Fuchs im Interview mit brutkasten-Chefredakteur Martin Pacher in Wien. | Foto: Christian Fichtner/big5comm

Kooperiert Lilly dabei auch mit Startups?

Sehr viel, mit Startups und mit größeren Firmen. Wir wollen das Rad nicht neu erfinden. Aber in manchen Bereichen gibt es noch keine passende Lösung, dann entwickeln wir sie selbst. Was ich immer sage: Wir sollen kaufen, was uns beschleunigt, und selbst machen, was uns unterscheidet. Mit TuneLab wollen wir das Biotech-Ökosystem unterstützen. Wir stellen teilnehmenden Biotech-Unternehmen KI-Werkzeuge über TuneLab zur Verfügung.

Wie blicken Sie auf den Standort Europa und Österreich?

Als Europäer liegt mir die Zukunft Europas sehr am Herzen. Ich würde mir mehr Initiativen wünschen, man muss sich nicht zurückhalten. Österreich hat extrem gute Expertise, die Universitäten bilden hervorragend aus, Sepp Hochreiter in Linz hat die LSTMs mitentwickelt. Das sollte ein Leuchtturm der Welt sein. Natürlich braucht es mehr Investitionen, nicht nur vom öffentlichen Sektor, sondern viel mehr vom privaten. Es gibt keinen Grund, warum Österreich der Schweiz nachstehen sollte.

Wäre Ihre Karriere in Europa möglich gewesen?

Schwer zu sagen, die Welt ändert sich. Es gibt sehr erfolgreiche Beispiele in Österreich. Zürich ist ein Hotspot für Startups rund um die ETH, das würde ich mir auch für Österreich wünschen. Gleichzeitig sind die Rahmenbedingungen in den USA nach wie vor günstiger: Mit Paige in New York hatten wir Möglichkeiten, die in Europa schwerer zu finden gewesen wären. Es gibt keinen technischen oder intellektuellen Grund, warum Europa und Österreich nicht vorn dabei sein sollten.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz