Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.

/artikel/chatgpt-dreiste-luegen-sebastian-kurz

kommentar

✨ AI Kontextualisierung

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show „2 Minuten 2 Millionen“, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei „2 Minuten 2 Millionen“ auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei „2 Minuten 2 Millionen“ – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff „Investitionsveranstaltung“ in dem von ChatGPT vorgebrachten Kontext nicht auf „Startup Live“-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei „erfunden“ – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten „Lügen“ von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an „Literacy“ und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene „Fakten“ auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:

die Redaktion

24.09.2026

Apollo: Sprachmodell von ÖAW und Mistral schließt Lücken in 2.000 Jahre alten Texten

"Apollo" ergänzt fehlende Inhalte in fragmentarischen antiken Texten und gilt eigenen Angaben nach als weltweit erstes LLM für Altgriechisch.

/artikel/apollo-sprachmodell-von-oeaw-und-mistral-schliesst-luecken-in-2-000-jahre-alten-texten

die Redaktion

24.09.2026

Apollo: Sprachmodell von ÖAW und Mistral schließt Lücken in 2.000 Jahre alten Texten

"Apollo" ergänzt fehlende Inhalte in fragmentarischen antiken Texten und gilt eigenen Angaben nach als weltweit erstes LLM für Altgriechisch.

/artikel/apollo-sprachmodell-von-oeaw-und-mistral-schliesst-luecken-in-2-000-jahre-alten-texten

In Museen und Bibliotheken weltweit lagern hunderttausende Inschriften und über eine Million Papyrusfragmente aus der Antike. Der Großteil des Materials ist fragmentarisch und schwer lesbar. „92 Prozent der Papyri warten bis heute auf ihre Entzifferung. Ein gigantischer, unerschlossener Schatz der Geschichte“, heißt es per Aussendung der Österreichischen Akademie der Wissenschaften (ÖAW). Genau hier möchte Apollo ansetzen.

Apollo: „Neues Fenster zu unserem gemeinsamen kulturellen Erbe“

Entwickelt wurde das Large Language Model (LLM) in einer Kooperation zwischen der ÖAW und den europäischen KI-Unternehmen Mistral AI und SAIL Reply. Am gestrigen Mittwoch präsentierten die Forschungspartner die erste Stufe des Apollo-KI-Systems, das ab sofort der Wissenschaft und der Öffentlichkeit zur Verfügung steht.

„Apollo zeigt, was europäische Zusammenarbeit leisten kann, wenn KI, die gezielt an wissenschaftliche Anforderungen angepasst werden kann, auf jahrhundertealtes wissenschaftliches Wissen trifft“, sagt Guillaume Lample, Co-Founder und Chief Scientist von Mistral. „Indem Mistrals Technologie dabei hilft, Texte wiederherzustellen, die seit zweitausend Jahren nur fragmentarisch überliefert sind, eröffnet sie ein neues Fenster zu unserem gemeinsamen kulturellen Erbe – und das ist erst der Anfang.“

600 Millionen Wörter

Die meisten Texte der Antike sind nur unvollständig überliefert und es fehlen einzelne Wörter oder sogar ganze Textpassagen. Das Sprachmodell Apollo könne fehlende Inhalte von Fragmenten eigenständig ergänzen und dabei helfen, das Verständnis und die historische Einordnung eines Schriftstückes zu verbessern.

Obwohl für das Training der KI in Altgriechisch nur 600 Millionen Wörter zur Verfügung standen – mehrere zehn Milliarden Wörter gelten üblicherweise als der Standard für LLMs – sei eigenen Angaben nach Apollo treffsicher.

„Bei einem vorhandenen Originaltext auf Papyrus erreicht das Modell bei maskierten, also bewusst versteckten Passagen eine Trefferquote von rund 80 Prozent“, erklärt Anna Dolganov, Forscherin am Österreichischen Archäologischen Institut der ÖAW und Mastermind hinter dem Projekt. Bei tatsächlich unbekannten Textlücken bewerteten internationale Fachexpert:innen, die das KI-System im Rahmen einer Blindstudie evaluiert haben, Apollos Vorschläge in 77 Prozent der Fälle als mindestens ebenso gut wie durch Menschen vorgenommene Ergänzungen und in 16–20 Prozent der Fälle sogar besser, heißt es.

Apollo erkennt Sprachstufen

Besonders beeindruckend sei zudem, wie präzise Apollo zwischen verschiedenen Sprachstufen des Griechischen unterscheiden kann, betont Dolganov: „Unser LLM kann mit vergleichsweise geringem Wissen über einen Kontext weitreichende Schlüsse ziehen. Anhand von Satzbau und Vokabular erkennt Apollo präzise, ob ein Text zum Beispiel aus Homers ‚Odyssee‘ stammt, und ergänzt ihn im passenden Sprachregister.“

Als Beweis zeigte Dolganov bei der Präsentation von Apollo etwa eine antike Geburtsurkunde, die vollständig rekonstruiert wurde. Zudem wurde eine beim Ausbruch des Vesuvs verkohlte Schriftrolle an entscheidenden Stellen „vollständig lesbar gemacht“. Und mit der Rekonstruktion einer fragmentarischen Inschrift aus dem Schwarzmeerraum hat sich der Forscherin zufolge belegen lassen, dass in einer bestimmten Region bereits römisches Recht galt. Die Aussendung sprach hierbei von einer „weitreichenden Erkenntnis, die durch einen Beleg für die römische Prostitutionssteuer untermauert wird.“

Weitere Stufen geplant

„Mithilfe der KI entsteht ein neues Bild der antiken Sozial- und Wirtschaftsgeschichte, da sich viele Erkenntnisse erst aus der Masse der Dokumente ergeben – etwa bei Steuerquittungen“, präzisiert Dolganov.

Und Heinz Faßmann, Präsident der Österreichischen Akademie der Wissenschaften, ergänzt: „Apollo bringt die Erforschung von historischen Schriftstücken und Dokumenten in ein neues Zeitalter. Der Einsatz des neuen Sprachmodells wird völlig neue Forschungsfragen zulassen und unser historisches Wissen erweitern. Wir sind stolz, dass die ÖAW gemeinsam mit dem europäischen KI-Unternehmen Mistral diese wegweisende Technologie entwickelt hat. Für die Zukunft streben wir eine vertiefte Zusammenarbeit mit Mistral an.“

© ÖAW/Daniel Hinterramskogler – Heinz Faßmann, Präsident der Österreichischen Akademie der Wissenschaften, bei der öffentlichen Vorstellung von Apollo.

Der ersten Stufe des Modells sollen bald noch weitere folgen. „Das Ziel ist ambitioniert, aber machbar“, wie Dolganov betont: Die KI soll künftig unerschlossene Papyri sowohl entziffern als auch rekonstruieren können. Geplant ist außerdem eine Erweiterung, mit der das Modell thematische und semantische Suchen in der gesamten griechischen Textüberlieferung durchführen sowie Parallelstellen suchen soll und so die passende Evidenz für Ergänzungsvorschläge gleich mitliefert.

Dolganov, die ÖAW und Mistral wollen jedoch bei Altgriechisch nicht aufhören. Aufbauend auf den Erfahrungen soll die KI künftig auch mit einem lateinischen Textkorpus trainiert werden. Dafür stehen dann rund zwölf Milliarden Wörter zur Verfügung. Was für das Projekt noch fehlt, sei ein passender Name.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag