04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.
/artikel/chatgpt-dreiste-luegen-sebastian-kurz
ChatGPT und Sebastian Kurz
Porträt Sebastian Kurz (c) EVP via Wikimedia Commons | Hintergrund (c) Choong Deng Xiang via Unsplash
kommentar

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show „2 Minuten 2 Millionen“, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Screenshot: https://chat.openai.com/

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei „2 Minuten 2 Millionen“ auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei „2 Minuten 2 Millionen“ – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Screenshot: https://chat.openai.com/

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff „Investitionsveranstaltung“ in dem von ChatGPT vorgebrachten Kontext nicht auf „Startup Live“-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei „erfunden“ – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten „Lügen“ von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an „Literacy“ und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene „Fakten“ auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:
10.09.2026

Warum Europa kein eigenes Waymo braucht

Ein Fahrzeug ist noch kein Geschäftsmodell: Warum beim autonomen Fahren nicht die Technologie über Europas Chance entscheidet, sondern der Betrieb dahinter, erklärt vionmo-Gründer Michael Jayasekara im Gastkommentar.
/artikel/warum-europa-kein-eigenes-waymo-braucht
10.09.2026

Warum Europa kein eigenes Waymo braucht

Ein Fahrzeug ist noch kein Geschäftsmodell: Warum beim autonomen Fahren nicht die Technologie über Europas Chance entscheidet, sondern der Betrieb dahinter, erklärt vionmo-Gründer Michael Jayasekara im Gastkommentar.
/artikel/warum-europa-kein-eigenes-waymo-braucht
(c) Verena Nageler

Mit vierundzwanzig habe ich einen großen Teil meines Ersparten in ein Wiener Mobility-Startup gesteckt. Verrückt, ich weiß, aber ich habe verdammt viel gelernt, als ich am Tisch mit namhaften Business Angels aus Österreich und VCs wie Elevator Ventures, Uniqa Ventures und dem aws Gründerfonds sitzen durfte. Die Firma hieß goUrban, eine Plattform für Car- und Micro-Mobility-Sharing und für die Digitalisierung von Firmenflotten. Im September 2024 wurde goUrban von Wunder Mobility übernommen.

Geblieben ist mir aus dieser Zeit vor allem eine Lektion. Sie kommt in der aktuellen Debatte über autonomes Fahren fast nie vor: Ein Fahrzeug ist noch kein Geschäftsmodell.

Beim Sharing entscheidet nämlich nicht die App. Fahrzeuge wollen geladen, gereinigt, gewartet und umverteilt werden. Sie müssen dort stehen, wo in zwanzig Minuten jemand sucht. Stehen sie falsch, kosten sie Geld. Sind sie defekt, ist die Kund:in weg. Bleibt die Auslastung aus, hilft die beste Technologie nichts.

Beim autonomen Fahren ist und wird das nicht anders sein. Die Person am Steuer kann verschwinden. Der Betrieb bleibt ja trotzdem.

Die USA und China machen es logisch, aber anders

Die USA und China skalieren autonome Mobilität dort, wo Dichte, große Flotten und zahlungsbereite Kund:innen zusammenkommen. Das Robotaxi ist als individuelles Produkt gedacht und fährt zuerst in den Gebieten, in denen sich der Betrieb rechnet. Das ist logisch und funktioniert dort auch.

Bei uns sind die Voraussetzungen andere. Wir haben ein dichtes öffentliches Netz, starke Verkehrsverbünde und die politische Erwartung, dass Mobilität auch dort funktioniert, wo sie sich betriebswirtschaftlich nicht ausgeht.

Ein europäisches Waymo zu bauen, löst diese Frage nicht. Der Bahnhof im Seitental, der Weiler am Dienstagabend, der Tourismusort im November: Da fehlt kein weiteres einzelnes Fahrzeug. Da fehlt das System, das dieses Fahrzeug in den öffentlichen Verkehr einhängt.

Die spannendste europäische Position liegt für mich deshalb nicht im Technologie-Layer. Sie liegt bei denen, die Flotten betreiben, Nachfrage bündeln, Fahrten disponieren, Fahrzeuge laden und warten, Schnittstellen zu den Verbünden bauen und Gemeinden, Betriebe und Behörden an einen Tisch bekommen. Also bei der unglamourösen Arbeit.

Ohne Nachfrage keine Skalierung

Autonome Fahrzeuge rechnen sich erst, wenn sie regelmäßig fahren. Und genau hier wird der Tourismus unterschätzt.

Eine Destination bündelt Nachfrage räumlich und zeitlich. Samstagvormittag kommen die Gäste an denselben zwei, drei Bahnhöfen an. Sie fahren zu einer überschaubaren Zahl an Unterkünften, Bergbahnen, Veranstaltungsorten und Ausflugszielen. Diese Wege sind planbarer als die einer beliebigen Stadtbevölkerung. Wir sehen das in unseren Daten immer wieder.

Ein einzelnes Hotel wird trotzdem nie eine autonome Flotte aufbauen. Eine Region kann es. Sie kann die Nachfrage aus Beherbergung, Freizeitwirtschaft, Bevölkerung und öffentlichem Verkehr zusammenlegen. Aus einzelnen Fahrten wird ein Bediengebiet, aus dem Pilotprojekt ein Angebot, das bleibt. Und die Einheimischen fahren mit. Das ist der Punkt, an dem Konnektivität das Leben am Land wieder attraktiver macht.

Nur: Irgendwer muss diese Struktur aufsetzen. Wer übernimmt die Buchung? Wer garantiert den Anschluss, wenn der Zug 18 Minuten Verspätung hat? Wer zahlt die schwachen Zeiten? Wem gehören die Daten? Wer haftet, wenn eine Fahrt ausfällt? Und wer entscheidet, ob das Fahrzeug zum gut ausgelasteten Bahnhof fährt oder zum Betrieb am Ende des Tals?

Das klingt weniger nach Zukunft als Sensorik und Fahrzeugmodelle. Wirtschaftlich entscheidet es mehr.

Menschen steigen nicht wegen der Technik um

Das beste Angebot scheitert, wenn es niemand nutzt. Und die Rolle des Klimabewusstseins wird dabei gehörig überschätzt.

Der Gast lässt das Auto nicht stehen, um ein guter Mensch zu sein. Er lässt es stehen, wenn die Alternative bequemer ist und er sich darauf verlassen kann. Wenn sie günstiger ist, umso besser.

Der Urlaub ist dafür ein guter Moment. Menschen sind aus ihren Routinen raus, probieren Sachen aus, organisieren ihre Wege ohnehin neu. Ob das zuhause nachwirkt, ist noch nicht ausreichend belegt, da würde ich mich nicht zu weit hinauslehnen. Für eine Destination reicht der Urlaub trotzdem: Hier lässt sich zeigen, dass es ohne eigenes Auto geht, ohne dass sich jemand einschränken muss.

Die Technologie macht es möglich. Genutzt wird sie erst, wenn sie im Alltag der Gäste die bequemere Variante ist.

Wer das System organisiert, dem gehört der Markt

Europa pilotiert viel und skaliert wenig. Das liegt nicht nur an Regulierung und technischer Vorsicht. Meistens fehlt jemand, der aus Fahrzeug, öffentlichem Verkehr, touristischer Nachfrage und regionaler Verantwortung ein Produkt macht.

Waymo wird uns das nicht bauen. Und auch kein europäischer Fahrzeughersteller wird entscheiden, wie der Gast vom Bahnhof in ein österreichisches Seitental kommt.

Die unternehmerische Chance liegt zwischen den Zuständigkeiten. Sie gehört denen, die Betreiber, Verkehrsverbünde, Destinationen, Gemeinden und Betriebe koordinieren und daraus ein Angebot machen, das an einem Dienstag im November genauso funktioniert wie am Anreisesamstag im Winter.

Wer damit anfangen will, braucht dafür übrigens kein autonomes Fahrzeug. Es reicht, in einer Region die Fragen von oben zu beantworten: Buchung, Anschluss, Finanzierung der schwachen Zeiten, Daten, Haftung. Wer das geklärt hat, ist bereit, wenn die Fahrzeuge kommen. Die anderen pilotieren dann noch.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz