04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.
/artikel/chatgpt-dreiste-luegen-sebastian-kurz
ChatGPT und Sebastian Kurz
Porträt Sebastian Kurz (c) EVP via Wikimedia Commons | Hintergrund (c) Choong Deng Xiang via Unsplash
kommentar

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show „2 Minuten 2 Millionen“, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Screenshot: https://chat.openai.com/

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei „2 Minuten 2 Millionen“ auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei „2 Minuten 2 Millionen“ – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Screenshot: https://chat.openai.com/

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff „Investitionsveranstaltung“ in dem von ChatGPT vorgebrachten Kontext nicht auf „Startup Live“-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei „erfunden“ – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten „Lügen“ von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an „Literacy“ und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene „Fakten“ auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:
28.07.2026

“Zu wenige gute Leute”: poptop verlässt Niederösterreich

Das Kindermöbel-Startup poptop gibt seinen Standort Traiskirchen bis Ende Oktober auf und zieht in den 5. Wiener Gemeindebezirk. Die Endmontage übernehmen künftig die Zulieferer, das Fulfilment ein externer Partner, eine Stelle fällt weg. Parallel baut das Unternehmen eine zweite Fertigung in Serbien auf. Bis 2028 will CEO John Brady das zwölfköpfige Team verdoppeln.
/artikel/zu-wenige-gute-leute-poptop-verlaesst-niederoesterreich
28.07.2026

“Zu wenige gute Leute”: poptop verlässt Niederösterreich

Das Kindermöbel-Startup poptop gibt seinen Standort Traiskirchen bis Ende Oktober auf und zieht in den 5. Wiener Gemeindebezirk. Die Endmontage übernehmen künftig die Zulieferer, das Fulfilment ein externer Partner, eine Stelle fällt weg. Parallel baut das Unternehmen eine zweite Fertigung in Serbien auf. Bis 2028 will CEO John Brady das zwölfköpfige Team verdoppeln.
/artikel/zu-wenige-gute-leute-poptop-verlaesst-niederoesterreich
(v.l.) John Brady von poptop, Fußballprofi Thomas Müller als Star-Investor sowie Christian Bezdeka und Marcus Ihlenfeld von woom. (c) poptop

„Niederösterreich, es war schön. Aber ihr habt einfach zu wenige gute Leute.“ Mit diesem Satz, versehen mit einem Herz-Emoji, hat John Brady auf LinkedIn den Umzug seines Startups kommentiert. poptop hat den Mietvertrag für ein Büro in 1050 Wien unterschrieben, ab September 2026 arbeitet das Team dort. In dasselbe Büro zieht soundslikeaplan, das Programm der beiden poptop-Mitgründer Marcus Ihlenfeld und Christian Bezdeka.

poptop wurde 2023 von Ihlenfeld, Bezdeka und Brady gegründet und entwickelt Kindermöbel, darunter einen mechanisch höhenverstellbaren Kinderschreibtisch, der ohne Strom auskommt. Im zweiten vollen Geschäftsjahr lag der Umsatz bei mehr als zwei Millionen Euro, für 2026 peilt das Unternehmen sechs Millionen Euro und erstmals Profitabilität an. Seit 2025 ist Fußballprofi Thomas Müller, über eine siebenstellige Finanzierungsrunde, als Investor an Bord. Das Tagesgeschäft liegt von Beginn an bei Brady als CEO, Ihlenfeld und Bezdeka verantworten Produktvision und Design.

Bekannt sind die beiden vor allem durch woom: 2013 in einer Wiener Garage gegründet, ab 2015 von Klosterneuburg aus gewachsen und im Geschäftsjahr 2025 bei rund 149 Millionen Euro Umsatz. Aus der operativen Führung des Kinderfahrradherstellers haben sie sich 2022 zurückgezogen, seither sind sie dort Miteigentümer und im Beirat. Seit 2025 geben sie mit soundslikeaplan ihr Wissen an andere Gründer:innen weiter. Es ist das einzige der drei Unternehmen, das sie selbst operativ betreiben, und der Grund, warum sie beim Wiener Büro mit an Bord sind.

„Wenn du schnell sein willst, musst du im selben Raum sitzen“

Bisher waren die Teams auf zwei Standorte verteilt: Operations und Marketing von poptop in Traiskirchen, die Produktentwicklung gemeinsam mit dem soundslikeaplan-Team im 19. Wiener Gemeindebezirk. Was nach Arbeitsteilung aussah, sei in Wahrheit ein Effizienzproblem gewesen, heißt es in einer Aussendung: Meetings über zwei Standorte hinweg, Wege, die niemand fahren wollte, Entscheidungen, die zu lange dauerten. „Wenn du schnell sein willst, musst du im selben Raum sitzen. Punkt“, sagt Brady. Es sei der vierte Umzug in drei Jahren.

Zwölf Mitarbeiter:innen, doppelt so viele bis 2028

Den Wechsel nach Wien begründet Brady mit dem Personalbedarf. poptop wachse und brauche qualifizierte Leute, in Niederösterreich sei das schwieriger als nötig. „Niederösterreich hat uns gut behandelt. Aber der Talentpool in Wien ist um ein Vielfaches größer. Wenn wir das Team aufbauen wollen, das poptop in den nächsten Jahren braucht, führt kein Weg an einem zentralen Wiener Standort vorbei“, so der CEO.

Konkret zählt poptop nach eigenen Angaben aktuell zwölf Mitarbeiter:innen. Bis 2028 soll sich das Team verdoppeln, Schwerpunkte sind laut Brady Produktentwicklung sowie Marketing und Sales.

Auch woom hat Niederösterreich verlassen: Das Unternehmen übersiedelte im Februar 2024 von Klosterneuburg in den 19. Wiener Gemeindebezirk, 155 der 162 Beschäftigten wechselten mit. Der Grund war damals allerdings ein anderer, die Geschäftsführung führte Platzmangel an. Ihlenfeld und Bezdeka waren zu diesem Zeitpunkt bereits nicht mehr operativ tätig.

Ausgelagert wird die Endmontage, nicht die Produktion

In der Aussendung heißt es, Produktion und Fulfilment würden komplett ausgelagert. Auf Nachfrage von brutkasten präzisiert Brady das: Die Kernproduktion sei immer extern gelaufen, mit den bestehenden Zulieferern arbeite poptop schon bisher zusammen. In Traiskirchen habe das Unternehmen lediglich die Endmontage einzelner Produkte selbst gemacht, und die übernehmen künftig ebenfalls die Zulieferer. „Es geht also nicht um eine Verlagerung eigener Produktion, sondern um die Bündelung von Arbeitsschritten“, sagt der CEO.

Bis Ende Oktober sollen alle Produkte verkaufsfertig an den neuen Fulfilment-Partner Quivo gehen und von dort direkt zu den Kund:innen. Hinter Quivo steht die Wiener LOGSTA GmbH, deren Fulfilment-Center beim Flughafen Schwechat liegt. Die Logistik bleibt damit in Österreich. Parallel baut poptop laut Brady einen zusätzlichen Produktionspartner in Serbien auf, der bereits im Herbst starten soll. Damit stehe die Fertigung künftig auf zwei Beinen – Asien und Europa – und das Unternehmen werde lieferfähiger und flexibler.

Marcus Ihlenfeld begründet den Schritt in der Aussendung so: „Unsere Stärke liegt in Produktentwicklung und Marketing. Das [Anm. Fertigung] können andere besser. Und je früher man das akzeptiert, desto besser.“

Eine Stelle fällt weg

In Produktion und Fulfilment arbeiten nach Angaben von Brady aktuell zwei Personen, im Operations-Team zwei weitere. Eine Stelle im Fulfilment fällt bis Jahresende weg. Eine Person betreut künftig von einem externen Standort aus das gesamte Retourenmanagement und bleibt an Bord. Das zweiköpfige Operations-Team wechselt nach Wien und soll verstärkt werden, weil die Steuerung der externen Produktions- und Fulfilment-Partner mehr Gewicht bekommt. Den Standort Traiskirchen gibt poptop bis Ende Oktober vollständig auf.

Werkstatt und Schauraum ziehen mit

Die Produktentwicklungswerkstatt zieht mit und soll am neuen Standort mehr Platz bekommen. Prototypen sollen künftig direkt neben dem Büro gebaut, getestet, verworfen und neu gemacht werden. Dazu kommt laut Aussendung ein Schauraum, in dem Eltern und der Fachhandel die Produkte direkt am Standort testen können.

Für soundslikeaplan entsteht am neuen Standort außerdem ein eigener Schulungsraum. „Wir haben zehn Jahre lang jede Lektion selbst durchgemacht, mit allen Umwegen und Schmerzen“, sagt Christian Bezdeka. „Wenn wir anderen Gründern ein paar dieser Umwege ersparen können, ist schon viel gewonnen. Dafür brauchen wir einen Raum, in dem das persönlich passiert. Und den haben wir jetzt.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz