04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.
/artikel/chatgpt-dreiste-luegen-sebastian-kurz
ChatGPT und Sebastian Kurz
Porträt Sebastian Kurz (c) EVP via Wikimedia Commons | Hintergrund (c) Choong Deng Xiang via Unsplash
kommentar

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show „2 Minuten 2 Millionen“, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Screenshot: https://chat.openai.com/

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei „2 Minuten 2 Millionen“ auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei „2 Minuten 2 Millionen“ – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Screenshot: https://chat.openai.com/

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff „Investitionsveranstaltung“ in dem von ChatGPT vorgebrachten Kontext nicht auf „Startup Live“-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei „erfunden“ – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten „Lügen“ von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an „Literacy“ und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene „Fakten“ auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:
vor 1 Stunde

Grazer Startup teamazing setzt nach Existenzkrise auf KI

2025 kämpfte das Grazer Startup teamazing noch ums Überleben. Ein Jahr später ist das Unternehmen nach eigenen Angaben wieder profitabel und meldet erste Erfolge mit seiner KI-Plattform Teamo AI. Diese soll Unternehmen dabei helfen, betriebliche Abläufe zu verbessern. Entwickelt wurde die Technologie gemeinsam mit dem deutschen Industriebetrieb Bass.
/artikel/grazer-startup-teamazing-setzt-nach-existenzkrise-auf-ki
vor 1 Stunde

Grazer Startup teamazing setzt nach Existenzkrise auf KI

2025 kämpfte das Grazer Startup teamazing noch ums Überleben. Ein Jahr später ist das Unternehmen nach eigenen Angaben wieder profitabel und meldet erste Erfolge mit seiner KI-Plattform Teamo AI. Diese soll Unternehmen dabei helfen, betriebliche Abläufe zu verbessern. Entwickelt wurde die Technologie gemeinsam mit dem deutschen Industriebetrieb Bass.
/artikel/grazer-startup-teamazing-setzt-nach-existenzkrise-auf-ki
Die Gründer von teamazing: Paul Stanzenberger und Lukas Komar | (c) teamazing

„Das Einzige, was wir auch nach über einem Jahrzehnt nicht kennen, ist Stillstand“, heißt es auf der Website von teamazing. Tatsächlich hat sich das 2014 gegründete Unternehmen mehrfach neu erfunden: vom klassischen Teambuilding-Anbieter über virtuelle Teamevents bis hin zur KI-Plattform.

Mit Teamo AI will teamazing verhindern, dass wertvolles Wissen von Mitarbeitenden im Arbeitsalltag verloren geht. Die Plattform sammelt deshalb Rückmeldungen aus der Belegschaft und verknüpft sie mithilfe künstlicher Intelligenz mit Daten aus bestehenden Unternehmenssystemen. So sollen Probleme schneller erkannt und konkrete Verbesserungen ermöglicht werden.

Vom Teambuilding-Boom zur Existenzkrise

Während der Corona-Pandemie entwickelte sich teamazing nach eigenen Angaben zum europäischen Marktführer im Online-Teambuilding (brutkasten berichtete). Nach dem Ende des Booms wollte das Unternehmen mit einem eigenen Videospiel ein neues Geschäftsmodell aufbauen. Dafür sicherte sich das Startup 2023 knapp eine Million Euro von der Steirischen Wirtschaftsförderung (SFG), ZEN 11 und Situlus (brutkasten berichtete).

Das browserbasierte Spiel Monax Island richtete sich vor allem an Remote-Teams. Mitarbeitende sollten gemeinsam auf einer virtuellen Insel Rätsel lösen und Herausforderungen bewältigen. Regelmäßig neue Spielinhalte sollten die Zusammenarbeit und den informellen Austausch auch über räumliche Distanzen hinweg fördern.

Der erhoffte Erfolg blieb jedoch aus. „Da haben wir keinen Product-Market-Fit gefunden“, sagt Mitgründer und Geschäftsführer Paul Stanzenberger. Insgesamt habe teamazing rund eine Million Euro in Monax Island investiert, damit aber lediglich 15.000 Euro Umsatz erzielt. Zwar hätten mehr als 8.000 Menschen das Spiel ausprobiert, für eine regelmäßige Nutzung habe jedoch der konkrete Mehrwert gefehlt. Auch die zunehmende Konkurrenz durch kostenlose Online-Angebote habe das Geschäftsmodell erschwert.

Die Folgen waren gravierend. 2024 musste teamazing seine Strategie ändern, 2025 wurde die finanzielle Situation existenzbedrohend. Zeitweise sei es darum gegangen, überhaupt das Geld für die nächste Gehaltszahlung aufzubringen. „Das war sehr, sehr knapp“, erinnert sich Stanzenberger.

Das Unternehmen reduzierte seine Kosten drastisch. Heute sind nur noch Stanzenberger und Lukas Komar als Geschäftsführer direkt im Unternehmen tätig. Das ursprüngliche Eventgeschäft wurde automatisiert und ausgelagert, besteht aber weiterhin.

Aus dem gescheiterten Projekt zog Stanzenberger eine Lehre für zukünftige Finanzierungen: „Ohne Product-Market-Fit mache ich keine Finanzierungsrunde mehr.“ Bei Monax Island habe man vor allem auf Basis einer Idee und der bisherigen Erfolge Kapital eingesammelt. Das wolle er nicht wiederholen.

Teamo AI entstand aus einem Kundenbedürfnis

Für die neue KI-Plattform änderte teamazing deshalb seinen Ansatz. Statt zunächst ein Produkt zu entwickeln und anschließend Kunden zu suchen, orientierte man sich an konkreten Problemen von Unternehmen. „Wir müssen nicht schauen, was wir gut finden und gut können, sondern eher, was die Kunden brauchen“, sagt Stanzenberger.

Gemeinsam mit dem deutschen Präzisionswerkzeughersteller Bass GmbH entwickelte teamazing 2025 den sogenannten „Vibe Check“. Beschäftigte können damit unkompliziert Beobachtungen und Probleme aus ihrem Arbeitsalltag melden. Bass wollte diese Informationen anschließend mit bestehenden Unternehmensdaten verknüpfen. Daraus entstand die heutige Plattform Teamo AI.

Beim Industrieunternehmen mit rund 170 Mitarbeitenden zeigen sich mittlerweile konkrete Verbesserungen. Im Produktionsbereich Gewindeschleifen sank der Ausschuss- und Nacharbeitsindex zwischen den Vergleichszeiträumen Jänner bis August und September bis Dezember 2025 von 100 auf 55. Das entspricht einem Rückgang um 45 %.

Die Verbesserungen sind allerdings nicht ausschließlich auf Teamo AI zurückzuführen. Auch ein weiterentwickeltes Shopfloor-Management und begleitende Trainings trugen laut dem Unternehmen dazu bei. Im Juni 2026 unterzeichnete BASS einen Dreijahresvertrag mit teamazing.

Wieder profitabel und neue Kunden

Auch KPMG Österreich setzt inzwischen als Allianzpartner auf die Technologie. Mit dem österreichischen Brillenhersteller Andy Wolf nennt Stanzenberger zudem einen weiteren neuen Kunden.

2026 sei das erste Jahr seit der Pandemie, in dem das Unternehmen wieder profitabel wirtschaftet. Das liege allerdings auch an den stark gesunkenen Kosten. Pro Monat gewinne teamazing derzeit zwei bis vier Unternehmen für seine KI-Plattform. „Wir sind jetzt quasi gebootstrapped neu gestartet“, fasst Stanzenberger zusammen.

Auch wenn sich das Geschäftsmodell von teamazing in den vergangenen Jahren grundlegend verändert hat, sieht Stanzenberger die ursprüngliche Vision weiterhin als relevant an. Künftig gehe es darum, nicht nur Menschen miteinander zu verbinden, sondern auch künstliche Intelligenz in Teams zu integrieren. „Die KI ist ein neues Teammitglied, das man auch im Betrieb, in den Teams einführen muss“, sagt er.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz