04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.
/artikel/chatgpt-dreiste-luegen-sebastian-kurz
ChatGPT und Sebastian Kurz
Porträt Sebastian Kurz (c) EVP via Wikimedia Commons | Hintergrund (c) Choong Deng Xiang via Unsplash
kommentar

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show „2 Minuten 2 Millionen“, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Screenshot: https://chat.openai.com/

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei „2 Minuten 2 Millionen“ auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei „2 Minuten 2 Millionen“ – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Screenshot: https://chat.openai.com/

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff „Investitionsveranstaltung“ in dem von ChatGPT vorgebrachten Kontext nicht auf „Startup Live“-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei „erfunden“ – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten „Lügen“ von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an „Literacy“ und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene „Fakten“ auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:
09.11.2026

Vergaberecht: Experte Martin Schiefer fordert höhere EU-Schwellenwerte für „Made in Europe“

Die EU-Kommission will das Vergaberecht zu einer Verordnung zusammenführen, wirksam wird das nach Einschätzung von Vergaberechtsexperte Martin Schiefer frühestens 2030. Er fordert deutlich höhere Schwellenwerte für europaweite Ausschreibungen: 15 Millionen Euro im Bau statt bisher 5,4 Millionen. Bei einem Hintergrundgespräch von CEOs for Future ging es auch um das Ende des Billigstbieterprinzips und die Spielräume, die Österreich schon heute hat.
/artikel/vergaberecht-eu-schwellenwerte-made-in-europe
09.11.2026

Vergaberecht: Experte Martin Schiefer fordert höhere EU-Schwellenwerte für „Made in Europe“

Die EU-Kommission will das Vergaberecht zu einer Verordnung zusammenführen, wirksam wird das nach Einschätzung von Vergaberechtsexperte Martin Schiefer frühestens 2030. Er fordert deutlich höhere Schwellenwerte für europaweite Ausschreibungen: 15 Millionen Euro im Bau statt bisher 5,4 Millionen. Bei einem Hintergrundgespräch von CEOs for Future ging es auch um das Ende des Billigstbieterprinzips und die Spielräume, die Österreich schon heute hat.
/artikel/vergaberecht-eu-schwellenwerte-made-in-europe
(v.l.n.r.): Klaus Petraschka, geschäftsführender Gesellschafter von KPPK Ziviltechniker | Caroline Palfy, Baumeisterin und Geschäftsführerin von Loud4Planet Development | Renate Meßner, CEO von SynerGIS | Birgit Kraft-Kinz, stellvertretende Obfrau von CEOs FOR FUTURE GmbH | Martin Schiefer, Gründer und Partner von Schiefer Rechtsanwälte Fotocredit: CEOs FOR FUTURE / Martin Hron

Rund 67 Milliarden Euro gibt die öffentliche Hand in Österreich laut einer Analyse des Supply Chain Intelligence Institute Austria (ASCII) jährlich für Produkte und Dienstleistungen aus. Seit die Bundesregierung am 14. Oktober gemeinsam mit staatsnahen Unternehmen wie ÖBB, APG, Post und Verbund die „Made in Europe“-Deklaration unterzeichnet hat, sollen bei der Vergabe europäische Wertschöpfung, Versorgungssicherheit, Qualität und Lebenszykluskosten stärker zählen. Bis Jahresende soll ein Aktionsplan für strategische Beschaffung vorliegen.

Parallel dazu läuft in Brüssel die größte Reform des Vergaberechts seit Jahrzehnten. Wie beides zusammenpasst, war Thema eines Hintergrundgesprächs der Plattform CEOs for Future mit Schiefer Rechtsanwälte, KPPK Ziviltechniker, SynerGIS und Loud4Planet Development am 22. Oktober.

Aus drei Richtlinien wird eine Verordnung

Am 9. September 2026 hat die Europäische Kommission ihren Vorschlag für einen „Public Procurement Act“ vorgelegt. Die drei bestehenden Vergaberichtlinien sollen durch eine unmittelbar geltende Verordnung ersetzt werden, mit einfacheren Verfahren, einem gemeinsamen digitalen Vergabe-Ökosystem, dem Bestangebotsprinzip als Standard und einer stärkeren Ausrichtung auf Innovation, Nachhaltigkeit und Resilienz. Die Verordnung soll zwei Jahre nach ihrem Inkrafttreten gelten.

Martin Schiefer, Gründer und Partner von Schiefer Rechtsanwälte, hält die inhaltliche Richtung des Vorschlags für richtig, beim Zeitplan ist er skeptisch. Die Kommission wolle das Verfahren bis Ende 2027 abschließen, das sei sehr optimistisch gedacht. Mit der zweijährigen Übergangsfrist rechnet er frühestens 2030 mit neuen europäischen Regeln, und selbst das hält er für unsicher: Der Vorschlag sehe einen europäischen Datenraum für Beschaffung und einen zentralen elektronischen Eignungsnachweis vor, bei dem offen sei, wer die Verantwortung für die Aktualität der Daten trage. Das sei in dieser Zeit kaum umsetzbar.

Schwellenwerte seit 1995 nicht angepasst

Der zentrale Streitpunkt aus Schiefers Sicht sind die Schwellenwerte, ab denen europaweit ausgeschrieben werden muss. Sie liegen seit 1. Jänner 2026 EU-weit bei 5.404.000 Euro für Bauaufträge und 216.000 Euro für Liefer- und Dienstleistungsaufträge von Ländern, Gemeinden und den meisten anderen öffentlichen Auftraggebern, für Bundesstellen sind es 140.000 Euro. Zwar werden die Werte alle zwei Jahre an Wechselkurse angepasst, eine Anpassung an die Inflation gab es aber nie. Faktisch seien sie seit 1995 nicht indexiert worden, so Schiefer. Die Folge sei Aufwand ohne Nutzen: Bauprojekte im einstelligen Millionenbereich würden mit großem Aufwand europaweit ausgeschrieben, am Ende böten fast nur österreichische Unternehmen an.

Schiefer fordert deshalb eine Anhebung auf 15 Millionen Euro im Bau und mindestens vier bis fünf Millionen Euro bei Liefer- und Dienstleistungen. Die Kommission lehne das bisher ab und verweise auf das Government Procurement Agreement (GPA) der Welthandelsorganisation, in dem die Schwellenwerte festgelegt sind. Schiefer will das Thema trotzdem in die Verhandlungen bringen und sieht darin eine Tauschmasse: Die Mitgliedstaaten könnten der Verordnung zustimmen und im Gegenzug höhere Schwellenwerte erhalten.

Nicht auf Brüssel warten

Regionale Wertschöpfung lasse sich schon heute über nationale Spielräume steuern, auf die europäische Initiative müsse niemand warten, ist Schiefer überzeugt. „Als Pioniere der Buy-European-Bewegung arbeiten wir seit Jahren auf diesen Moment hin. Vergaberecht ist Zukunftsrecht. Schon heute erleichtern Losvergaben KMU den Zugang, das Bestbieterprinzip berücksichtigt Qualität und Wertschöpfung vor Ort“, sagt Schiefer. Als Beispiele nennt er den 2026 mit seiner Kanzlei erarbeiteten Vergabeleitfaden der WKO Steiermark und den Leitfaden „Rot-Weiß-Rote Vergaben“ der Gewerkschaft BAU-HOLZ (GBH).

Zugleich warnt Schiefer vor Überdehnung: „Made in Europe“ dürfe nicht die Wettbewerbsfähigkeit kosten. Bei Rohstoffen, seltenen Erden und KI spiele Europa derzeit keine relevante Rolle, und Photovoltaik aus China brauche man für die Klimawandelanpassung. Es gelte, eine Balance zwischen Wettbewerbsfähigkeit und Resilienz zu halten.

Das Ende des Billigstbieters

Einig war sich die Runde, dass der reine Preisfokus der öffentlichen Hand teuer kommt. Gebäude müssten über ihre Lebensdauer von mehreren Jahrzehnten gerechnet werden, nicht über eine Legislaturperiode, so Schiefer. Viele Beschaffer hätten Angst vor dem Rechnungshof, weil sich ein Preis leichter rechtfertigen lasse als ein Preis plus Qualität.

Caroline Palfy, Baumeisterin und Geschäftsführerin von Loud4Planet Development, sieht das ähnlich: „Das muss sich lohnen: Bei öffentlichen Vergaben soll der Bestbieter zum Zug kommen, nicht der Billigstbieter. Dafür braucht es bundesweit einheitliche, transparente und verbindliche Maßstäbe.“

Wie hoch der Aufwand für kleine Anbieter ist, zeigt die Planungsbranche: Bei offenen Verfahren investieren oft 30 bis 40 Architektur- und Ingenieurteams mehrere tausend Stunden. „Gezielte Direktvergaben entlasten Planungsbüros spürbar“, erklärt Klaus Petraschka, geschäftsführender Gesellschafter von KPPK Ziviltechniker. Renate Messner, CEO von SynerGIS, sieht in Daten den Schlüssel, um Herkunft und Lebenszykluskosten bewertbar zu machen: „Auch im Vergabeverfahren wird Datenqualität zunehmend zum echten Wettbewerbsfaktor.“

Für CEOs for Future ist der angekündigte Aktionsplan die Gelegenheit, das Bekenntnis der Deklaration in konkrete Vergaben zu übersetzen. „Rund 67 Milliarden Euro an öffentlichen Aufträgen sind ein starker Hebel für den Neubau. Als starke Stimme aus der Wirtschaft wollen wir ihn nutzen – für einen fossilfreien, ressourcenschonenden und erfolgreichen Standort. Unser Credo: Gemeinsam ins Tun kommen!“, sagt Birgit Kraft-Kinz, stellvertretende Obfrau der Plattform.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz