Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.

/artikel/chatgpt-dreiste-luegen-sebastian-kurz

kommentar

✨ AI Kontextualisierung

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show „2 Minuten 2 Millionen“, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei „2 Minuten 2 Millionen“ auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei „2 Minuten 2 Millionen“ – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff „Investitionsveranstaltung“ in dem von ChatGPT vorgebrachten Kontext nicht auf „Startup Live“-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei „erfunden“ – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten „Lügen“ von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an „Literacy“ und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene „Fakten“ auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:

Martin Pacher

28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.

/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity

Martin Pacher

28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity

Manchmal beginnt eine Gründungsgeschichte mit einem Satz, der wie eine Drohung klingt. „Alles, was wir in der Cybersecurity haben, kannst du wegschmeißen. Es wird in ganz kurzer Zeit nicht mehr funktionieren.“ Das soll Manuel Nedbal im Herbst 2024 zu Herbert Stöger gesagt haben – als das Schlagwort „agentic AI“ noch kaum jemand kannte. Rund anderthalb Jahre später, sagen beide, sei genau das eingetreten. Und aus der Ansage ist ein Unternehmen geworden, das nun eine bemerkenswerte Finanzierungsrunde vermeldet.

SecurITe hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich (Euro) abgeschlossen – für eine Frühphasenfinanzierung im österreichischen Kontext eine außergewöhnliche Größenordnung. Sie reicht laut Unternehmen, um die Produktentwicklung über rund 24 Monate durchzufinanzieren. Strukturiert wurde die Runde bewusst über einen europäischen Finanzpartner aus dem Family-Office-Umfeld, der vorerst nicht genannt werden möchte. Auch die bestehenden Gesellschafter zogen mit.

Herbert Stöger, Managing Director x-tention | (c) Thomsen Photography

Hinter SecurITe stehen zwei Akteure, die sich ergänzen: Nedbal, der zwölf Jahre im Silicon Valley Cybersecurity gebaut hat, und Stöger, Gründer und Eigentümer der österreichischen Health-IT-Gruppe x-tention. Das Startup ist aus dieser Partnerschaft entstanden – x-tention brachte den Zugang zum Gesundheitsmarkt und das Problemverständnis ein, Nedbal die Technologie. Eine klassische Ausgründung sei es nicht; x-tention zählt heute zu den bestehenden Gesellschaftern.

Eine Begegnung im Bezirk Amstetten

Die Geschichte dahinter ist die zweier Welten, die im Mostviertel zusammenfanden. Nedbals Stationen im Valley: McAfee (später von Intel übernommen), dann das eigene Startup ShieldX, das nach fünf Jahren an Fortinet verkauft wurde, wo er als VP of Engineering arbeitete. Zuletzt verantwortete er bei Google die Architektur der Cloud-Firewall. Im Zuge der Pandemie kehrte er nach Österreich zurück – ein Muster, das man damals bei einigen heimischen Tech-Talenten beobachten konnte. Dort wurde er über einen gemeinsamen Freund Stöger vorgestellt.

Manuel Nedbal – CEO SecurITe (links) und Bernhard Aigenbauer – COO SecurITe | (c) SecurITe

Dieser hatte x-tention 2001 mit sechs Mitarbeitern gegründet; heute zählt die Gruppe rund 850 Beschäftigte in Österreich, der Schweiz, Deutschland und England sowie ein Office im Silicon Valley. Tief im Bereich Gesundheits-IT verankert, deckt x-tention Datenmanagement, ELGA, Konnektivität und Managed Services ab und betreut nach eigenen Angaben mehr als 1.000 Kunden im Gesundheitswesen. Marktbedingungen, großes Problem, Marktzugang und Technologie seien „auf einmal zusammengekommen“ – Nedbal nennt es eine „Textbuchvorlage für ein Startup“. Heute verteilt sich das rund 50-köpfige Team auf Österreich, Silicon Valley und Bangalore.

Krankenhäuser als verwundbarster Punkt

Warum ausgerechnet Healthcare? Der Sektor sei von der Cybersecurity-Industrie „vergessen“ worden, argumentiert Nedbal – weil dort andere Regeln gelten. Klassische Schutzmechanismen ließen sich auf medizinischen Geräten und in klinischen Netzen nicht so einsetzen wie in der Enterprise-IT. Hinzu komme, dass während der Pandemie eine Hemmschwelle gefallen sei: Krankenhäuser würden heute ohne Schonung attackiert – rund um die Uhr.

Hier setzt das Resilienz-Argument der Gründer an: Krankenhäuser seien ein Paradebeispiel für kritische Infrastruktur, deren Absicherung längst keine rein technische Frage mehr sei, sondern eine der europäischen Souveränität. Die Sorge: Erkenntnisse über neue, KI-getriebene Angriffsmuster zirkulierten oft nur in einem begrenzten Kreis großer US-Anbieter – Krankenhaussoftware-Hersteller und europäische Institutionen seien dabei selten am Tisch. Eine eigenständige europäische Antwort, die nicht aus den USA, Israel oder China komme, sieht das Team daher als Chance. Konsequenterweise habe man auch die Finanzierung „aus Europa und für für das globale Wachstum“ gestemmt – die IP bleibe aber in Europa.

Die nächste Bedrohungsstufe sieht SecurITe in autonomen Agenten: Setzen Kliniken selbst KI-Agenten ein, könnten diese sich fehlverhalten; ein Angriff durch autonome Agenten sei zudem um ein Vielfaches gefährlicher als von einem menschlichen Akteur. Genau hier setzt das Produkt agentis360 an: Statt auf eine zentrale Instanz setzt es auf eigene Sensoren und kleine KI-Modelle, die direkt in der Infrastruktur sitzen und das Verhalten von Systemen und Agenten laufend auf Auffälligkeiten profilieren. Mit dem frischen Kapital will das Unternehmen die Produktentwicklung vorantreiben und parallel internationalen Vertrieb sowie Partnerschaften aufbauen – mit Europa als Ausgangspunkt und dem globalen Rollout für kritische Infrastruktur als nächstes Ziel.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag