04.04.2023

ChatGPT und dreiste Lügen über Sebastian Kurz

Kommentar. ChatGPT gibt haarsträubenden Schwachsinn von sich. In Sachen Maßnahmen für KI-Literacy ist Gefahr im Verzug.
/artikel/chatgpt-dreiste-luegen-sebastian-kurz
ChatGPT und Sebastian Kurz
Porträt Sebastian Kurz (c) EVP via Wikimedia Commons | Hintergrund (c) Choong Deng Xiang via Unsplash
kommentar

Haben Sie den diesjährigen brutkasten-Aprilscherz gelesen? Sind Sie vielleicht sogar kurz (pun intended) darauf reingefallen? Sebastian Kurz werde Investor in der Startup-Show “2 Minuten 2 Millionen”, hieß es da. Und das, wo der Ex-Kanzler und Startup-Investor momentan doch wegen ganz anderen Dingen, wie einer Hausdurchsuchung und neuen Vorwürfen gegen ihn, in den Medien ist. Dass die Story nicht stimmen kann, war also den meisten unserer Leser:innen schnell klar.

ChatGPT: Fake-News nicht nur am 1. April

So dreist erfundene Artikel gibt es von der brutkasten-Redaktion natürlich nur an einem Tag im Jahr: am 1. April. Und nach einiger Zeit lösen wir unseren Scherz auf und sorgen mit einem prominent platzierten Disclaimer dafür, dass niemand mehr darauf hereinfallen kann. Wir wollen schließlich keine Fake News verbreiten. Ein anderer Akteur, mit dem der brutkasten in Sachen Zugriffe bei weitem nicht mithalten kann, hat dagegen, wie immer wieder beanstandet wird, überhaupt kein Problem mit der Verbreitung von Unwahrheiten: ChatGPT. Eine kleine Kostprobe gefällig? Hier die Beantwortung einer Frage von uns anlässlich unseres Aprilscherzes durch den AI-Chatbot:

Screenshot: https://chat.openai.com/

Zunächst sei der Vollständigkeit halber angemerkt, dass ChatGPT keinen Zugriff auf das Internet hat und somit den aktuellen brutkasten-Aprilscherz nicht kennen und verarbeiten kann. Und nun ein kurzer (hihi) Faktencheck: Im Jahr 2016 war Sebastian Kurz tatsächlich österreichischer Außenminister. Er trat aber weder damals noch zu einem anderen Zeitpunkt bei “2 Minuten 2 Millionen” auf. Das 2021 verkaufte Linzer Startup Carployee gab es 2016 noch gar nicht – es wurde erst 2018 gegründet. Es pitchte zwar tatsächlich bei “2 Minuten 2 Millionen” – aber erst in einer 2020 ausgestrahlten Folge. Und zu guter Letzt: Kurz investierte auch in keinem anderen Kontext in Carployee.

An der Aussage von ChatGPT, die auf den ersten Blick durchaus plausibel wirkt, stimmt also fast gar nichts. Das kann man dem AI-Chatbot auch sagen, woraufhin er einen neuen Versuch startet:

Screenshot: https://chat.openai.com/

Und jetzt? Liegt ChatGPT diesmal richtig? Fehlanzeige. Dass Sebastian Kurz nicht Staatssekretär und Minister gleichzeitig war, liegt auf der Hand – 2015 war er bereits Außenminister. Ein Startup namens JobSwipr gab es damals tatsächlich – das wurde später zu Hokify. Das heutige Unicorn GoStudent wurde aber erst 2016 gegründet. Kurz ist bei beiden genannten Unternehmen nicht investiert. Zudem trifft der Begriff “Investitionsveranstaltung” in dem von ChatGPT vorgebrachten Kontext nicht auf “Startup Live”-Events zu. Also ein weiteres Mal zunächst plausibel klingender, haarsträubender Schwachsinn vom AI-Chatbot. Erst nach einer weiteren Belehrung gibt er auf und gibt eine (zu dem Zeitpunkt, als das Modell trainiert wurde) korrekte Antwort.

Vieles, aber sicher keine Suchmaschine

Dieses Phänomen wurde, wie bereits oben angedeutet, schon mehrfach beschrieben. Es hat technische Hintergründe, die mit der Funktionsweise des Sprachmodells zusammenhängen. Einen Vorsatz zu lügen, bzw. überhaupt die Fähigkeit zu so einem Vorsatz, hat die KI natürlich nicht. Diese Erklärung bringt Endnutzer:innen aber wenig, wenn der Chatbot am Ende lauter Unwahrheiten ausspuckt.

Und so richtig angekommen scheint die Message über die massive Unzuverlässigkeit der Informationen bei den meisten nicht zu sein. Man kann ChatGPT für vieles nutzen, als Suchmaschine aber sicher nicht. Genau das machen aber gar nicht wenige Menschen mittlerweile. Und es werden laufend mehr. Die Antworten kommen schneller und sind leichter konsumierbar, als bei einer klassischen Web-Recherche. Bloß: Sie sind eben teilweise völlig frei “erfunden” – wenn man das bei einer Künstlichen Intelligenz so sagen kann.

Während einem das in einem Feld, in dem man sich auskennt, wohl sofort auffällt, bleiben die dreisten “Lügen” von ChatGPT für die meisten Menschen, in den meisten Suchfeldern unerkannt. Die Suche nach Fakten im Internet erfordert durch Fake News, Verschwörungstheorien und Co schon bislang ein gewisses Maß an “Literacy” und Fähigkeit zur Quellenkritik. Bei ChatGPT wird es fast unmöglich: Mal stimmt es, was da steht, mal stimmt es nicht. Wenn fast nichts davon stimmt, wie im Beispiel oben, fällt die Quellenkritik recht leicht: Nicht Genügend. Doch was, wenn 95 Prozent stimmen? Eine kurze Web-Recherche erweckt den Eindruck, dass die wiedergegeben Fakten in Ordnung sind. Tatsächlich ist ein vielleicht entscheidendes Detail aber vom Chatbot frei erfunden.

Gefahr im Verzug

Das ist gefährlich. Jugendliche verwenden ChatGPT für Schulaufgaben, Erwachsene nutzen es im beruflichen Kontext. Mit ein paar Klicks können vom AI-Chatbot erfundene “Fakten” auf einer an sich seriösen Website landen, weil sie nicht ausreichend kontrolliert wurden. Sie werden dadurch quasi legitimiert, könnten von weiteren Akteur:innen übernommen werden und sich letztlich verbreiten.

Dabei ist die Technologie hinter ChatGPT großartig. Wer damit umgehen kann, kann wundervolle Dinge damit schaffen. Was es daher braucht, sind nicht (ohnehin schwer umsetzbare) Verbote, sondern eine breite Kampagne für mehr KI-Literacy. Und zwar schnell, denn es ist Gefahr im Verzug. Der Chatbot verbreitet sich immer weiter, wird für immer mehr Menschen Teil ihres Alltags. Es braucht jetzt sehr viel Aufklärung, was man mit dem Tool machen kann und was man lieber bleiben lassen sollte, bevor damit wirklich Schaden angerichtet wird. Dabei ist auch die Politik am Zug.

Deine ungelesenen Artikel:
20.12.2024

Was Startups vom Mega-Investment-Deal für ParityQC lernen können

Das Tiroler Quantencomputing-Startup ParityQC sorgte 2024 im Zuge einer Finanzierungsrunde mit einer Bewertung im neunstelligen Bereich für Aufsehen. Wir haben mit Christian Nordberg, dem Rechtsanwalt, der den Deal begleitet hat, über Strategie, IP-Rechte und Verhandlungsmacht gesprochen.
/artikel/was-startups-vom-mega-investment-deal-fuer-parityqc-lernen-koennen
20.12.2024

Was Startups vom Mega-Investment-Deal für ParityQC lernen können

Das Tiroler Quantencomputing-Startup ParityQC sorgte 2024 im Zuge einer Finanzierungsrunde mit einer Bewertung im neunstelligen Bereich für Aufsehen. Wir haben mit Christian Nordberg, dem Rechtsanwalt, der den Deal begleitet hat, über Strategie, IP-Rechte und Verhandlungsmacht gesprochen.
/artikel/was-startups-vom-mega-investment-deal-fuer-parityqc-lernen-koennen
Rechtsanwalt Christian Nordberg | (c) Nordberg

Mitten in der österreichischen Startup-Szene sorgte das Quantencomputing-Unternehmen ParityQC im April diesen Jahres für Aufsehen: Das Unternehmen rund um Wolfgang Lechner und Magdalena Hauser sicherte sich ein Investment der B&C Innovation Investments GmbH, die mit einem nicht genannten Betrag beim Spin-off einstieg. Laut einer Aussendung der Uni Innsbruck und der Österreichische Akademie der Wissenschaften erreichte ParityQC eine Bewertung vergleichbar mit US-börsennotierten Quantenunternehmen. Diese Bewertungen bewegten sich zum damaligen Zeitpunkt meist im niedrigen neunstelligen Bereich. (brutkasten berichtete).

Aber wie läuft ein solcher Deal ab, insbesondere wenn es um hochsensible Technologien wie Quantencomputing geht? brutkasten hatte die Gelegenheit, mit Christian Nordberg, dem Rechtsanwalt, der die Transaktion rechtlich begleitet hat, zu sprechen. Nordberg liefert Einblicke in die Dynamik einer solchen Finanzierung, die Rolle der IP-Rechte und die rechtlichen Rahmenbedingungen. Zudem liefert Nordberg auch Tipps für Startups, die sich in einer Finanzierungsrunde befinden.

Die Ausgangslage im Fall von ParityQC

Das 2019 gegründete Unternehmen ParityQC hat sich in kürzester Zeit einen Namen in der internationalen Quantencomputing-Szene gemacht. Die Gründer Wolfgang Lechner und Magdalena Hauser entwickelten ein einzigartiges Architekturmodell für Quantencomputer, das speziell auf Optimierungsprobleme ausgerichtet ist. Diese Technologie ist in der Lage, komplexe Probleme schneller und effizienter zu lösen als herkömmliche Systeme – ein entscheidender Vorteil in Bereichen wie Logistik, Energienetzwerken und Finanzmärkten.

Anders als viele Startups, die oft Jahre brauchen, um profitabel zu werden, hatte ParityQC in der Phase der Finanzierungsrunde bereits eine starke finanzielle Basis. Dank renommierten Kunden wie NEC ist das Unternehmen nach eigenen Angaben seit 2023 profitabel – eine Seltenheit in der Quantenbranche (brutkasten berichtete).

“Ein Unternehmen wie ParityQC, das bereits operativ erfolgreich ist, hat natürlich eine viel bessere Verhandlungsposition gegenüber Investoren als ein Startup in der Frühphase, das dringend Kapital benötigt,“ erklärt Nordberg. Die Profitabilität und die bereits bestehende Kundenbasis gaben dem Unternehmen eine gewisse Unabhängigkeit und Verhandlungsmacht.

Die Bedeutung von IP-Rechten

In der hochspezialisierten Welt des Quantencomputings kommen rechtliche Herausforderungen, wie die Bewertung und Absicherung geistigen Eigentums, besonders stark zum Tragen. Bei einer Due-Diligence-Prüfung wird das gesamte Unternehmen auf Herz und Nieren geprüft – von den finanziellen Aspekten über das Geschäftsmodell bis hin zu den IP-Rechten.

Nordberg erklärt: „Für den Investor steht die Frage im Vordergrund, wie gut die einzigartigen Technologien von ParityQC rechtlich geschützt und risikominimiert werden können.“ IP-Rechte, insbesondere bei einer technologischen Innovation, die wie bei ParityQC eine Zukunftsbranche vorantreibt, sind ein entscheidender Faktor, um das Investment langfristig abzusichern.

In diesem Fall wurde ein technischer Berater hinzugezogen, der die Patente und Technologien im Detail analysierte. Neben dem rechtlichen Schutz ist es hier wichtig, dass der Inhalt und die Funktionsweise der Technologie verstanden werden. “Bei Quantencomputing war das auch für uns als Kanzlei eine besondere Herausforderung, da es sich um hochkomplexe technologische Entwicklungen handelt”, so Nordberg.

Weit mehr als reine Paragraphen

Die Rechtsberatung spielte in der Verhandlungsphase von ParityQC eine zentrale Rolle. Neben der Prüfung der rechtlichen Aspekte war es für Nordberg und sein Team essenziell, das Unternehmen durch die Verhandlungen zu begleiten und strategisch zu beraten. Der Unterschied zu größeren Unternehmen besteht oft darin, dass Startups keine eigenen Rechtsabteilungen oder Corporate-Strukturen besitzen. “Bei ParityQC war das zwar nicht der Fall, Startups in der Frühphase benötigen allerdings oft nicht nur rechtliche, sondern auch strukturelle Unterstützung, um den Anforderungen von Investoren gerecht zu werden“, betont Nordberg.

Die Anforderung an den Rechtsberater ist nicht nur eine klassische Rechtsberatung zu liefern, sondern auch ein Verständnis für unternehmerische Abläufe mitzubringen. “Wenn Startups Unterstützung bei Verhandlungen benötigen, dann geht es häufig auch darum, die Verhandlungsposition zu stärken und sicherzustellen, dass das Startup langfristig von der Partnerschaft mit dem Investor profitiert,“ erklärt Nordberg.

Ein zusätzlicher, oft unterschätzter Aspekt sind dabei die vertraglichen Feinheiten, die sich aus der Investmentrunde ergeben. Hierzu zählt etwa der Gesellschaftsvertrag, der neu aufgesetzt wird, um Investoren Mitsprache- und Vetorechte einzuräumen, ohne dabei die Gründungsgesellschaften in ihrer zukünftigen Geschäftsentwicklung zu stark einzuschränken.

Tipps für Startups in Finanzierungsphasen

Nordberg gibt zudem auch Ratschläge für Startups, die sich in einer Finanzierungsphase befinden. „Investoren wollen sehen, dass ein Startup eine gewisse Struktur aufweist, da dies Vertrauen schafft“, betont er. Dabei gehe es keinesfalls darum, die Atmosphäre eines Konzerns zu simulieren, sondern vielmehr darum, grundlegende Prozesse und Abläufe klar zu definieren. “Wenn ein Startup strukturiert auftritt und den genauen Finanzierungsbedarf kennt, zeigt das den Investoren, dass sie es mit einer professionellen Organisation zu tun haben,“ so Nordberg.

Ein weiterer Tipp des erfahrenen Anwalts betrifft die Wahl des Investors. Hier sollten Gründer:innen darauf achten, dass der Investor zur Unternehmenskultur und den Zielen passt. Neben dem finanziellen Beitrag sind es oft die Netzwerke, Branchenkenntnisse und die Unterstützung bei der Weiterentwicklung des Produkts oder der Dienstleistung, die ein Investor bieten kann. “Ein Startup sollte sich gut überlegen, ob der Investor lediglich Kapital bereitstellt oder auch strategischen Mehrwert bringt,“ erklärt Nordberg.

Arbeit mit Startups erfordert Dynamik und Flexibität

Nordberg teilt zudem auch seine persönlichen Learnings. Für Rechtsanwälte, die sich mit Startup-Beratung beschäftigen, bringt diese Arbeit eine besondere Dynamik und Flexibilität mit sich. Die oft noch jungen Gründer:innen sind stark auf die Entwicklung ihrer Produkte und Ideen fokussiert, und Rechtsberatung muss daher effizient und verständlich sein. „Die Gründer haben selten die Zeit und Kapazität, sich in komplexe juristische Details einzuarbeiten. Da ist es unsere Aufgabe, sie praxisnah und lösungsorientiert zu unterstützen,“ sagt Nordberg.

Abschließend betont Nordberg, dass es für die österreichische Gründerszene ein positives Signal sei, dass ein so komplexes Thema wie Quantencomputing in Österreich erfolgreich im Zuge einer Eigenkapitalrunde finanziert werden konnte. Der Anwalt ist überzeugt, dass derartige Deals dazu beitragen, den Innovationsstandort Österreich zu stärken. Mit seiner Kanzlei sieht er sich gut aufgestellt, um weiteren Startups den Weg durch die komplexe Welt der Investorengespräche zu ebnen – eine Rolle, die in einer wachsenden Startup-Landschaft immer wichtiger wird.


Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

ChatGPT und dreiste Lügen über Sebastian Kurz