03.01.2023

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

Elisabeth Kutner, Martin Hanzl und Alexander Glaser von EY Law Pelzmann Gall Größ Rechtsanwälte GmbH beleuchten im ersten Teil einer zweiteiligen Reihe für den brutkasten, was Startups beim Einsatz von künstlicher Intelligenz rechtlich beachten müssen.
/artikel/was-startups-beim-ai-einsatz-rechtlich-beachten-muessen
Elisabeth Kutner, Martin Hanzl, Alexander Glaser
Elisabeth Kutner, Martin Hanzl, Alexander Glaser | Fotos: EY Law, Hintergrund: Hao Wang/Unsplash

ChatGPT, ein auf künstlicher Intelligenz („KI“) oder englisch artificial intelligence („AI“) basierender Chatbot, eroberte praktisch über Nacht das Internet. Innerhalb von fünf Tagen gewann der Chatbot über 1 Millionen Nutzer:innen und erreichte damit diesen Meilenstein 60-mal schneller als Facebook.

Zeitgleich kommt auch die Regulierung im AI-Kontext auf EU-Ebene wieder in Fahrt. Am 6. Dezember 2022 meldete sich der Rat der Europäischen Union mit seinem gemeinsamen Standpunkt zum Entwurf des AI-Acts. Überdies wurde am 28. September 2022 ein Vorschlag der Europäischen Kommission für eine Richtlinie zur Anpassung der außervertraglichen zivilrechtlichen Haftung für KI („KI-Haftungsrichtlinie“) veröffentlicht. Das Thema ist damit wieder brandheiß.

Doch was bedeutet der Einsatz von AI-Systemen für Startups? Wir geben in Teil 1 einen ersten Überblick mit Fokus auf die bisherige Gesetzeslage und werfen in Teil 2 einen Blick auf den Vorschlag zum AI-Act und der KI-Haftungsrichtlinie.

1. Vermeide „typische“ rechtliche Fehler beim Coding

Egal ob beim Programmieren von AI-basiertem oder ganz „normalem“ regelbasierten Code, Programmierer:innen und Startups sollten bereits frühzeitig rechtliche Besonderheiten mitdenken. Fallstricke und „typische“ Fehler reichen hier vom (unbewussten) Einsatz von Open-Source-Produkten über gemeinsames Coding ohne vertragliche Absicherung bis hin zum rechtlich nicht abgesicherten Umgang mit Input-Daten.

Wie ihr fünf (typische) rechtliche Fehler beim Coding vermeiden könnt, haben wir euch bereits einmal in einem brutkasten-Gastbeitrag zusammengefasst.

2. Wissen per Mausklick – wie gut ist ChatGPT wirklich?

ChatGPT schlägt gerade über die Artificial-Intelligence-Community hinaus hohe Wellen: so attestiert etwa Bloomberg dem smarten Chatbot, der „iPhone-Moment“ für die AI-Branche zu sein. Die dafür verantwortliche Software läuft unter dem Namen Generative Pretrained Transformer 3 oder kurz „GPT-3“. Dabei handelt es sich um ein von OpenAI entwickeltes Sprachverarbeitungsmodell. GPT-Modelle sind sogenannte „pretrained models“. Einfach ausgedrückt werden diese mithilfe einer großen Menge von vorgegebenen Daten trainiert, bevor sie für spezifische Aufgaben eingesetzt werden.

3. Chatbots und AI – universaler Problemlöser?

Chatbots wie ChatGPT sind derzeit wohl die greifbarsten Anwendungen, allerdings haben AI-Systeme insgesamt noch viel größeres Potential, die Welt zu verändern. AI soll logisch und intelligent agieren und kann im Gegensatz zum Menschen auf eine größere Wissens- und Informationsbasis zurückgreifen.

ChatGPT ist mit umfassendem Allgemeinwissen gefüttert und kann sich auch mit rechtlichen und medizinischen Fachfragen auseinandersetzen. „Wie gründe ich eine GmbH?“ oder „Wie kann ich Kopfschmerzen lindern?“ – solche Fragen beantwortet ChatGPT gerne. Wer auf eine medizinische Diagnose oder eine konkrete rechtliche Einschätzung hofft, wird aber enttäuscht.

Bei derartigen Erkundigungen verweist ChatGPT auf Expert:innen wie beispielsweise Ärzt:innen und Anwält:innen. Was passiert, wenn sich ChatGPT doch zu einem konkreten medizinischen Ratschlag hinreißen lässt, sich abwertend gegenüber einer Personengruppe äußert oder illegale Handlungen begünstigen will?

Tipp:

AI-Systeme werden immer umfassender und besser einsetzbar, ihre große Wissensbasis garantiert aber keine Richtigkeit! Bei kritischen Themen solltet ihr euch daher nie ungeprüft auf ein AI-System verlassen. Falls ihr solche AI-Technolgie bei euch im Unternehmen oder in eurem Produkt einsetzt, solltet ihr bei der Interaktion mit dem AI-System – für Verbraucher:innen gut sichtbar – entsprechende Warnhinweise angeben.

4. Was muss ich als Startup beachten, wenn ich AI-basierte Anwendungen wie ChatGPT einsetze?

Grundsätzlich gilt: Der Einsatz von AI-basierten Systemen sollte wohlüberlegt sein und jedenfalls im Einzelfall vor Inbetriebnahme nicht nur technisch, sondern auch rechtlich geprüft werden.

Tipp:

Führt vor dem Einsatz von AI-Systemen oder anderer komplexer Software eine rechtliche Prüfung in-house oder extern durch und dokumentiert diese Analyse schriftlich.

Abhängig vom Einsatzgebiet des jeweiligen AI-basierten Systems können sich etliche rechtliche Fragen ergeben: angefangen von Datenschutz, Arbeitsrecht und Intellectual-Property-Fragen bis hin zum Verbraucher- und Haftungsrecht.

Chatbots werden immer menschlicher und so für ihr Gegenüber schwerer zu erkennen. Wichtig ist es beim Einsatz von AI-Systemen auf Transparenz zu setzen und klarzustellen, dass Nutzer:innen nicht mit Menschen, sondern mit einem Chatbot agieren.

Andernfalls könnte der Einsatz von AI-Systemen eine irreführende Geschäftspraktik im Sinne des § 2 UWG (Bundesgesetz gegen unlauteren Wettbewerb) darstellen. Daraus können Schadenersatz-, Unterlassungs- und Beseitigungsansprüche resultieren. Insoweit AI-basierte Systeme personenbezogene Daten verarbeiten (und ggf auch speichern bzw zum Training verwenden), sind die strengen Regelungen der Datenschutzgrundverordnung einzuhalten.

Es sind dabei insbesondere eine entsprechende Datenschutzerklärung zu entwerfen, Löschkonzepte zu entwickeln und ggf auch Verarbeitungsverzeichnisse zu erstellen.
Solltet ihr erwägen, AI-Tools für Recruiting oder in anderen arbeitsrechtlichen Belangen (z.B. bei der Evaluierung von Mitarbeiter:innen) einzusetzen, ist das Arbeitsrecht zu beachten. Verbraucherrecht könnte relevant werden, wenn ihr AI-Systeme in B2C-Settings verwendet und diese für Marketingstrategien, im Chat mit Verbraucher:innen einsetzt.

Neben den oben genannten fünf „typischen“ Fehlern im Programmier-Kontext, die ihr vermeiden solltet, solltet ihr darüber hinaus prüfen, wie selbst entwickelte AI-Systeme bestmöglich auch rechtlich geschützt werden können. Schließlich stellt selbst entwickelte Software häufig eines der Kern-Assets eines Unternehmens dar.

Wie aber bereits festgestellt, können – abhängig von Ziel und konkretem Einsatz von AI-Systemen – etliche weitere Regelungen anwendbar sein. Ihr solltet daher jedenfalls vor dem ersten Einsatz von AI-Systemen eine rechtliche Evaluierung durchführen.

Das erste Aufsetzen eines solchen rechtlichen Rahmens mag auf den ersten Blick zwar mühsam erscheinen, ist aber um ein Vielfaches leichter als das Nachbessern zu einem späteren Zeitpunkt (etwa wenn Investor:innen in einer Finanzierungsrunde einsteigen und in einer Due Diligence ein „Red Flag“ hervorkommt).

Zusammenfassung

Bei der folgenden kurzen Zusammenfassung hat uns ChatGPT unterstützt. Für eine Wartezeit von nicht einmal 10 Sekunden kann sich das Ergebnis durchaus sehen lassen. Wer auf aber auf Nummer sicher gehen und nichts verpassen will, sollte Texte aber trotzdem noch selbst lesen.

„Startups sollten beim Einsatz von AI-basierten Anwendungen wie ChatGPT wohlüberlegt vorgehen und diese sowohl technisch als auch rechtlich prüfen. Es gibt eine Vielzahl von rechtlichen Fragen, die sich aufgrund des Einsatzbereichs der AI-Systeme stellen, wie Datenschutz, Arbeitsrecht und IP-Fragen, Verbraucher- und Haftungsrecht.

Chatbots sollten klar gekennzeichnet werden, um Nutzer darüber aufzuklären, dass sie mit einem Chatbot und nicht mit einem Menschen kommunizieren. AI-Systeme, die personenbezogene Daten verarbeiten, müssen den Regelungen der Datenschutzgrundverordnung entsprechen. Bei der Verwendung von AI-Tools für Recruiting oder in anderen arbeitsrechtlichen Bereichen muss das Arbeitsrecht beachtet werden.

Verbraucherrecht könnte relevant werden, wenn AI-Systeme in B2C-Umgebungen für Marketingstrategien oder Chats mit Verbrauchern eingesetzt werden. Selbst entwickelte AI-Systeme sollten bestmöglich geschützt werden. Abhängig vom Ziel und konkretem Einsatz von AI-Systemen könnten jedoch auch andere Regelungen anwendbar sein, daher sollten diese vor dem ersten Einsatz geprüft werden.„

In Teil 2 dieser Reihe rücken der AI Act und die KI-Haftungsrichtlinie in den Mittelpunkt. Wir beleuchten, was sich durch diese vorgeschlagen EU-Gesetze ändern könnte, wie der europäische Gesetzgeber das Thema anpackt und was ihr als Startups bereits jetzt beachten solltet.


Über die Autor:innen

Dr. Martin Hanzl ist Rechtsanwalt und Head of New Technologies bei EY Law Pelzmann Gall Größ Rechtsanwälte GmbH. Er betreut nationale und internationale Kryptodienstleister, FinTechs, Start-Ups sowie Finanz- und Versicherungsinstitute, insbesondere zum Einsatz von New Technologies, komplexen regulatorischen Fragestellungen und bei gesellschaftsrechtlichen Fragestellungen rundum Finanzierungsrunden und Exits. Überdies ist er Projektverantwortlicher des „Blockchain and Smart Contracts“-Projektes des European Law Institutes. Er ist Vortragender an der Anwaltsakademie, Fachhochschulen und Universitäten sowie Herausgeber und Autor mehrerer Handbücher sowie zahlreicher weiterer Fachartikel zu den Themen Digitalisierung, Smart Contracts, New Technologies und Gesellschaftsrecht.

Mag. Alexander Glaser ist Rechtsanwaltanwärter bei EY Law Pelzmann Gall Größ Rechtsanwälte GmbH mit dem Fokus auf IP/IT Recht sowie neue Technologien und betreut Mandant:innen insbesondere zu Fragen rund um Krypto-Assets (zB rechtliche Einordnung, Registrierung als CASP) sowie Schutz und Nutzung von IP (ua KI-Systeme, Softwarelizensierung).

Elisabeth Kutner LL.B. (WU) ist Masterstudentin des Studiengangs Wirtschaftsrecht der Wirtschaftsuniversität Wien und juristische Mitarbeiterin bei EY Law Pelzmann Gall Größ Rechtsanwälte GmbH mit dem Fokus auf IP/IT Recht und neue Technologien.


Disclaimer: Die finalen Texte des AI Acts und der AI Liability Directive liegen zum Zeitpunkt dieses Beitrages noch nicht vor und können daher von der gegenständlichen Darstellung abweichen. Der Artikel gibt lediglich einen Überblick über ausgewählte Fragestellungen im AI-Kontext und hat weder den Anspruch auf Vollständigkeit noch stellen die Hinweise und Informationen Rechtsberatung oder sonstige Empfehlungen dar. Dieser Text kann keinesfalls eine individuelle Rechtsberatung ersetzen und dient lediglich der persönlichen Information. Dieser Text gibt überdies ausschließlich die Meinungen und Erfahrungen der Autor:innen wieder.

Deine ungelesenen Artikel:
12.11.2026

Pepper: Thinkubator-Team entwickelt Software für Förderabrechnungen

Das Wiener Startup Pepper will die Verwaltung öffentlich geförderter Projekte vereinfachen. Die Idee entstand nach einer aufwendigen Förderprüfung beim Think Tank Thinkubator. Nun bringt das dreiköpfige Gründungsteam eine Software auf den Markt. Erste zahlende Kunden und drei Business Angels sind bereits an Bord.
/artikel/pepper-thinkubator-team-entwickelt-software-fuer-foerderabrechnungen
12.11.2026

Pepper: Thinkubator-Team entwickelt Software für Förderabrechnungen

Das Wiener Startup Pepper will die Verwaltung öffentlich geförderter Projekte vereinfachen. Die Idee entstand nach einer aufwendigen Förderprüfung beim Think Tank Thinkubator. Nun bringt das dreiköpfige Gründungsteam eine Software auf den Markt. Erste zahlende Kunden und drei Business Angels sind bereits an Bord.
/artikel/pepper-thinkubator-team-entwickelt-software-fuer-foerderabrechnungen
Das Gründerteam von Pepper: Bastien Huber, Felix Ambros, Alexandra Kick (v.l.) | (c) Matt Banton

Wochenlang Belege zusammensuchen, Stundenlisten kontrollieren und Unterlagen aufbereiten: Als beim Wiener Think Tank Thinkubator im Sommer 2025 eine größere Prüfung durch die Österreichische Forschungsförderungsgesellschaft (FFG) anstand, wurde die Förderabrechnung zur Belastungsprobe. Bei solchen Projekten sind Arbeitsstunden und Ausgaben oft auf verschiedene Excel-Tabellen und Dokumente verteilt, die für Prüfungen erst zusammengeführt werden müssen.

„Das hat uns extrem viel Zeit, Ressourcen und Nerven gekostet“, erzählt Alexandra Kick, Co-Founderin von Pepper. Auch andere Organisationen stünden vor ähnlichen Problemen. Eine passende Software, um diesen Prozess einfacher zu gestalten, habe das Team nicht gefunden.

Vom Think Tank zum Software-Startup

Gemeinsam mit Felix Ambros gründete Kick 2021 den Wiener Think Tank Thinkubator, der Bildungs- und Forschungsprojekte rund um Kreislaufwirtschaft umsetzt (brutkasten berichtete). Ein Jahr später kam Bastien Huber dazu. Aus den eigenen Erfahrungen entwickelte das Trio Pepper, hinter dem die neu gegründete P&S Digital Solutions FlexCo steht.

Die Fortschritte bei KI-gestützter Programmierung machten die Umsetzung leichter. „Wir haben am Anfang etwas mit Lovable gebaut und sehr schnell gesehen, wie viel Potenzial darin liegt“, sagt Kick.

Ursprünglich wollten die drei einen Chief Technology Officer (CTO) als viertes Gründungsmitglied gewinnen. Mehrere Entwickler halfen bei der Verbesserung des Codes, zu einer gemeinsamen Gründung kam es jedoch nicht. „Für die Personen, mit denen wir gesprochen haben, war es zu diesem Zeitpunkt einfach nicht die richtige Lebensphase, um mit uns zu gründen“, erklärt Kick. Stattdessen eignete sich das Trio selbst technisches Wissen an – ein „neunmonatiger Crashkurs in How to Build Code“.

Mittlerweile wird Pepper unabhängig von Lovable betrieben. Für das Auslesen von Belegen nutzt die Software ein KI-Modell des französischen Anbieters Mistral. Die Daten liegen nach Unternehmensangaben auf Servern in der EU.

Der Name spielt auf Pepper Potts aus den Iron-Man-Filmen an. „Die ist ein Superbrain und hat alles im Blick“, sagt Kick. Eine ähnliche Rolle soll die Software für Förderprojekte übernehmen.

Förderprojekte auf einer Plattform verwalten

Pepper richtet sich an Forschungseinrichtungen, Universitäten, Unternehmen und NGOs. Nach einer Förderzusage können sie Budgets und Arbeitspakete hinterlegen, Arbeitsstunden zuordnen und Belege hochladen. Die Software soll Belege automatisch zuordnen, Soll-Ist-Vergleiche ermöglichen und Nachweise für Prüfungen exportieren.

„Pepper Project“ ist für einzelne Projekte gedacht, auch mit mehreren Konsortialpartnern. Mit „Pepper OS“ können Organisationen mehrere Projekte parallel verwalten. Zusätzliche KI-Funktionen, etwa ein Chatbot für Projektfragen und ein Assistent zur Vorbereitung wiederkehrender Aufgaben, sollen Anfang 2027 folgen.

Zu den ersten zahlenden Kunden zählen BioBASE, das Institut für Industrielle Ökologie und DeltaDrai. „Mit mehreren parallelen Förderprojekten habe ich früher erst beim Zwischenbericht gesehen, ob ein Arbeitspaket über dem Budget liegt. Jetzt sehe ich den Soll-Ist-Stand jederzeit und kann gegensteuern, solange noch Zeit dazu ist“, sagt BioBASE-Geschäftsführer Thomas Timmel.

Das Team sammelt bei den ersten Kunden Feedback und will die tatsächliche Zeitersparnis messen. Bei Thinkubator fielen 2025 für Zwischenberichte und Audit-Vorbereitung rund 120 Stunden an. Pepper soll diesen Aufwand laut Startup etwa halbieren.

Drei Investoren an Bord

Unterstützung erhält das Wiener Startup von Enzo Duit, Joseph Kap-herr und Helmut Fink-Neuböck. Alle drei kennen das Team von Thinkubator. Duit, Mitgründer von warrify, bringt KI-Expertise ein, Fink-Neuböck einen SAP-Hintergrund und Vertriebserfahrung. Kap-herr, Gründer von Finders & Company und Mitgründer von Sindbad, verfügt über Kontakte, die für eine spätere Zusammenarbeit mit Fördergebern relevant sein könnten.

„Wir wollten das mit einer Bootstrapped-Mentality angehen und nur kleine strategische Angels reinholen“, erklärt Kick. Diese sollen neben Kapital auch strategisches Know-how einbringen. Das Investment deckt insbesondere anfängliche Infrastruktur-, Rechts- und Compliance-Kosten. Die Höhe wird nicht kommuniziert.

Bis Ende 2027 will Pepper 100 Kunden gewinnen und Förderprojekte mit einem Gesamtvolumen von mehr als zehn Millionen Euro über die Plattform verwalten.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hype um ChatGPT: Was Startups beim AI-Einsatz rechtlich beachten müssen