Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

25.08.2020

„mAIde in Austria“: Ein Blick auf Österreichs AI Hidden Champions

Sie machen Autos sicherer, erkennen Fake News und sorgen dafür, dass in Disney World die Attraktionen reibungslos funktionieren: Österreichs AI-Experten sind wahre „Hidden Champions“, die auch in Corona-Zeiten nützliche Lösungen bieten. Der brutkasten wirft einen Blick auf Vorzeigeunternehmen aus der Alpenrepublik, die mittlerweile global ihre Lösungen anbieten.

/artikel/ai-hidden-champions-osterreich

✨ AI Kontextualisierung

Vorbei sind die Zeiten, in denen ein Großteil der Gesellschaft Künstliche Intelligenz mit gefährlichen Robotern á la Terminator gleichsetzte. AI kleidet sich heute anders. In Algorithmen und individuellem „Targeting“ von Einzelpersonen.

Sei es bei Geräten, die ideale Raumtemperaturen des Besitzers erlernen und automatisch einstellen, für optimale Lichtverhältnisse ohne Stromverschwendung sorgen oder uns auf unseren Lieblingsseiten im Netz zugeschnittene Werbung so präsentieren, dass manche meinen, sie müssten nur davon träumen und soziale Netzwerke spielen am nächsten Tag die passende Reklame aus.

Auch Mensch-gegen-Maschine-Spiele haben mittlerweile eine neue Dimension angenommen und abseits von Duellen im Schach oder Jeopardy ebenso lyrische Wettkämpfe in ihrem Repertoire– wer schreibt das bessere Gedicht, der menschliche oder maschinelle Geist?

Stille AI aus Österreich

Doch abseits davon gibt es auch „Artificial Intelligence“, die dem Menschen nicht gleich ins Gesicht springt, dafür im Hintergrund arbeitet und ihm den Alltag oder die Arbeit erleichtert. Und für Sicherheit sorgt. Man kann sie in weitgefasster Form als die „stillen AIs“ bezeichnen.

„Die beste KI-Technologie ist die, die man gar nicht als solche wahrnimmt“, sagt Wolfgang Domann, Geschäftsführer von AVI Systems. Sein Unternehmen mit Sitz in Krems ist eines jener heimischen Vertreter eine AI-Riege, die bemerkenswerte, wenn nicht teilweise gar futuristische und vor gar nicht so langer Zeit als utopisch bezeichnete Arbeit leistet.

Das Unternehmen verbindet „Safe Artificial Intelligence“ mit entsprechenden Hightech-Anwendungen für die Mobilität und Industrie. Eines der beeindruckendsten Projekte, an dem AVI Systems aktuell arbeitet, ist die „CarEye Safety Angle Produktsuite“, wie Domann erklärt: „Im Vergleich zu herkömmlichen Abbiegeassistenzsystemen haben wir hier einen komplett anderen technologischen Ansatz gewählt. Anstelle von Radar- oder Ultraschallsensoriken verwenden wir von uns entwickelte Kamerasensoren, die Bildinformationen mittels künstlicher Intelligenz auswerten. Das bedeutet, das System erkennt nicht nur Objekte, es klassifiziert sie auch und trifft zusätzlich verlässliche Bewegungsvorhersagen in Echtzeit.

Die Produktsuite, die 2019 für den „Staatspreis für Mobilität“ (in der Kategorie Betreiben & Sicherheit) nominiert wurde, verknüpft dafür Hightech-Kamera-Monitor-Systeme mit künstlicher Intelligenz und Deep-Learning-Algorithmik“.

Corona: Ampel-Lösung für den Einzelhandel

Neben dieser Automotive-Prognose hat das Unternehmen auch für die Corona-Krisenzeit mithilfe von AI eine Lösung speziell für den Einzelhandel entwickelt: Ein System zur Durchgangskontrolle mit Ampelregelung. Dieses kann beispielsweise in Baumärkten oder Gartenzentren am Ein- und Ausgang sowie in engen Durchgangsbereichen angebracht werden, um Mitarbeitern und Kunden mittels eines einfachen Ampelsignals anzuzeigen, ob ausreichend Platz auf der Fläche ist oder gewartet werden soll.

Das intelligente Durchgangskontrollsystem ist wahlweise mit einer oder zwei Kameras sowie einer ‚Deep Learning Kamera-Sensorik‘ ausgestattet und lässt sich so konfigurieren, dass eine zur Ladengröße definierte Personenanzahl erfasst und entsprechend Zugang gewährt werden kann.
„Wir machen Maschinen intelligent sehend. Dass eine Kamera ’sehen‘ kann, ist allen bewusst. Dass aber eine Kamera mit unserer Technologie auch ‚versteht‘, was sie sieht und dementsprechend Impulse und Signale aussendet, wenn etwas außerhalb der Norm wahrgenommen wird oder eine unmittelbare Gefahr besteht, das ist dann doch noch ein entscheidender Schritt weiter“, so Domann.

Mit AI-Sensorik zu Disney

Ein weiteres jener lokalen Unternehmen, die mehr oder weniger “hidden“ ihr Championat ausführen, trägt den Namen Atos. Es beschäftigt sich mit „Cloud“, „Cybersecurity“ sowie „High Performance Computing“ und bietet dabei ganzheitliche Lösungen für „Orchestrated Hybrid Cloud“, „Big Data“, „Business-Anwendungen“ und „Digital Workplace“.

Eines der Aushängeschilder der Wiener Firma ist jedoch der Einsatz von „Predictive Maintenance“ (vorausschauender Wartung) bei Fahrgeschäften in Vergnügungsparks. Neben der Qualitätssicherung von Gasflaschen in Grillern – mit Bilderkennung und Algorithmen werden Mängel und Defekte an Gasflaschen erkannt – stattet Atos unter anderem Attraktionen von „Disney World“ mit Sensoren aus. Dabei prognostizieren KI-Sensordaten Probleme, damit Ausfällen vorgebeugt werden kann.

„Im Durchschnitt haben große Vergnügungsparks mehr als 40.000 Besucher pro Tag. Der Eintrittspreis bleibt unabhängig von der Anzahl der Attraktionen, die geöffnet sind, gleich. Es ist also eine Frage des guten Rufs und der Kundentreue, dafür zu sorgen, dass alles einwandfrei funktioniert und ständig für die Öffentlichkeit zugänglich ist. Heute verfügt jede Attraktion über nahezu 11.000 Sensoren. Sie überwachen ihren Gesamtzustand, um ihre ordnungsgemäße Funktion und Sicherheit zu gewährleisten“, erklärt Gerald Bader, Senior Director AI & Analytics CEE von Atos: „Es ist unerlässlich, diesen immer wichtiger werdenden Datenfluss in Echtzeit zu analysieren, um Fehlfunktionen zu antizipieren, sofort zu reagieren und um mögliche Ausfallzeiten so weit wie möglich zu begrenzen“.

Um die vorausschauende Wartung von Attraktionen zu ermöglichen, setzt das Unternehmen eine AI-Lösung auf Basis von „Edge Data Analytics“ ein, die in Echtzeit auf einem „BullSequana Edge-Server“ ausgeführt wird. Der Edge-Server, der als der weltweit leistungsstärkste gilt, sammelt, sortiert, speichert und analysiert den Datenfluss in Echtzeit und kontinuierlich. Er eignet sich insbesondere für Bereiche, in denen schnelle Antwortzeiten entscheidend sind. Das ist etwa der Fall in der Industrie 4.0, bei autonomen Fahrzeugen, im Gesundheitswesen, sowie bei der Sicherheit im Einzelhandel und an Flughäfen. Kurzum: Überall dort, wo Daten am „Edge“ in Echtzeit verarbeitet werden.

„Mithilfe von ‚Deep Learning-Algorithmen‘ werden diese Daten sofort analysiert, um Fehlfunktionen oder Schwächungen von Fahrgeschäft-Komponenten während der Fahrt zu erkennen. Sie lösen dann einen Alarm an die Teams für technische Überwachung, Wartung und Support aus, um einen Einsatz zu planen. Damit verfügen sie über ein Echtzeit-Warnsystem zur Sicherstellung der Kundenzufriedenheit sowie zur Vermeidung von Schließungen einzelner Attraktionen“, erläutert Bader.

Mit EpiSYS gegen die Covid-19-Krise

Im aktuellen Kampf gegen die Pandemie leistet auch Atos einen wichtigen Beitrag. Weltweit sind mehrere Supercomputer des Unternehmens im Einsatz, die es Forschern ermöglichen, mittels AI und Machine Learning Forschungslücken oder „blinde Flecken“ rascher zu entdecken. „Unsere Hochleistungsrechner können tausendmal schneller rechnen als Standardrechner“, sagt Bader.

Das verwendete System dabei heißt EpiSYS und ist ein Epidemie-Management-System (EMS), das Fachleuten im Gesundheitswesen einen genauen Überblick über eine epidemiologische Situation verschaffen soll, indem es relevante Daten im Zusammenhang mit dem Virus (etwa Patientendaten) speichert und verwaltet, einschließlich der Verfolgung und Rückverfolgung von Berichten über Patientenvorfälle in Echtzeit.

EpiSYS wurde Anfang März in Österreich eingeführt. Weitere Betätigungsfelder von Atos beinhalten natürliche Sprachverarbeitung zur Automatisierung von Kundeninteraktionen sowie Bild- und Objekterkennung. Auch der Einsatz von digitalen Assistenten, „Chatbot Ingrid“ etwa, für das Impfmanagement-System der Stadt Wien, „Predictive Maintenance“ zur Vorhersage von Wartungsintervallen und „Fraud Detection“ fallen in diese Sparte.

AISaaS für Handel und Industrie

Das Startup 7Lytix aus Linz hingegen verbindet angewandte Künstliche Intelligenz mit Data Science, „um AI für jedes Business anwendbar zu machen“, wie Martina und Franz Kyriakopoulos erklären.

Die ehemalige Co-Founderin von „simpelctix“, einem Startup für „Predictive Analytics“, entwickelt mit ihrem Partner „AI-Software as a Service“ für die Branchen Handel, Logistik, Industrie und Finance.
Dabei erarbeitet 7Lytix auf „selbstlernenden Technologien basierende KI-Lösungen“, die mit Absatzprognosen, „Recommender“-Systemen, Bilderkennung und Risikoprognosen breit aufgestellt sind.

„Wir implementieren die oben genannten Lösungen sowohl für unsere Investoren, die Raiffeisen Landesbank OÖ und die Mediaprint, als auch für eine Reihe großer Unternehmen in Österreich und Deutschland, etwa die Deutsche Bahn, voestalpine, Salamander oder Daily“, erklärt Kyriakopoulos: „Unsere AI vermag, um konkretere Beispiele zu bringen, anhand des bloßen Bildes eines Schuhes zu prognostizieren, wie viele Paare davon im ersten Jahr in Österreich, Deutschland und weiteren Ländern verkauft werden. Und die Disposition eines weltweit agierenden Konzerns zu vollautomatisieren, mithilfe sehr genauer Absatzprognosen“.

Das Problem an dem Quellcode packen

Jaroona von Anna und Christian Bacher widmet sich indes der Cybersecurity. Das 2018 in Wien gegründete Startup unterstützt Software-Entwickler bei der sicheren Entwicklung von Applikationen, indem sie mittels KI und Machine Learning den Programmquellcode auf Sicherheitslücken überprüfen und dem Entwickler sofort Vorschläge zur Korrektur der Fehler unterbreiten.

„Sicherheitslücken in Applikationssoftware sind mittlerweile die Hauptangriffsziele von Hackern. Die Korrektur von Sicherheitsfehlern bereits beim Kodieren macht die Software nicht nur sicherer, wir erzielen damit massive Effizienzgewinne im Entwicklungsprozess. Denn je später im Prozess die Fehler erkannt werden, desto teurer wird die Korrektur für das Unternehmen – von den Folgekosten eines erfolgreichen Angriffs ganz abgesehen“, erklärt CEO Christian Bacher.

Der Gründer meint zudem, dass Artificial Intelligence enorme Fortschritte in der Erkennung von Sprache gemacht hat, die bis vor einigen Jahren noch undenkbar waren und man nur aus ScienceFiction-Filmen kannte.

„Heute ist es möglich geworden, mit Maschinen in natürlicher Sprache zu kommunizieren und etwa fast perfekte Sprechübersetzungen maschinell zu machen. Wir verwenden ähnlich bahnbrechende NLP-Technologie (Natural Language Processing), um Programmquellcodes auf semantische Probleme zu überprüfen und Verbesserungen maschinell durchzuführen“, so Bacher.

AI gegen Fake News

Apropos Sprache: Mark Pfeiffer, Chief Visionary Officer von Sail Labs, arbeitet mit seinem Team an AI-Projekten, die unter anderem zur Verarbeitung von natürlicher Sprache – beispielsweise zum Zweck der Medienbeobachtung und Medienanalyse – gedacht sind.

„Dazu nutzen wir unser preisgekröntes ‚Media Mining-System‘, mit dem durch die Analyse von traditionellen Medien, TV, Radio, Zeitungen, sowie sozialer Medien – Twitter, YouTube, Facebook, Telegram, WhatsApp-Gruppen – in über 30 Sprachen ein umfassendes Lagebild erstellt werden kann.

Das System hilft dabei, einzuschätzen, ob Debatten durch beispielsweise Falschmeldungen oder Propaganda beeinflusst werden. Weiters lässt sich die Reichweite von Medien verschiedenster Art sowie die Resonanz auf die Bevölkerung feststellen“, erklärt er.

Die multilinguale EU und ihr Sprachproblem

Das aktuelle „Vorzeige-Projekt“ des Wiener Unternehmens ist die Zusammenarbeit mit dem ELG (European Language Grid). Dabei geht es um die Erstellung einer europaweiten Plattform für Natural Language Processing.

„Sowohl die Industrie, als auch zahlreiche Forschungsinstitutionen versuchen seit Jahren Policy Maker und EU-Institutionen davon zu überzeugen, dass Sprachtechnologien – insbesondere in einem „Multilingual Digital Single Market“ – kein Luxus sein dürfen, sondern eine fundamentale Rolle spielen – die auch politisch entsprechende Beachtung und ein entsprechendes Interesse verdient“, so Pfeiffer.

Genauer gesagt geht es darum, radikalisierende und polarisierende Inhalte zu erkennen und so ein Bewusstsein zu schaffen. „Wir werden auch weiterhin unsere Technologien zur Detektion von ‚Fake News‘ einsetzen, um Desinformationskampagnen in einem frühen Stadium aufzudecken. Unternehmen und Regierungen haben dann ein Werkzeug zur Hand, um schneller faktisch korrekte Antworten zu geben und Akteure in einem möglichst offenen Dialog zu konfrontieren, sodass schlussendlich beide Seiten mit Fakten argumentieren müssen“, meint Pfeiffer.

AI und Österreich: „Man muss jetzt die richtigen Fragen stellen“

Die genannten Beispiele von AI-Betrieben stellt nur einen kleinen Teil der heimischen Arbeit im Bereich der Artificial Intelligence dar und ließe sich noch um weitere Projekte und Startups ergänzen. Denn, die KI-Szene hierzulande ist lebendig, wie etwa Bader meint, oder auf einem guten Weg, wie Pfeiffer beisteuert, jedoch gelte es in dieser Phase die richtigen Fragen zu stellen – und Aktionen zu setzen.

„Warum haben wir keine starke europäische Suchmaschine wie Google, Yandex oder Baidu? Warum haben wir keinen europäischen Onlinehändler, der auch seine Wertschöpfung hier hat und hier Steuern bezahlt? Ich sehe mit Freude, wie ein paar dieser Fragen grade von der Bundesministerin für Digitalisierung und Wirtschaftsstandort, Margarete Schramböck, aber auch von vielen anderen Mitgliedern dieser Regierung aufgegriffen werden. Es wird Zeit, diese Krise richtig zu nutzen“, mahnt der Sail Labs-CVO.

Fehlende „Liebesbeziehung“ zwischen Startups und Unternehmen lässt Wissen abfließen
Ein Thema bei dem auch Kyriakopoulos deutliche Worte findet: „Startup-Unternehmen haben es in Österreich generell nicht leicht. Das ist auch bei KI nicht anders. Neben der noch immer geringen Risikofreudigkeit von Investoren und der fehlenden Breite an Eigenkapitalfinanzierung stellt vor allem die nach wie vor geringe Bereitschaft von etablierten österreichischen Unternehmen, mit Startups zu kooperieren, eine große Hürde bei der Markteinführung dar“, sagt er.

Startups im B2B-Umfeld seien darauf angewiesen, dass etablierte Unternehmen Bereitwilligkeit zeigen, „Proof of Concepts“ durchzuführen und als Referenzkunden zu fungieren. Diese Bereitschaft fehle in Österreich noch immer weitgehend.

Kyriakopoulos dazu: „An Ideen und Know-how mangelt es in Österreich nicht. Experten in der Umsetzung gibt es allerdings viel zu wenige. Da muss im Rahmen der Schule und der beruflichen Ausbildung deutlich mehr getan werden. Auch ‚Hidden Champions‘, und dazu zählen wir uns auch, sind oftmals darauf angewiesen, die Experten und Referenzkunden im Ausland zu finden. Damit gehen wertvolle Unternehmen und damit verbundenes Know-how der österreichischen Wirtschaft zu oft verloren.“

LinktippDer Beitrag ist auch im brutkasten Magazin #10 erschienen

Deine ungelesenen Artikel:

Martin Pacher

vor 3 Stunden

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Martin Pacher

vor 3 Stunden

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.

Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.

Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag