17.10.2025
INTERVIEW

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

Interview. In Kalifornien läuft aktuell die von a16z präsentierte Tech Week. Mit dabei ist mit Carsten Maschmeyer einer der bekanntesten Investoren Deutschlands. Im brutkasten-Gespräch schildert er seine Eindrücke direkt aus San Francisco.
/artikel/maschmeyer-sf-tech-week
Carsten Maschmeyer in San Francisco, im Hintergrund ist die Golden Gate Bridge zu sehen
Carsten Maschmeyer in San Francisco | Foto: Maschmeyer Group

Die von der Venture-Capital-Gesellschaft a16z präsentierte San Francisco Tech Week gilt als wichtiger Austauschplatz für neue Trend im Tech-Bereich. Am vergangenen Sonntag ist die Ausgabe in der Bay Area zu Ende gegangen – nahtlos gefolgt von der diese Woche laufenden LA Tech Week. Vor Ort mit dabei ist mit Carsten Maschmeyer auch einer der bekanntesten Investoren Deutschlands. Einer breiten Öffentlichkeit ist er als Investor vor allem aufgrund seiner Rolle in der TV-Sendung „Die Höhle der Löwen“ bekannt.

Maschmeyer investiert über drei Investment-Vehikel in Startups: Mit seinem in Berlin angesiedelten Venture-Capital-Fonds seed + speed hat er frühphasige Startups im Blick. In Later-Stage-Startups investiert er über seine Münchner Firma Alstin Capital. Dazu kommt noch die auf den US-Markt spezialisierte Investmentfirma Maschmeyer Group Ventures (MGV).

In Österreich ist Maschmeyer unter anderem bei Prewave, TeamEcho oder Optimuse beteiligt. brutkasten stand der Investor direkt aus San Francisco für ein Interview zu seinen Eindrücken von der Tech Week zur Verfügung.

Carsten Maschmeyer in San Francisco | Foto: Maschmeyer Group

brutkasten: Du bist aktuell bei der Tech Week San Francisco vor Ort. Was sind deine ersten Eindrücke?

Carsten Maschmeyer: Ich erlebe hier einen sehr klaren Tenor: AI or Bye‑bye. Künstliche Intelligenz ist nicht mehr Zusatz, sondern Fundament. Was heißt das konkret? Ich könnte Dutzende Beispiele nennen. In der Rechtsbranche etwa erledigten früher drei Anwälte über Tage Vertragsarbeit; heute erstellen Modelle in Sekunden auf Basis juristischer Standardwerke einen nahezu fertigen Entwurf.

Auch Konsumplattformen werden neu gedacht. Spotify analysiert nicht mehr nur „Kunden, die X hörten, mögen Y“, sondern versteht mein tatsächliches Hörverhalten über die Zeit. Zillow, die größte Immobilienplattform in den USA, ist mit GPT verknüpft: Ich kann in natürlicher Sprache sagen, ich will nicht weiter als zwei Meilen von der Schule weg sein, Bäckerei in der Nähe, Nachbarschaft mit vielen Kindern oder ausdrücklich ohne – und bekomme maßgeschneiderte Vorschläge. Gleiches bei Reisen: „Breiter Strand, wenig Verkehr, Palmen“ und ganze Regionen fallen automatisch heraus.

Dazu kommt ein strategischer Shift: aus SEO wird GEO – Generative Engine Optimization. Früher optimierten Firmen für die Google‑Suche; heute optimieren sie dafür, in großen Sprachmodellen überhaupt aufzutauchen. Überraschend ist, dass selbst hier in der zukunftsverliebten Bay Area eine Sorge mitschwingt: KI könnte Jobs kosten. Natürlich hoffen viele, dass neue entstehen. Einig ist man sich aber: Wer nicht sehr schnell gut mit KI umgehen lernt, riskiert seinen Arbeitsplatz.

Rund um KI herrscht ein enormer Hype. Viele fürchten aktuell auch eine Spekulationsblase – gerade in Hinblick auf die Börsenbewertungen von Unternehmen wie Nvidia. Wie beurteilst du das?

Es gibt ein Paradox. In den Leitmedien liest man gleichzeitig „Riesen‑KI‑Blase“ und „Hunderte Millionen Jobs fallen weg“. Wenn Letzteres passiert, war KI offensichtlich nicht erfolglos – dann ist es keine Blase im Gesamten. Meine Beobachtung: KI‑Firmen tragen aktuell extrem hohe Umsatzmultiples. Wo wir früher bei sehr guten Unternehmen von 8 bis 12 sprachen, sind heute 50 bis 100 keine Seltenheit. Und sie wachsen in einem Tempo, das ich so noch nicht gesehen habe: Um auf 100 Millionen Dollar Umsatz zu kommen, brauchte ein Internetunternehmen früher rund sieben Jahre, SaaS‑Firmen vier – KI‑Firmen im Schnitt eineinhalb. Der Steigerungswinkel ist quasi 90 Grad.

Parallel investieren die Tech‑Giganten hunderte Milliarden in Rechenzentren, Infrastruktur und zum Teil sogar in Mini‑AKWs. Auffällig: Selbst Meta leiht sich dafür Geld. Mark Zuckerberg sagt sinngemäß, er habe lieber zu viel Kapazität gebaut als zu wenig. Heute investieren hochprofitable Monsterfirmen wie Nvidia, Google, Apple oder Microsoft. Das alles spricht gegen ein Dotcom‑Szenario, in dem Luftnummern dominierten.

Was ich allerdings sehe, sind Bewertungsblasen auf Einzelunternehmensebene. Manche Startups müssen „vom Umsatz erst in die Bewertung hineinwachsen“. Da wird es Down‑Rounds geben, Pleiten, und Investoren werden Geld verlieren. Also: keine Blase als Ganzes, aber sehr wohl Übertreibungen im Einzelnen.

Meta hat spektakuläre Angebote an Spitzenforscher gemacht und spricht offen von einem Rennen um Superintelligence. Hältst du solche Maßnahmen für nachvollziehbar – oder ist das bereits Übertreibung?

Zwei Gedanken. Erstens: Top‑AI‑Talente werden aktuell mit Gehältern und Paketen umworben, mit denen Europa nicht mithalten kann. Ob Wien, Berlin, Paris oder London – ein sehr guter AI‑Engineer bekommt in den USA leicht das Dreifache. Und bei Remote‑Arbeit ist es völlig egal, ob man acht Meter oder 8.000 Kilometer entfernt sitzt. Hinzu kommen in den USA deutlich attraktivere ESOP‑Regelungen, in Deutschland müssen Mitarbeiterbeteiligungen häufig ungünstig versteuert werden. Das alles zieht die besten Leute ab.

Zweitens zu diesen Mega‑Angeboten: Der Fall, in dem jemand über mehrere Jahre anderthalb Milliarden geboten bekam und trotzdem Nein sagte, ist kein normales Hiring. Das ist Signalpolitik. Man holt einen KI‑Guru, dem Talente folgen. Allein die Meldung „Wir haben das Genie X geholt“ kann den Börsenkurs bewegen. Klar ist: Wenn KI alles dominiert, will man die klügsten Köpfe – auch, weil sie weitere Talente anziehen.

Spätestens seit vergangenem Herbst mit dem Erscheinen unterschiedlicher Reasoning-Modelle wird im Silicon Valley, aber auch darüber hinaus, zunehmend über das Thema Artificial General Intelligence (AGI) diskutiert – also vereinfacht gesagt, eine KI, die intellektuelle Aufgaben auf einem ähnlichen oder höheren Niveau als der Mensch erledigen kann. Nach Erscheinen des jüngsten OpenAI-Flagship-Modells GPT-5 waren viele allerdings auch enttäuscht. Welche Entwicklungen erwartest du in nächster Zeit im KI-Bereich?

Die Hauptstadt der KI ist aktuell die Bay Area – San Francisco und Palo Alto. Es gibt einen leider wahren Witz: Ein Team aus Palo Alto sagt „Noch drei Monate, dann machen wir zehn Millionen Umsatz“, ein Team aus Berlin sagt „Noch drei Genehmigungen, dann dürfen wir anfangen“. Hier entstehen Dinge schneller, auch weil man nicht durch europäische Hürden wie den AI Act und unsere Datenschutz‑Regimes gebremst ist. Die Innovation kommt oft von hier, die Regulierung dann von Europa.

Inhaltlich bin ich überzeugt, dass da noch sehr viel kommt. Wir werden robotische Assistenz in der Neurochirurgie sehen, mit Vorab‑Markierung krebsbefallener Zellen und Präzision im Hundertstelmillimeter‑Bereich. Humanoide Roboter – Elon Musk hat einen gezeigt – bewegen sich bereits erstaunlich geschmeidig; in wenigen Jahren kochen sie Kaffee, räumen auf und mähen den Rasen – weit jenseits heutiger Mähroboter, die nur innerhalb von Begrenzungen herumfahren. Wir werden uns an all das gewöhnen und können uns heute noch gar nicht vorstellen, was zusätzlich kommt.

Und: KI macht die Arbeit spürbar effizienter. In der Filmproduktion – meine Frau produziert – hat man an einer Drehbuchstelle eine KI laufen lassen, die für eine bestimmte Szene mit einem Bankraub vier Alternativen ausgearbeitet hat. Früher hätte der Autor zwei Monate gebraucht; jetzt hat man in Minuten Varianten. Werbeagenturen sprechen hinter vorgehaltener Hand davon, dass sie in ein paar Jahren bis zu 80 Prozent weniger Leute brauchen könnten. Schauspiel‑Nachwuchs wird es schwerer haben, weil Avatare vieles ersetzen; echte Stars bleiben, der Rest wird virtuell. Es gibt schon komplett KI‑generierte Filme und digitale Fashion‑Shows. Sensationell – solange wir verhindern, dass KI „Krieg spielt“ oder sich gegen ihre Entwickler richtet. Diese Sorge muss man ernst nehmen.

Du hast den AI Act angesprochen. Hemmt die europäische Regulierung Innovation im Vergleich zu den USA? Wie konkret?

Carsten Maschmeyer in San Francisco | Foto: Maschmeyer Group

Ja. In Europa ist beispielsweise das Interpretieren und Einbinden von Emotionen im Wesentlichen untersagt oder stark beschränkt. Hier drüben kümmert das kaum jemanden. Wir sind an Firmen beteiligt, die genau das produktiv machen – zum Nutzen der Kunden. Observe AI wurde beispielsweise jüngst von einem US-Magazin als eine der vielversprechendsten AI‑Companies ausgezeichnet. Das Startup analysiert mit KI unter anderem Sales-Calls.

In den USA ist Sales nichts Anrüchiges, und jeder Call beginnt mit „Your call will be monitored for quality and training purposes“. Dann liefert die Software in Echtzeit Hinweise: „Rede noch etwas weiter, sie ist noch nicht bereit für Preise“, „Mach kein Rabattangebot“ oder „Komm jetzt zur Entscheidung – Paket A oder B“. 

Ich bin sicher, dass wir in ein paar Jahren in 90 Prozent der Fälle nicht mehr unterscheiden können, ob eine Maschine oder ein Mensch am Telefon ist. Nur Spezialfälle gehen an echte Expertinnen und Experten. Am Ende wollen die meisten ohnehin vor allem gute Antworten. Wer persönlichen Kontakt will, kann weiterhin zur Bankfiliale oder zum Versicherungsberater gehen. Aber Europa schränkt genau jene Features ein, die Gespräche für beide Seiten effizienter und angenehmer machen.

Wie nimmst du die Tech-Regulierung in den USA wahr – hat sich mit dem Regierungswechsel etwas geändert?

Carsten Maschmeyer in San Francisco | Foto: Maschmeyer Group

Die großen Investoren – Marc Andreessen, Ben Horowitz, Ray Dalio, Peter Thiel und andere – wollen Wertschöpfung und politische Rahmenbedingungen aktiv mitgestalten. Drei Dinge sind ihnen wichtig: erstens niedrige oder keine Steuern auf Veräußerungsgewinne, solange reinvestiert wird; das ist hier möglich, während man in Europa sofort zahlt. Zweitens schlanke Regulierung. Drittens Planbarkeit. 

Sie haben dem neuen Machtzentrum sehr deutlich die Aufwartung gemacht – und im Gegenzug haben Tech‑Companies eine Art Vorfahrt bekommen, verbunden mit Zusagen über Investitionen in dreistelliger Milliardenhöhe. Wann die wirklich fließen, wird man sehen; vermutlich eher nach der Amtszeit von Donald Trump. 

Auch die Wahl des Vizepräsidenten war aus Tech‑Sicht geschickt: jemand, der Zukunft, Innovation und die Szene kennt. Kurz: Diese Player denken an ihre Firmen und arbeiten mit der Politik, die ihnen den besten Rahmen bietet.

Wie ist die Stimmung in der US‑Venture‑Capital‑Szene derzeit, im Vergleich zu den letzten Jahren?

Wir hatten den Peak der Bewertungen im Herbst 2021. In manchen Statistiken taucht das noch in Q1/Q2 2022 auf – das sind Nachläufer, Deals waren ausgehandelt, aber juristisch noch nicht durch. Dann kam der russische Angriff auf die Ukraine: Raising wurde zäh, Bewertungen sanken, Down‑Rounds häuften sich. Viele Investoren reagierten psychologisch statt rational: „Bewertungen fallen, also halten wir Geld zusammen.“ Die Profis sagten: „Wenn ich jetzt zur halben Bewertung einsteigen kann, tue ich es.“

2023 war ein mageres Jahr: weniger Gründungen, weniger Runden – und viele sogenannte AI‑Wrapper, also Lösungen ohne eigene Intellectual Property (IP), die ein bisschen Open Source zusammenlöteten. Die meisten davon sind schon weg. Mein US‑Team macht normalerweise acht Deals im Jahr, 2023 waren es zwei. Ich habe jeden Monat gefragt: „Seid ihr faul oder zu ängstlich?“ Antwort: „Nein, wir schützen das Geld.“ 2025 stehen wir bereits bei neun Deals und steuern auf zwölf zu – ein Rekordjahr. Wir müssen uns auf hohe Bewertungen einstellen, aber die Qualität der Startups ist wieder deutlich besser.

Amerikanische Startups sind begünstigt: weniger Regulierung, kein AI‑Act, und es sitzt hier schlicht mehr Geld. Viele Investorinnen und Investoren haben selbst gegründet, sie sehen sich nicht als Risikokapital-, sondern als Chancenkapitalgeber: Wo kann ich verzehn‑, verfünfzigfachen? 

Dazu kommt: Wer mit Startups reich geworden ist, hat eine höhere Risikotoleranz und investiert wieder. Entsprechend investieren wir als Familie derzeit etwas stärker in den USA. Über ein Drittel unserer Beteiligungen sitzt dort. In Europa streuen wir – viel Schweden, Niederlande, Schweiz, Österreich – Deutschland macht vielleicht noch ein Drittel unserer Fondsaktivitäten aus.

Was rätst du jungen KI‑Gründerinnen und ‑Gründern aus Europa: Hier bleiben oder in die USA gehen?

Beides ist möglich. Man kann in Europa bleiben, aber es ist hier leichter, Top‑Talente zu bekommen und Geschwindigkeit aufzunehmen. Ich mache einen Vergleich aus meiner Familie: Wer in der Filmbranche die großen Rollen will, muss nach Hollywood. Für Tech ist die Bay Area das Hollywood. 

Spannend ist, wie viele europäische Gründer ich hier treffe. Gestern hatten wir vier Teams im Büro – aus Schweden, Amsterdam, Zürich und München. Sie sprechen mit OpenAI und Nvidia über Kooperationen, lassen sich Feedback zum Modell geben, fragen nach Co‑Investments. 

Zwei Gründer haben mir offen gesagt: Wir teilen uns auf – einer bleibt in Europa, einer geht nach New York oder Kalifornien. US‑Investoren machen es oft zur Bedingung, dass es hier eine US‑Entity gibt, zur Not erst einmal einen Briefkasten in Delaware. So nimmst du den Schwung des Marktes mit und behältst gleichzeitig deine europäischen Wurzeln.

Was nimmst du dir persönlich für die Tech Week vor – was möchtest du unbedingt mitnehmen?

Kontakte und Gespräche, ganz klar. Die Tech Week ist die zukunftsorientierte Gerüchteküche: Man spürt Trends, bekommt Inspiration, versteht, wo die Reise hingeht. Konkreter will ich nicht werden – sonst müsste ich meinem Wettbewerb gleich Tipps geben, wo er investieren soll. 

Aber ein Beispiel: Ich habe mit einem Startup gesprochen, das mit dem C‑Level von OpenAI und Nvidia im Austausch ist. Wenn ich sehe, wie solche Teams denken und welche Kooperationen realistisch sind, bekomme ich ein Gefühl dafür, was als Nächstes kommt.

Eine Beobachtung zum Schluss: Früher dachten Unternehmen aus Österreich, der Schweiz oder Deutschland in der Reihenfolge DACH, dann Europa, dann USA. Heute sehe ich oft DACH – und direkt USA. Das ist nicht schön für die „Vereinigten Staaten von Europa“, die wir leider nicht leben, erklärt aber die Dynamik. Kapital ist mobil: Global Hiring, Global Working, Global Investing. Folgerichtig investiere ich in der Unternehmensgruppe derzeit mehr in den USA.

Deine ungelesenen Artikel:
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
Rechtsanwalt Manuel Mofidian © Armin Hubner

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.


Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.


Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Maschmeyer zur SF Tech Week: „Klarer Tenor: AI or bye bye“