01.06.2021

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

Chris Messina, Produkt-Entwickler für Google und Uber und Erfinder des "Hashtags" über Widrigkeiten im Valley, Scheiterkultur und warum man das Konzept von "Ewigkeit" ablegen muss.
/artikel/chris-messina-der-hashtag-war-ein-trojanisches-pferd-das-sich-in-unternehmen-einschlich
Chris Messina, Messina, Marianna Bonechi, Uber, Hashtag, Interview,
(c) Messina/FB - Der Erfinder des "Hashtag" Chris Messina im Interview.

Marianna Bonechi lebt seit acht Jahren im Silicon Valley und leitet Avy Ventures in Menlo Park – ein Unternehmen, das sich auf Pre-Seed- und Seed-Investitionen in KI, SaaS und Social Media konzentriert. Sie arbeitete für i5growth in der Bay Area und ist Beraterin der Austrian Business Agency in San Francisco. Während der ViennaUp’21-Konferenz, organisiert von der Austrian Business Agency und der Wirtschaftsagentur Wien, hatte Bonechi Gelegenheit, mit Chris Messina zu plaudern, der Produkte für Google und Uber entworfen, Startups gegründet, „Movements“ geschaffen und als Katalysator für Veränderungen in kleinen und großen Organisationen gewirkt hat. Und vor allem als Erfinder des Hashtags bekannt ist.


Chris, der Hashtag hatte einen so tiefgreifenden Einfluss auf die Welt. Über 200 Millionen Hashtags werden jeden Tag allein auf Twitter verwendet. Wie bist du auf diese Idee gekommen?

Als ich 2007 auf diese Idee kam, waren die Hoffnungen, Träume und Ambitionen für ‚Social Media‘ oder das, was daraus werden würde, noch andere. Wir befanden uns in einem Prozess der Migration von Desktop-Computer-‚Experiences‘ zu solchen, die mobil waren. Als das Mobiltelefon zur de-facto-Computerplattform wurde, wurden die Möglichkeiten, wie wir die digitale Technologie zur Unterstützung sozialer Interaktionen nutzen konnten, immer deutlicher. Wir wollten mit unseren Freunden ausgehen und diese Technologien nutzen, um zu kommunizieren, Kontakte zu knüpfen und um uns gegenseitig zu finden. Was wir feststellten, war, dass die Technologie, so wie sie bisher existierte, nicht an die Nutzung unterwegs, draußen in der Welt, angepasst war. Und dass wir nicht nur die Technologie an unsere Bedürfnisse anpassen, sondern auch unser eigenes Verhalten ändern mussten, um diese Fortschritte zu integrieren. Der Hashtag – als Verhaltenstechnologie – sitzt genau zwischen der Technologie der Sprache und der Technologie der sozialen Medien, die größtenteils durch mobile Technologie, wie das iPhone, ermöglicht wurde.

Was war der Moment, in dem dir klar wurde, dass der Hashtag viral geht?

Der Hashtag entstand durch zeitgenössische Innovationen und Verhaltensänderungen auf dem Markt. Als er zum ersten Mal vorgeschlagen wurde, erregte es die Aufmerksamkeit einer kleinen Anzahl meiner Freunde – aber es herrschte große Skepsis, dass es jemals Mainstream werden, geschweige denn einen Wert außerhalb eines engen Ausschnitts des Silicon Valley bieten würde. Doch dann kam 2010 Instagram auf den Markt und lieferte einen überzeugenden Use-Case, der dazu beitrug, den Hashtag in das Bewusstsein des Mainstreams zu bringen. Damals war ‚Computer Vision‘ noch weitgehend ein akademisches Studiengebiet und keine kommerzielle ‚Search-Technologie‘. Wenn man also auf Instagram nach Inhalten suchte, konnte man nichts finden, solange keine Metadaten vorhanden waren, die die Fotos beschrieben. Da Twitter-User bereits alle diese Tags auf Twitter verwendeten und der Kurznachrichtendienst gut etabliert war, wanderte die Praxis des ‚Hashtagging‘ ganz natürlich von Twitter zu Instagram, um Fotos zu teilen.

Wann hast du persönlich den Hashtag entdeckt?

Der Moment, in dem mir klar wurde, dass der ‚Hashtag‘ das Potenzial hatte, sich auf breiter Ebene durchzusetzen, kam schon früher. Damals im Jahr 2008, als ich irgendwo mitten in Kalifornien an irgendeinem Highway und weit außerhalb des ‚Silicon Valley‘ eine Werbetafel für die ‚Tea Party‘ entdeckte, die einen Hashtag verwendete, um eine politische Botschaft zu verbreiten. Da wurde mir klar, dass der ‚Hashtag‘ die nerdige Technologiewelt des ‚Silicon Valley‘ verlassen hatte und begann, seinen Nutzen in Mainstream-Anwendungsfällen zu finden, die nichts mit der Technologie selbst zu tun hatten.

Kaum zu glauben, dass Twitter die Idee der Hashtags anfangs ablehnte und sagte: „Diese Dinge sind für Nerds. Sie werden sich nie durchsetzen“. Was hat dir geholfen, angesichts der Widrigkeiten durchzuhalten?

Was damals anders war und einen wichtigen Teil des kulturellen Zeitgeistes ausmachte, war eine bidirektionale Gesprächsbeziehung zwischen Leuten, die die Technologie entwickeln, und Leuten, die sie nutzten. Es schien, als gehörten diese sozialen Plattformen und Produkte uns, als würden sie mit uns gebaut und nicht nur an uns geliefert. Am Tag, nachdem ich einen Blogbeitrag geschrieben hatte, in dem ich den ‚Hashtag‘ als gemeinschaftsorientierten Vorschlag anbot, marschierte ich in die Twitter-Zentrale, um meine Idee zu präsentieren, wurde aber kurzerhand abgewiesen, weil die Server von Twitter metaphorisch gesehen in Flammen standen.

Was war geschehen?

Twitter war gerade dabei, an Popularität zu gewinnen, und das Kernteam hatte keine Zeit, sich mit einem zufälligen Vorschlag aus der „Peanut Gallery“ zu beschäftigen. Aber die Ablehnung fühlte sich nicht persönlich an; es war eher so, als ob ‚Biz Stone‘ (einer der Mitbegründer von Twitter) es nicht verstanden hätte, oder dass er die Relevanz mit einer anderen Strategie lösen wollte – eine, die von seiner Zeit bei Google geprägt war. Es war sein Unternehmen, also war das natürlich seine Entscheidung. Aber ich ließ mich nicht abschrecken, weil ich sehr stark in die frühe Social-Media-Community eingebettet war und zufällig Freunde hatte, die Apps für die Twitter-Plattform entwickelten. Alles, was ich tun musste, war, sie davon zu überzeugen, Unterstützung für den ‚Hashtag‘ in ihre Apps einzubauen. Und dann, im Laufe der Jahre, als Twitter anfing, diese Firmen zu übernehmen, haben die Ingenieure von Twitter den Code und die Funktionalität, die ‚Hashtags‘ ermöglichten, einfach drinnen gelassen, anstatt sie zu entfernen. So war der ‚Hashtag‘ wie das trojanische Pferd, das sich in die Produkte des Unternehmens einschlich.

Chris, du hast über 15 Jahre lang im Silicon Valley an der technologischen Spitze gelebt. Wie sieht die Kultur des Scheiterns hier aus und wie unterscheidet sie sich von der in anderen Teilen der Welt?

Ich erinnere mich ziemlich genau, als ich in Paris auf einem Panel mit Mike Arrington von ‚TechCrunch‚ war und die Frage aufkam, ob Paris jemals seine eigene Version des ‚Silicon Valley‘ haben könnte. Viele Orte haben sich diese Frage gestellt, weil sie auf den Erfolg des ‚Silicon Valley‘ blicken und die gleichen wirtschaftlichen Ergebnisse kopieren oder zumindest erreichen wollen. Es scheint ein grundlegendes Missverständnis zu sein, warum das ‚Silicon Valley‘ so funktioniert, wie es funktioniert, und wie es diese Art von brillanter Kombination von Akademikern, militärischen Kontakten, Revolutionären der Gegenkultur, seltsamen Menschen, ‚third wave coffee‘ und Open-Source-/Homebrew-Kulturen führt.

Während meiner Zeit bei Google ist mir unter anderem aufgefallen, wie sehr das Unternehmen jedes Jahr seinen internen Code umschreibt. Es werden alte Codes und Ideen über Bord geworfen – und die Ingenieure feiern, wenn sie veralteten Code löschen, weil sie sich vorwärts bewegen. Für Nostalgie oder das Festhalten an der Art und Weise, wie die Dinge gewesen sind gibt es einfach keinen Platz. Es besteht der Wunsch, weiter zu iterieren, sich weiter zu bewegen und immer wieder neue Dinge auszuprobieren. Auch wenn Zuckerberg dafür viel Kritik einstecken muss, war die Idee, sich schnell zu bewegen und Dinge kaputtzumachen, eher eine Einstellung, keinen Code zu schreiben, der so perfekt ist, dass man ihn nicht mit etwas Besserem überschreiben könnte. Und wenn man den Code von jemand anderem kaputt gemacht hat, um zu bauen, zu lernen und zu iterieren, war das akzeptabel und nicht etwa ein strafbares Vergehen.

Das geschieht auch in einer ganz neuen Geschwindigkeit …

Diese Dynamik – in der Konflikte mit Daten gelöst wurden, wenn diese Interaktionen auftraten – ist ganz anders, als man es an Orten mit mehr Territorialität erwarten würde. In der Ära des Internets kann man morgens etwas veröffentlichen, feststellen, dass es eine Reihe von Dingen kaputt macht, twittern, dass man ein Problem erkannt hat und an einer Lösung arbeitet, und dann am Ende des Tages mitteilen, dass man die Lösung ausgerollt hat. Dieser Zyklus hat früher vielleicht sechs Monate gedauert. Es ist eine andere Umgebung, die ein halsbrecherisches Tempo ermöglicht, wie schnell man sich bewegen kann, indem man in schneller Abfolge entwirft, baut und einsetzt.

Die Erfindung ist der Kern deiner Karriere und du hast so viele Bewegungen geschaffen, ob es nun die Mitorganisation des ersten BarCamps war und die Popularisierung des ‚unconference‘-Eventformats oder die Eröffnung des allerersten Coworking Space der Welt. Worauf führst du deine Fähigkeit zurück, diese bahnbrechenden Ideen zu generieren?

Ich möchte klarstellen, dass es eine Reihe von Leuten gab, die an vielen dieser originellen Ideen gearbeitet haben, und dass ich geholfen habe, einige dieser Bewegungen zu katalysieren. Da ich aus der Open-Source-Tradition komme, habe ich eine Menge Inspiration von den Ideen und Praktiken von dort mitgenommen. Tim O’Reilly, ein bekannter Herausgeber von ‚O’Reilly Media‘, hatte diese jährlichen Veranstaltungen in Sebastopol, Kalifornien, genannt FOO Camp, wo er viele bekannte oder aufstrebende Stars wie unter anderem Larry Page und Sergey Brin mitgebracht hat.

Im Jahr 2005 war ich nicht eingeladen worden, weil ich, ehrlich gesagt, noch niemand war. Aber weil Tim O’Reilly so ein Verfechter von Open Source war, dachte ich, warum nehme ich nicht sein Veranstaltungsmodell – das eigentlich von seiner Kollegin Sara Winge gefördert wurde – und mache es populär? Da ich noch nie zuvor eine solche Veranstaltung geplant hatte, organisierten meine Freunde und ich unsere ‚unconference‘ in nur sechs Tagen – unter Verwendung der frühesten sozialen Medien dieser Zeit: Wikies, IRC, Plazes und Webseiten. Wir erwarteten 30 Leute und stattdessen kamen 300 Leute. Und die Konferenz organisierte sich ganz so, wie es das Internet tut, und das war unglaublich. Wir haben eine Reihe von Plattformen und Produkten vorgestellt, die heute sehr bekannt sind, darunter ‚TechCrunch‘ und ‚Pandora‘. Matt Mullenweg von ‚WordPress‘ war einer der Mitorganisatoren, und ein Haufen anderer interessanter Leute, die in der Tech-Welt ziemlich einflussreich werden sollten, nahmen teil und präsentierten.

Das war die Geburtsstunde der BarCamps?

Nachdem die Veranstaltung etwas Presse in ‚Wired‘ bekommen hatte, meldeten sich eine Reihe von Leuten bei mir und baten mich, BarCamps für sie zu organisieren. Aber darum ging es nicht, also entwarf ich stattdessen Logos für sie und erzählte ihnen, dass das BarCamp eine Open-Source-Veranstaltung ist, und dass man es daher selbst aufbauen muss. Weil wir alles offen und öffentlich dokumentiert hatten, begannen die Leute, selbst Veranstaltungen durchzuführen, und begriffen, dass sie keine Erlaubnis von einer zentralen Behörde einholen mussten. Mir ging es nicht um ein kommerzielles Ergebnis, mir ging es darum, unsere Kultur zu verbreiten.

Im Jahr 2006, nachdem die BarCamp-Community in Gang gekommen war und überall aufgteaucht war, erkannten einige Freunde und ich, dass wir die ‚Ad-hoc-Community-Experience‘ des BarCamps auch im Alltag haben wollten. Dafür brauchten wir einen festen Raum. Mein Freund Brad Neuberg hatte in der Mission in San Francisco zweiwöchentliche Veranstaltungen organisiert, die er „Co-Working“ nannte, und ich schlug vor, dass wir damit anfangen sollten, dies jeden Tag zu tun. Damit gründeten wir den ersten dedizierten ‚Co-Working-Space‘ in Dogpatch in San Francisco namens ‚Teh Hat Factory‘ – ja, ‚the‘ war absichtlich falsch geschrieben. Wir betrieben diesen Raum für einige Monate, bevor wir widerwillig feststellten, dass wir alles falsch angegangen waren und diese Idee ernst nehmen mussten. So schlossen wir diesen Raum und eröffneten unseren nächsten Standort, den wir ‚Citizen Space‘ nannten. Dieser befand sich im South Park, in der Nähe des frühen Twitter-Hauptquartiers, und entwickelte sich zu einer viel, viel größeren Gemeinschaft.

Eine Wachstumsmentalität ist die treibende Kraft hinter der Innovation, doch einige Kulturen sind immer noch sehr auf Perfektionismus ausgerichtet. Wie kann man lernen, anders zu denken?

Ich leide selbst unter Perfektionismus, ich kann das also nachvollziehen. Da meine Freunde und ich aus dem Wunsch heraus kommen, einander zu dienen und einfach Dinge auszuprobieren, war es wohl nicht so sehr, dass wir eine Wachstumsmentalität gebraucht hätten. Es war einfach so, dass wir uns in einem Wachstumsprozess befunden haben und unsere Denkweise sich von dem abgeleitet hat, was uns begegnet ist oder was wir nicht verstanden haben. Wir wussten, dass wir nicht alles wussten, weil wir buchstäblich am Rande der menschlichen Erfahrung lebten, und so wurde alles, was wir ausprobierten – zum ersten Mal ausprobiert. Daher, wie konnten wir falsch liegen? Keiner hatte festgelegt, was richtig war.

Zum Beispiel gab es einen Hackathon beim ersten BarCamp, bei dem die Internetverbindung so schlecht war, weil wir in einem Gebäude in Palo Alto waren, das noch nicht verkabelt war. Am Ende haben wir jemanden dazu gebracht, uns Mikrowellen-WLAN aus 60 Meilen Entfernung zu beamen, um den Veranstaltungsort zu beleuchten und WLAN zur Verfügung zu stellen – und davon hatte ich noch nie gehört. Aber jemand dort hatte zufällig das Wissen und die Bereitschaft, es zu versuchen. Und es hat funktioniert.

Was hat diese kreative Lösungsorientierung gefördert?

Ich nehme an, die Wachstumsmentalität ist mit der Hackermentalität verwandt. Wenn man einfach weitermacht und sich auf das Ziel oder das Ergebnis konzentriert, das man erreichen will, und sich in aktuellen Lösungen verstrickt, wird man sehr empfindlich und fast schon getriggert davon, und dann sagt man: ‚Nein, wir verzetteln uns in Details und kommen nicht voran. Lass uns das pausieren und etwas anderes versuchen‘. Da war kein Ego im Spiel. Es ging um Energie für die Aufgaben, die am meisten Aufwand, Kreativität und Erkundung erforderten.

Es gibt ja eine Menge Leute, deren Job es ist, völlig risikoscheu zu sein und dafür zu sorgen, dass niemals etwas Schlimmes passiert. Wenn man zum Beispiel ein Atomkraftwerk leitet, ist schnelles Handeln und Dinge kaputt machen wahrscheinlich nicht die M.O., die man annehmen will. Und doch rennt die Menschheit auf die Klimakrise zu und das erfordert eine andere Denkweise und die Überprüfung der Systeme und Strukturen, die vorhanden sind. Wie sie entstanden sind und ob die Absicht der Menschen, die sie geschaffen haben, war, ‚ewige‘ Institutionen zu schaffen. Denn Hacker, die versuchen, das unmittelbare Problem zu lösen, haben selten die Absicht, ‚ewige‘ Institutionen zu schaffen. Und nur weil etwas existiert oder sich über einen gewissen Zeitraum gehalten hat, bedeutet das nicht unbedingt, dass diese Lösungen nicht infrage gestellt werden sollten – und ob sie nicht über den Status, in dem man sie vorgefunden hat, hinaus entwickelt werden können.

Als Produktjäger Nummer eins, welche Produkte oder Apps begeistern dich am meisten?

Eines der Dinge, die im letzten Jahr interessant waren, war die Anzahl der Apps, die Video als Kernmedium nutzen und dieses Format auf eine ähnliche Weise weiterentwickeln, wie es Webseiten Mitte der 2000er Jahre taten. Im Jahr 2016 waren Bots ein großer Trend, weil wir anfingen zu sehen, dass ‚Conversational AI‘ möglich sein könnte. Offensichtlich waren wir in der Talsohle der Verzweiflung, aber vielleicht sind wir mit Bots auf dem Weg nach oben. Aber im Vergleich dazu sind wir in den frühen Anfängen von Video als Kernmedium, weil die Bandbreite und die Rechenleistung noch nicht da sind. Die maschinellen Lernmodelle für die Arbeit mit Video und Kompression und all das Zeug hat wirklich gerade erst begonnen, in einer Weise produktiv zu werden, die es den Leuten erlaubt, zu kreieren. Das ist sehr aufregend.

Außerdem würde ich auf die virtuelle Präsenz verweisen. Offensichtlich verbringen viele von uns viele Tage in diesen quadratischen Rechtecken und bei Zoom-Anrufen, aber viele Leute bringen die Elemente von MMORPGs und Spielen in diese Räume, in denen sich Menschen bewegen und in einer räumlichen Umgebung miteinander interagieren können. Ich denke, dass es wirklich interessante Elemente gibt, die in diese Bereiche eingebracht werden, die Elemente des Metaversums mit Kollaboration, Kommunikation und dem Online-Sein zusammenbringen.

Gibt es Apps oder Produkte aus Österreich, die deine Aufmerksamkeit erregt haben?

Product Hunt ist ein so globaler und vielfältiger Ort, sodass ich nicht so sehr darauf achte, woher jemand kommt

Du kennst wahrscheinlich remove.bg?

Ah ja, natürlich. Da haben Sie es. Ich kenne das Produkt, wusste aber nicht, dass es aus Österreich kommt.

Wo können die Zuhörer mehr über dich erfahren und wie du Gründern bei der Produktentwicklung hilfst?

Chrismessina.me ist eine tolle Anlaufstelle und natürlich bin ich auch sehr aktiv auf Twitter, dort kann man mir folgen.

Irgendwelche Abschiedsgedanken, die du mit uns teilen möchtest?

Generell ist es wirklich wichtig, in die Zukunft zu denken und sich Gedanken über die Art der Arbeit zu machen, die vor allem junge Menschen ausüben werden. Man muss sehr dynamisch sein in der Art und Weise, wie man sich selbst wahrnimmt und wie man sich verändern kann, um sich an die kontinuierliche Entwicklung der Technologie anzupassen und darauf zu reagieren. Wir befinden uns noch in den Anfängen der KI und wie diese die Arbeit verändern wird. Und wenn man in diesen Bereich geht und sich vorstellt, bloß das eine zu sein, dann ist das eine ziemlich begrenzte Perspektive.

Scheitern wird nicht nur notwendig sein, sondern das ist die Art und Weise, wie wir lernen. Maschinelles Lernen funktioniert durch Verstärkungsmechanismen und Schleifen, die Erfolge belohnen, aber das erfordert Millionen und Abermillionen von Fehlschlägen, um zu diesen positiven Ergebnissen zu gelangen.

Was ich im Silicon Valley gelernt habe, ist, dass man umso bessere Ergebnisse erzielt, je mehr ‚Torschüsse‘ man hat. Man kann Tausende und Abertausende von Fehlschlägen haben, aber die wenigen Erfolge, die man hat, werden so viel stärker sein und aus einem Ort des Wissens kommen. Man wird in der Lage sein zu erklären, was es war, das nicht funktioniert hat, was ein notwendiger Teil des Lernprozesses und des Lernmotors ist. Das ist die Koevolution von Technologie, Kultur und Gesellschaft, und wir alle sind jetzt Teil davon. Das ist einfach nicht zu leugnen, also liegt es an jedem, seinen Beitrag zu gestalten.

Deine ungelesenen Artikel:
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
Rechtsanwalt Manuel Mofidian © Armin Hubner

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.


Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.


Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Messina: „Der Hashtag war ein trojanisches Pferd, das sich in Unternehmen einschlich“