05.09.2018

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

Interview. Hanno Burmester, Gründer der Berliner Consulting-Firma Unlearn, hat das Konzept des Verlernens zur zentralen Strategie seiner Beratungstätigkeit gemacht. Im Gespräch erklärt er, warum es in der digitalen Transformation notwendig ist.
/artikel/unlearn-hanno-burmester
Unlearn: Hanno Burmester über das Verlernen als Basis für digitale Transformation
(c) Unlearn: Hanno Burmester

Immer mehr neue Inhalte im Kopf gleichsam „aufeinander zu stapeln“, hilft noch nicht, mehr zu lernen. Wirklich wirksames Lernen erfordere die bewusste Wahrnehmung der Denkmuster, von denen man gesteuert wird und in Folge das aktive Verlernen eben dieser Gewohnheiten. Das ist die Ausgangsthese von Hanno Burmester, Gründer Unlearn Consulting & Development Gmbh. Eigenverantwortung, Selbststeuerung und vor allem die Behandlung der Frage, wie persönliche Werte und Organisationswerte zusammenhängen und welche Verhaltensweisen sich daraus für den Alltag ergeben, seien die wichtigsten Werkzeuge für die Transformation von Unternehmen. Wir haben Burmester im Interview dazu genauer befragt.

Dieses Interview wurde von Julia Weinzettl geführt und erstmals auf dem Blog der Plattform Taskfarm veröffentlicht.

+++ Fokus: Corporate Innovation +++


Der Unlearn-Gründer spricht am 11.Okt. 2018 am Austrian Innovation Forum in Wien. Dort steht dieses Jahr der „Umbruch“ und seine Auswirkungen auf Innovationsstrategien und deren menschliche Komponente im Zentrum.

Video-Interview mit Initiator Helmut Blocher beim Austrian Innovation Forum 2017

Live vom Austrian Innovation Forum, mit dem Gründer und GF Helmut Blocher, Walter Kreisel CEO von Kreisel Systems, Martin Johann Fröhlich, Startup-Manager der Deutsche Bahn Konzern und Christina Rami-Mark, GF des österreichischen Weltmarktführers MARK Metallwarenfabrik.

Gepostet von DerBrutkasten am Donnerstag, 12. Oktober 2017


‘Um Zukunft zu werden, müssen wir verlernen’ – was bedeutet das?

Ich glaube, dass wir kulturell, individuell und auch als Unternehmen, Lernen immer verstehen als „Ich hole mir etwas Neues, lege es auf etwas Bestehendes drauf und dann kann ich es besser als vorher“. Aber wirklich wirksames Lernen erfordert ein paar Schritte mehr. Bevor man lernt, sollte man eine Bestandsaufnahme machen und überlegen von welchen Mustern, Glaubenssätzen und Gewohnheiten man gesteuert wird und was davon hinderlich ist, um Neues zu lernen und eine Änderung hervorzurufen.

Denn permanentes Aufladen von Neuem auf Bestehendes verändert noch nicht die Perspektive. Eingelernte Denk- oder Verhaltensmuster bremsen neue Erkenntnisse. Daher ist das Verlernen vor dem Neulernen elementar wichtig. Sich diesen Schritt bewusst zu machen, ist die Basis für jede Art der Transformation, sowohl für die individuelle als auch für die Transformation von Organisationen und Gesellschaften.

Eines eurer Schlagwörter bei Unlearn ist „agile Organisationsentwicklung“. Ist das die Weiterführung von agilem Projektmanagement?

„Agile Organisationsentwicklung“ ist eine Begriffsneuschöpfung. Wir glauben, dass man aus dem agilen Mindset, der Art und Weise wie man agile Prozesse steuert, sehr viel über Organisationsentwicklung lernen kann. In großen Organisationen wird häufig von einzelnen Menschen oder kleinen Gruppen ein Plan gemacht. In der Umsetzung fragt sich oft die Hälfte der Ausführenden nach der Sinnhaftigkeit dieser Maßnahme, da viele Aspekte nicht berücksichtigt wurden. Das passiert sogar sehr guten Systemikern. Bei der Projektsteuerung gerade in komplexen Veränderungsprozessen und durchwegs immer, wenn es um menschliche Veränderung geht, ergibt sich ein hohes Maß an Komplexität. Da reicht schon eine sehr kleine Gruppe von Personen.

Im agilen Ansatz sind Selbstorganisation und Selbststeuerung fundamentale Bestandteile. Kollaboration ist essenziell, um die Inhalte zu verbessern und die Akzeptanz zu erhöhen.Wir setzen bei Unlearn daher im Prozessdesign stark auf eine enge, kreative Kollaboration mit unseren Kunden, die diesen Prozess von Anfang an mitdesignen. Für den Erfolg ist die Einbindung aller Funktions- und Hierarchieebenen wichtig, denn die Perspektivenvielfalt, die bereits während des Prozesses entsteht, ist schon ein Lernenprozess.

Die Kulturprägung und Veränderung beginnt bereits an dieser Stelle. Auch wird das Ergebnis durch die Einbindung von multihierarchischen Teilnehmern besser, als wenn nur die Führungsetage etwas ausbrütet. Wir haben damit nicht nur gute Erfahrung im Outcome gemacht, sondern auch den Spaßfaktor in der Konzeption erhöht und somit die oft träge Umsetzung und Akzeptanz der Ideen erleichtert, weil sie aus einem sinnvollen Mix an handelnden Personen besteht.

Mit welchem Auftrag kommen Unternehmen zu Euch? Ist Kulturentwicklung etwas, das ihr aktiv anbietet? Oft versteckt sich das Kulturthema hinter einem Umzug oder der Umgestaltung der Büros und geht dann Hand in Hand mit Kulturentwicklung.

Ich teile diesen Eindruck, und ich würde fast sagen, der Kulturbegriff, ist an vielen Stellen eher hinderlich als förderlich. Weil Kultur ist ja alles und nichts.

Unternehmen kommen immer mit einem Labelthema, unter dem sich dann Kultur versteckt. Wir haben beispielsweise ein Projekt mit einem Automobilhersteller umgesetzt, der einen Umzug von unterschiedlichen Standorten des Unternehmens in einen Campus plante. Die Abteilungen hatten unterschiedliche Arten miteinander zu kommunizieren, ganz unterschiedliche Rituale, Gewohnheiten und Codices.
Wir arbeiteten in diesem Kontext an der Überwindung der Gegensätze um eine gemeinsame Kommunikation, ein Miteinander und eine gute Zusammenarbeit zu ermöglichen.

„Wir haben ganz unterschiedliche Spielfelder, der roten Faden bei allen ist Transformation.“

Ein weiteres Beispiel ist ein mittelständisches Produktionsunternehmen in Baden-Württemberg, das seine Zeiteinteilung nach einem sehr rigiden Arbeitszeitmodell ausrichtete. Die Arbeit begann für alle Mitarbeiter um 7:30 und endete ebenfalls für alle um 17:30. Wenn es eine Pause gab, läutete ein Gong und dann standen alle auf. Dieses Modell wollte man auf Vertrauensarbeitszeit umstellen. Hinter dieser Umstellung verbargen sich aber die Themen: „Wie können wir einander vertrauen?“ und „Woran merken wir, dass wir das können?“. Die Frage wofür Führung zuständig wäre, wurde aufgeworfen. Bisher waren Führungsaufgaben hauptsächlich Kontrolle und Personen, die die Uhr checkten. Plötzlich ging es um ganz andere Inhalte, wie die Definition von Selbststeuerung und Eigenverantwortung. Diese Aufgabenstellungen sind starke Kulturthemen, denen mentale Modelle und stille Grundannahmen, die nicht explizit verhandelt werden, zugrunde liegen.

Als letztes Beispiel betreuen wir eine Landespartei, die zwar mit dem Status quo zufrieden ist, sich aber im Hinblick auf die Zukunft organisatorisch und kulturell weiter entwickeln möchte. Wir arbeiten hier mit einem kleinen Team in der Führung, das aber eine Freiwilligen-Organisation mit 40.000 Leuten leitet. Aufgrund dieser Situation haben wir eine andere Projekt Logik als beispielsweise in einem Konzern. Die Anzahl der Menschen ist allerdings ähnlich, sowie die unterschiedlichen Ebenen auf denen gearbeitet wird. Prozesse und Strukturen müssen genauso überlegt werden, bis hin zur Frage wie tatsächlich kommuniziert wird und mit welcher Haltung man einander begegnet. Das sind komplexe Projekte, deren Umsetzung über mehrere Jahre gehen. Wir haben ganz unterschiedliche Spielfelder, der roten Faden bei allen ist Transformation.

Viele Personen sind nicht veränderungsbereit, weil sie Angst haben, durch die Änderungen Nachteile zu erfahren, zum Beispiel ihre Position oder ihren Status zu verlieren oder auch gekündigt zu werden. Welchen Ansatz verfolgt ihr in dieser Situation?

Wir starten mit einer offenen Haltung und der Einladung zum Mitmachen. Es ist aber wichtig klarzustellen, dass für die Partizipation ein gewisser Rahmen vorgegeben ist. Gerade wenn es um Veränderungsaufgaben und neues Arbeiten geht, ist es wesentlich, dass vorher von den Verantwortlichen strategisch einige Parameter gesetzt werden, die erstmal nicht verhandelbar sind. Dadurch stecken wir ein Spielfeld ab. Die Gestaltung des Spielfelds ist partizipativ. Dieses Setup hilft, um dem Prozess eine Orientierung zu geben. Aufgrund der Transparenz können sich die Menschen überlegen, ob sie mitgehen wollen und wenn nicht, was die Alternative wäre.

Hier gibt es unterschiedliche Reaktionen, in denen oft interessante Informationen stecken. Manche überlegen sich, wie sie sich verändern möchten, andere gehen in den Widerstand, dritte blockieren und verlassen das Unternehmen. Alles sind valide Verhaltensweisen. Wir analysieren welche Auslöser im Widerstand stecken und ob es Möglichkeiten gibt, den Prozess zu verbessern.

Zum zweiten haben wir bei Unlearn die Grundhaltung, extrem transparent und ehrlich zu kommunizieren. Wenn wir jemanden einladen mitzumachen, dann ist das immer genau so gemeint. Wir machen keine Pseudo-Partizipation. Hier haben Menschen oft andere Erfahrungen gemacht und misstrauen uns anfänglich. Wenn die Mitarbeiter im Verlauf des Prozesses aber gemerkt haben, dass wir es wirklich ernst meinen, beginnen oft erstaunliche Erfahrungen. Bei Menschen von denen wir zu Beginn unsicher waren, ob sie den Weg mitgehen, erlebten wir teilweise unglaubliche Veränderungsgeschichten mit extremen Konsequenzen, auch für das Leben der Einzelnen. Denn wenn der Arbeitsbereich verändert wird, hat das Auswirkungen auf den Rest des Lebens. Hier gibt es Beispiele, wo ich wirklich den Hut ziehe, denn es ist nicht selbstverständlich, dass Menschen so eine hohe Veränderungsbereitschaft haben.

Du sprichst auch davon, dass Spiritualität für Unternehmen eine immer grössere Rolle spielt.

Das ist natürlich ein Grenzthema. Ich verstehe Spiritualität nicht im Sinne von Esoterik, sondern mir geht es um Fragen, wie „Warum sind wir hier?“, „Welchen Beitrag wollen wir leisten?“, „Was ist unsere Funktion im Gesamtsystem?“. Das sind spirituelle Fragen, weil sie nicht final beantwortbar sind und es nicht die eine Wahrheit gibt, sondern immer unterschiedliche Wahrheiten als Antwort.

„Als einziges Ziel zu haben, dass die Profit-Marge gleich bleibt und der Marktanteil nicht sinkt, funktioniert auch wirtschaftlich immer schlechter in der heutigen Welt.“

Ich glaube, dass diese Fragen gerade für Unternehmen, die sich in einer starken Umorientierung befinden, ganz wichtig sind. Die Umorientierung fußt oft darin, dass man merkt, dass an vielen Stellen falschen Zielen hinterher gelaufen wird und die Zukunftsperspektive nicht mehr gegeben ist. Als einziges Ziel zu haben, dass die Profit-Marge gleich bleibt und der Marktanteil nicht sinkt, funktioniert auch wirtschaftlich immer schlechter in der heutigen Welt. Viele vergessen, was eigentlich der größere Sinnzusammenhang ist, in dem sie bestehen.

Wir haben die Erfahrung gemacht, dass die Menschen wie ausgetrocknet sind, wenn man fragt, wie persönliche Werte und Organisationswerte zusammenhängen und welche Verhaltensweisen sich daraus für den Alltag ergeben. Wenn wir beginnen über Sinnstiftung, den größeren Sinnzusammenhang, den persönlichen und Unternehmensbeitrag sprechen, dann geschehen die erstaunlichsten Dinge.

Diese Themen sind über die letzten Jahre verkümmert und werden jetzt dankbar aufgenommen. Die Beschäftigung mit der persönlichen, beruflichen Einordnung um eine Antwort auf die Frage zu finden, was unser sinnhafter Beitrag im großen Ganzen ist, ist sehr bedeutsam.
Daraus ergibt sich eine extreme Strategiefähigkeit, denn wenn es eine übergeordnete Idee gibt, dann kann der/die Einzelne in die Selbststeuerung gehen und eine Richtung einschlagen in der er/sie konsistent ist, selbst wenn es Widerstände gibt. Diese Durchdringung zu erreichen, ist deutlich schwerer, wenn man oberflächliche Ziele hat, auf denen es einen auf dem Weg nach vorne schnell aus der Kurve werfen kann.

Selbststeuerung ist bei Unlearn ein wichtiges Element.

Stimmt. Selbststeuerung ist deshalb wichtig, weil wir zum Einen immer mehr mit Führungs- und Organisationsmodellen zu tun haben, bei denen nicht mehr die Präsenz, sondern das Ergebnis zählt und zweitens, weil niemand mehr sagen kann, was richtig und was falsch ist. Es gibt keine Führung mehr die en detail vorschreiben kann, was zu tun ist, das funktioniert gerade in businessgesteuerten Unternehmen einfach nicht mehr. Daher ist es besonders wichtig zu wissen, was der eigene Kern und die eigene Ausrichtung ist.

Die Klärung dieser Fragen ermöglicht es dem Einzelnen auch dann zu agieren, wenn nicht ganz genau vorgegeben wird, wo es gerade hingehen soll. Was soll denn sonst helfen? Policies und Compliance Regeln sind es in der Regel nicht. Übergeordnete Fragen und Diskussionen eröffnen eine Dimension, die vielen erst mal schwammig erscheint, tatsächlich ermöglicht es den Menschen aber, sich individuell und kollektiv selbst zu steuern.

Wenn du aus deiner Perspektive 10 Jahre in die Zukunft schaust, welche Organisationsformen wird es geben?

Ich bin der festen Überzeugung, dass wir uns gerade in einem historischen Prozess befinden. Das hegemoniale Organisationsmodell ist am Sterben, auch wenn es gerade noch die große Mehrheit darstellt. Ein anderes Organisationsmodell ist im Kommen, gewisse Kerneigenschaften dieses neuen Modells sind bereits zu erkennen.

Das erste Merkmal ist Dezentralität. Ich glaube, es werden Organisationen entstehen, die kleiner als die heute Maßgeblichen sind. Ich denke, dass wir es in Konzernen in höherem Maß mit Zerschlagung zu tun bekommen werden, einfach weil mit einer kleineren Größe die Steuerbarkeit und die Wendigkeit wächst.

Das Zweite ist, dass sich eine gewachsene Form von Selbstorganisation ausbildet, einer weiteren Form von Selbststeuerung. Es wird zwar weiter hierarchische Führungen geben, aber die Funktion ändert sich. Hier steht die rechtliche Verantwortung und das Sicherstellen von funktionierenden Schnittstellen im Vordergrund, die Entscheidungsgewalt ist nicht mehr an erster Stelle.

Weiters denke ich, dass es zu einer größere Sinnorientierung in Unternehmen kommen wird, dass sich dadurch der politische Kontext ändert und wir eine viel rigidere Politik bekommen werden, die auch wirtschaftlich einiges ändern wird. In unserem derzeitigen Modell ist beispielsweise Kostenexternalisierung selbstverständlich, das wird in zehn Jahren noch legal sein, ob das aber in 20 oder 30 Jahren noch so ist, bezweifle ich. Wir stehen gerade am Anfang des Paradigmenwechsels. Diejenigen, die Veränderung nicht wollen, fangen an das argumentieren zu müssen. Personen mit guten Ideen haben das Recht sie auszuprobieren. Diese Haltung wird sich noch verstärken, dadurch werden wir eine bessere Anpassungsfähigkeit an die Umwelt bekommen und das brauchen wir ganz dringend.

⇒ Zur Page des Unternehmens


Zur Gastautorin

Julia Weinzettl startete ihre Karriere nach dem Wirtschaft-, Politik- und Kommunikationswissenschaften-Studium als Marketingmanagerin der damaligen Startups sms.at, uboot.com und handy.at. Nach Tätigkeiten als Mobile Business Development Manager bei bwin (damals auch noch im Startup-Stadium) und als Data Protection Counselor bei der Personensuchmaschine www.123people.com wurde Weinzettl selbst zur Gründerin. Gemeinsam mit ihrem Mann Mike Weinzettl startete sie 2011 www.taskfarm.com als Marktplatz zur Projektvermittlung. Später folgte der Pivot zu einem Fokus auf Softwareentwicklung und Consulting. Mit dem Taskfarm-Blog legt die Gründerin eine große Interview-Serie zum Thema „Future of Work“ vor.

Deine ungelesenen Artikel:
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
Rechtsanwalt Manuel Mofidian © Armin Hubner

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.


Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.


Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Unlearn: Vom „Verlernen“ als Grundlage für die digitale Transformation