20.04.2021

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

Die EU steckt den Rahmen ab, in dem künstliche Intelligenz entwickelt und eingesetzt werden darf. Der Entwurf muss aber noch in Begutachtung.
/artikel/ai-regeln-eu-2021-entwurf
AI, Face, Tinder, Neuro-Tinder, Generiert,
(c) Stock.Adobe/Chepko Danil

Für diese Woche wird der offizielle Entwurf für Regeln für künstliche Intelligenz in der EU erwartet. Darin geht es nicht nur um AI-Anwendungen, die in ferner Zukunft liegen, sondern auch um ganz gegenwärtige Herausforderungen. Ein heißes Eisen ist etwa die Personalisierung im Internet, etwa wenn Internetdienste wie Netflix detaillierte Profile ihrer Nutzer erstellen. „Personalisierung ohne Überwachung geht nicht“, erklärt Clemens Wasner von dem Verband AI Austria, dessen Forderungen teilweise in den Vorentwurf eingeflossen sind.

Derzeit sei dieser Punkt im „geleakten“ Entwurf der EU sehr streng formuliert. Targeted Ads, die auf solchen Profilen basieren, könnten demnach verboten werden. Allerdings geht dieser Entwurf, sobald er vorliegt, erst einmal in eine lange Begutachtungsphase. In der könne sich noch viel ändern, meint Wasner. Er geht davon aus, dass gerade die Personalisierungs-Frage da noch sehr offen ist.

(Erkennbare) Deepfakes erlaubt

Im Vorfeld ist auch das Thema Deepfakes bereits viel diskutiert worden. Dem widmet sich Vorentwurf der EU gleich in mehreren Punkten. Es geht dabei um die Möglichkeit, mit künstlicher Intelligenz täuschend echte Fake-Videos, Ton-Aufnahmen oder Bilder von konkreten Personen zu generieren. Für Wirbel hatte gesorgt, dass die EU diese Deepfakes erlauben will. Allerdings gebe es hier bereits sehr gute Erkennungsprodukte, die eingesetzt werden müssen, erklärt Wasner, etwa über Watermarks in solchen Videos. Der Entwurf stellt eindeutig klar, dass der Einsatz von Deepfake transparent gemacht werden muss.

Positiv sieht der AI-Experte, dass eine Regulierung von Artificial Intelligence gemäß der Pläne der EU nur dann vorgesehen ist, wenn es nicht schon in anderen Bereichen entsprechende Regeln gebe. Ein Beispiel: Ist autonomes Fahren bereits in einer eigenen Richtlinie geregelt, wird die AI-Strategie an diesen Regeln nichts ändern.

Regulatory Sandboxes für AI

Ein wichtiger Punkt und auch eine zentrale Forderung von AI Austria ist in dem Entwurf enthalten, der vor allem für die Entwicklung von künstlicher Intelligenz wichtig ist. Für die Entwicklung neuer Produkte könnte es künftig „Regulatory Sandboxes“ geben. Das ist eine Methode, die aus dem Finanzbereich bekannt ist: Vor der offiziellen Zulassung dürfen Forscher und Unternehmen unter bestimmten Bedingungen und unter dem wachsamen Auge der Regulatoren, bereits mit (annähernd) realen Daten experimentieren. Knackpunkt ist hier laut Wasner die Datensynthetisierung – Daten werden also nicht anonymisiert, sondern von Beginn an komplett anonym künstlich nachgebaut. Das ist für die sichere Entwicklung unter dem strengen Datenschutz der EU wichtig, denn ohne Massen an Daten kann künstliche Intelligenz nicht trainiert werden.

EU bei Künstlicher Intelligenz weit hinter USA und China

Wasner geht davon aus, dass der Entwurf mindestens ein Jahr lang in Begutachtung sein wird. Der Rahmen, in dem Europa künstliche Intelligenz entwickeln will, wird von Experten dringend erwartet. Denn die EU ist in diesem wichtigen Zukunftsfeld bisher eher im Hintertreffen. Eine aktuelle Studie des US-Thinktanks ITIF hat sich die Entwicklung von AI anhand von 30 Indikatoren in unterschiedlichen Regionen angesehen und sieht die EU erst hinter den USA und China auf einem abgeschlagenen dritten Platz. Die EU habe vor allem bei Risikokapital Nachholbedarf, schnitt aber bei der Veröffentlichung von Forschungsergebnissen gut ab.

Deine ungelesenen Artikel:
vor 14 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
vor 14 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
USB-Stick Erfinder Dov Moran im Interview. (c) LinkedIn/Dov Moran

Mit der Gründung von M-Systems und der Erfindung des USB-Flash-Laufwerks sowie revolutionärer Speicherlösungen schrieb der israelische Halbleiter-Pionier Dov Moran Technologiegeschichte, bevor er sein Unternehmen für rund 1,6 Milliarden US-Dollar an SanDisk verkaufte. Heute lenkt er als Managing Partner beim Deep-Tech-Fonds Grove Ventures als einer der angesehensten Tech-Investoren Israels die Zukunft von KI, Halbleitern, Cloud-Infrastruktur und digitaler Gesundheit.

Der Tech-Pionier und Investor erklärt im Interview, dass im aktuellen KI-Boom vor allem die physische Infrastruktur entscheidend ist und sich Europa statt auf Defense-Tech auf Nischen wie Quantentechnologie konzentrieren sollte. Darüber hinaus empfiehlt er staatliche Unternehmensbeteiligungen nach taiwanesischem Vorbild sowie eine Kultur, die echten Gründergeist und Mut zum Risiko fördert.

brutkasten: Sie haben geholfen, mit dem USB-Flash-Laufwerk eine der am weitesten verbreiteten Technologien der Welt zu erfinden. Wenn Sie zurückblicken: Was unterscheidet bahnbrechende Innovationen von Technologien, die niemals skalieren?

Dov Moran: Zunächst einmal ist der USB-Stick heute ein totes Produkt. Nur noch sehr wenige Menschen benutzen ihn, aber genau das ist das Wesen von Technologie: Man baut etwas auf, und das dient dann als Fundament für etwas Fortschrittlicheres. Ich bin sehr stolz darauf, dass ich einen kleinen Teil zu dieser Infrastruktur beitragen konnte.

Bei M-Systems haben wir damals allerdings noch andere Dinge erfunden, die ich für fast noch wichtiger halte, auch wenn sie für Endkunden weniger sichtbar waren. Damals gab es zwei Arten von Flash-Speicher: NAND-Flash für reine Daten und NOR-Flash – dominiert von Intel und AMD –, um den Code für das Betriebssystem zu speichern. Das gesamte Marktkonzept sah vor, dass jedes System beide Komponenten benötigt. Wir haben damals eine technologische Lösung gefunden, um den NOR-Flash komplett zu eliminieren und den Code direkt in den NAND-Flash zu integrieren. Unser Weg, dieses Problem zu lösen, hat das NOR-Flash-Geschäft für Intel und AMD grundlegend verändert, aber gleichzeitig in jedem einzelnen Telefon auf der Welt den Platzbedarf reduziert und etwa drei Dollar pro Gerät gespart. Bei rund einer Milliarde produzierten Telefonen pro Jahr haben wir der Welt somit jährlich drei Milliarden Dollar eingespart.

Welche Technologie erinnert Sie heute am meisten an die Anfangstage des Flash-Speichers?

Ich denke, wir sehen derzeit eine grundlegende Wende auf dem Markt – weg von einer rein softwaregetriebenen Welt hin zu einer Welt der Infrastruktur. Marc Andreessen sagte einmal: „Software eats the world.“ Heute geht es jedoch vor allem darum, die richtige Hardware- und Infrastrukturbasis zu schaffen: Wir brauchen die richtigen CPUs, wir müssen das enorme Problem des Energieverbrauchs und der Kühlung lösen und wir müssen Rechenzentren bauen, die deutlich effizienter und effektiver sind.

Was heute an Infrastruktur existiert, kann die weltweite Nachfrage schlichtweg nicht bedienen, wenn bald jeder Mensch KI nutzt, forscht und eigene Agenten baut. Wenn auch nur zehn Prozent der Bevölkerung anfangen, intensiv KI-Agenten zu bauen und zu nutzen, würden unsere heutigen Systeme zusammenbrechen. Die Infrastruktur für Künstliche Intelligenz steht genau vor solchen fundamentalen technologischen Skalierungsaufgaben.

Alle sprechen über KI. Wo sehen Sie die größten Chancen jenseits der aktuellen KI-Welle beziehungsweise wo sollte sich Europa positionieren?

KI ist eine gewaltige Revolution, die das Leben aller Menschen beeinflussen wird – vom Reinigungspersonal bis hin zum Leiter einer Onkologie-Abteilung, dessen Diagnostik und Behandlungsweisen sich grundlegend verändern werden. Eine so große Transformation bringt natürlich für jeden enorme Chancen mit sich – für Einzelpersonen, Krankenhäuser, das Bildungswesen und für ganze Staaten.

Wenn ein Land wie Österreich entscheidet, in diesen Markt zu investieren, sollte der Fokus auf der Infrastrukturebene oder auf sehr gezielten Nischen liegen, nicht auf reinen Anwendungen. Ich glaube zum Beispiel nicht, dass Österreich versuchen sollte, im Bereich Defense Tech zu konkurrieren. Dieser Markt erfordert gewaltige Kapazitäten, riesige Budgets und spezifisches Know-how, wie es in den USA oder aufgrund ständiger Konflikte in Israel und der Ukraine existiert.

Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann. Das könnte zum Beispiel die Quantentechnologie sein, die Kombination aus Gesundheitswesen und KI oder hochentwickelte Sensorik für eine bessere medizinische Überwachung von zu Hause aus.

Israel bringt trotz seines relativ kleinen Marktes kontinuierlich globale Technologie-Champions hervor. Was erklärt diesen Erfolg und wie wird Unternehmertum dort gefördert?

Es gibt einen großen Unterschied zwischen Erfindern, Unternehmern und operativen Managern. Viele Erfinder kommen von Universitäten, aber selbst die beste Erfindung oder das beste Patent scheitert, wenn man nicht weiß, wie man ein Unternehmen führt und skaliert. Ich bin der festen Überzeugung, dass Unternehmertum und Innovation viel früher im Bildungssystem verankert werden müssen – spätestens an den weiterführenden Schulen.

Das Bildungssystem muss weg vom reinen Frontalunterricht und Auswendiglernen, hin zu echter Interaktion, Teamwork und praktischer Projektarbeit. Ich bin selbst Verwaltungsratsmitglied einer 150 Jahre alten jüdischen Schulkette namens ORT. Um den Schülern dieses Denken nahezubringen, habe ich ein Buch über Unternehmer geschrieben, das nach jedem Kapitel Diskussionsfragen aufwirft. Ich beginne darin mit Abraham als dem „ersten jüdischen Unternehmer“, der den Monotheismus erfunden hat.

Im Talmud gibt es die Geschichte, dass Abraham die Götzenstatuen im Laden seines Vaters zerstörte, weil er die Logik dahinter hinterfragte, und danach seine Heimat verließ, um ins Ungewisse nach Israel zu ziehen. Genau das passiert vielen Gründerinnen und Gründern: Sie haben eine Vision, jeder sagt ihnen, dass es unmöglich ist, und sie müssen bereit sein, ihre gewohnte Umgebung zu verlassen, um ihr Ziel zu erreichen. Schüler müssen lernen, solche kritischen Fragen zu diskutieren: Was bedeutet es, ins Ungewisse zu gehen? Ist Unternehmertum immer gut oder birgt es auch Risiken? Diese mentale Vorbereitung ist die Basis für eine Innovationskultur.

Was kann Europa und speziell ein Land wie Österreich von der israelischen Innovationskultur und anderen globalen Vorreitern lernen?

Zunächst einmal können auch wir viel von Europa lernen – zum Beispiel, wie man ein Land so lebenswert und friedlich gestaltet. Was die Förderung von Technologie betrifft, lohnt sich für Europa jedoch ein Blick nach Taiwan, speziell auf das ITRI-Institut (Industrial Technology Research Institute).

Der Staat dort verteilt nicht einfach nur passiv Fördergelder an Unternehmen, was oft nicht der klügste Weg ist. Stattdessen definieren kluge Köpfe alle paar Jahre strategische Zukunftsmärkte. So wurde vor Jahrzehnten entschieden, dass der Bau von Halbleiterwerken entscheidend sein wird, woraufhin man gezielt den Gründer von TSMC aus den USA zurückholte. Heute hängt die gesamte Weltwirtschaft von TSMC ab, was für Taiwan zugleich ein enorm starkes sicherheitspolitisches Instrument ist.

Ein weiterer entscheidender Punkt ist, wie Staaten investieren: Wenn staatliche Innovationsbehörden Unternehmen mit Kapital unterstützen, sollten sie dafür im Gegenzug auch Unternehmensanteile (Equity) erhalten, anstatt nur verlorene Zuschüsse zu verteilen. Der Staat sollte sich als stiller Gesellschafter beteiligen, sich nicht in das operative Tagesgeschäft einmischen, aber bei einem erfolgreichen Exit sein Geld inklusive Rendite zurückerhalten. So kann ein Staat mit Innovation tatsächlich Geld verdienen, das wieder in das Ökosystem zurückfließen kann.

Welchen Rat würden Sie Gründern geben, die heute in Europa Deep-Tech-Unternehmen aufbauen?

Schauen Sie sich genau an, wer in der aktuellen Marktphase wirklich Geld verdient. Im KI-Bereich verlieren viele Software- und Anwendungsunternehmen derzeit Milliarden, während diejenigen, die die Infrastruktur und Hardware bereitstellen – wie Nvidia oder TSMC als deren Auftragsfertiger –, enorm erfolgreich sind.

Wir erleben eine Wende: Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen. Die wahren Deep-Tech-Chancen liegen heute in der Lösung fundamentaler physischer und technischer Probleme – sei es bei der Energieeffizienz, der Kühlung von Rechenzentren, fortschrittlichen Halbleitern oder auch in der Weltraumtechnologie (Space Tech). Wenn Sie ein Unternehmen aufbauen, fokussieren Sie sich auf diese harten Infrastruktur- und Technologieprobleme, die die Welt zwingend lösen muss.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz