21.04.2023

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

Der technologische Fortschritt im KI-Bereich passiert schnell, zu schnell. Der entsprechende EU-Ausschuss zum AI Act wurde nun um zwei Monate verschoben.
/artikel/ai-act-wieso-die-eu-bei-kuenstlicher-intelligenz-auf-die-bremse-steigt
Staatssekretär Florian Tursky, AI-Expertin Jeannette Gorzala und Europarechtler Florian Prischl (C) brutkasten/ Stadler Völkel
Staatssekretär Florian Tursky, AI-Expertin Jeannette Gorzala und Europarechtler Florian Prischl (C) brutkasten/ Stadler Völkel

Die legislativen Mühlen der EU mahlen langsam. Zu langsam, wenn es nach führenden österreichischen KI-Experten und Digitalisierung-Staatssekretär Florian Tursky geht. Die Abstimmung zum AI Act verzögert sich.

KI zu schnell für die EU

Seit knapp zwei Jahren beschäftigt sich die EU mit einer Regulierung von Künstlicher Intelligenz. Richtig Schwung kam in den Diskurs nur selten. Das Aufkommen von Generativer KI wie ChatGPT führte dazu, dass der Prozess bereits während der Debatte von der Technologie überholt wurde. Die Verabschiedung des finalen Gesetzesentwurf liegt auf Eis.

Derzeit herrscht innerhalb der EU jedoch Unklarheit über die konkrete Ausrichtung der Staatengemeinschaft zum Thema. „Es gibt zwei Lager – eines, das eher für mehr Regulierung steht, und eines das die Innovation vorantreiben will“, sagt die Juristin Jeannette Gorzala, die auch im Vorstand von AI Austria sitzt, gegenüber dem brutkasten. Am 26. April entscheidet sich nun, ob sich die EU zu einer gemeinsamen Position durchringen kann. Erst dann würden tiefgreifende Diskussionen starten, die letztlich zentrale Fragen klären.

Geplant ist ein umfassendes Gesetz, das Produkte und Dienstleistungen auf KI-Basis abdecken würde. Neben KI-Anwendungen, die Inhalte, Vorhersagen und Empfehlungen liefern oder die Entscheidungsfindung der Nutzer:innen beeinflussen, soll das Gesetz auch die nicht-kommerziellen Inhalte regeln. Die Nutzung von KI im öffentlichen Sektor, wie zum Beispiel bei der Strafverfolgung, steht dabei im Fokus.

AI-Act-Prozess lässt noch Fragen unbeantwortet

Viele Fragen bleiben jedoch vorerst ungeklärt. Fragen, die KI in der Zukunft wohl aufwerfen wird. Wie regelt man autonom fahrende Autos? Wie geht man mit KI im HR-Bereich um und was ist, wenn KI die Bewertung von Kreditwürdigkeit übernimmt?

Die EU will Standards für die Zukunft setzen, hängt aber derzeit an der Reaktion auf vergangene Phänomene fest. „Wir wissen derzeit nicht, ob das was wir heute unter KI verstehen, auch noch in sechs Monaten unserer Definition entsprechen wird“, erklärt Gorzala das Problem. Derzeit dürfte unter anderem noch ungeklärt sein, wie die Staatengemeinschaft mit ChatGPT umgehen will.

So gebe es derzeit laut Florian Prischl, Anwalt bei Stadler Völkel und spezialisiert auf Europa- und IT-Recht, Unklarheiten darüber, ob der ChatBot als geringes Risiko angesehen werden soll oder ob er stärker reguliert werden muss. In diesem Spannungsverhältnis bewegt sich derzeit der Diskurs.

Tursky fordert Tempo

Für den österreichischen Digitalisierungsstaatsekretär Florian Tursky drängt jedoch bereits die Zeit. „Die erst kürzlich erfolgte Ankündigung Chinas, KI auf Basis ideologischer Maßstäbe zu regulieren ist demokratiepolitisch gefährlich. KI darf keiner staatlich vorgegebenen Ideologie folgen. Umso unverständlicher ist es für mich, warum das Europäische Parlament wichtige Termine zum AI Act verschiebt“, so Tursky.

Auch Gorzala wünscht sich einen baldigen Abschluss: „Vor allem die Industrie braucht Planungs- und Rechtssicherheit im KI-Bereich, allein schon wegen Haftungsfragen“. Prischl sieht die Situation anders. Laut ihm würde der bereits bestehende Rechtsrahmen viel abdecken, das im AI Act zum Thema werden würde.

„Betrug ist Betrug – egal ob ich dafür ein Handy, einen Computer, ein Blatt Papier oder eine KI verwende“, sagt Prischl. Auch bei der Frage, ob KI die Überprüfung von der Kreditwürdigkeit übernehmen kann, würde die Gesellschaft nicht nachhaltig verändern. Immerhin würden bereits jetzt Bankangestellte auf Basis von definierten Kriterien über Kredite entscheiden, wenn das in Zukunft die KI auf Basis der gleichen Kriterien übernehmen würde, wäre das laut Prischl keine Revolution, die ein neues Rechtsverständnis erfordert. So sieht der Jurist, anders als Tursky und Gorzala, die Zeit weniger drängend.

Am 26. April entscheidet die EU über das weitere Vorgehen des AI Acts – Ergebnis vollkommen offen. Gorzala geht davon aus, dass die Rechtsgrundlage noch dieses Jahr oder spätestens Anfang nächsten Jahres beschlossen wird. Tursky hofft darauf, Prischl bleibt zurückhaltend.

Deine ungelesenen Artikel:
vor 10 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
vor 10 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
USB-Stick Erfinder Dov Moran im Interview. (c) LinkedIn/Dov Moran

Mit der Gründung von M-Systems und der Erfindung des USB-Flash-Laufwerks sowie revolutionärer Speicherlösungen schrieb der israelische Halbleiter-Pionier Dov Moran Technologiegeschichte, bevor er sein Unternehmen für rund 1,6 Milliarden US-Dollar an SanDisk verkaufte. Heute lenkt er als Managing Partner beim Deep-Tech-Fonds Grove Ventures als einer der angesehensten Tech-Investoren Israels die Zukunft von KI, Halbleitern, Cloud-Infrastruktur und digitaler Gesundheit.

Der Tech-Pionier und Investor erklärt im Interview, dass im aktuellen KI-Boom vor allem die physische Infrastruktur entscheidend ist und sich Europa statt auf Defense-Tech auf Nischen wie Quantentechnologie konzentrieren sollte. Darüber hinaus empfiehlt er staatliche Unternehmensbeteiligungen nach taiwanesischem Vorbild sowie eine Kultur, die echten Gründergeist und Mut zum Risiko fördert.

brutkasten: Sie haben geholfen, mit dem USB-Flash-Laufwerk eine der am weitesten verbreiteten Technologien der Welt zu erfinden. Wenn Sie zurückblicken: Was unterscheidet bahnbrechende Innovationen von Technologien, die niemals skalieren?

Dov Moran: Zunächst einmal ist der USB-Stick heute ein totes Produkt. Nur noch sehr wenige Menschen benutzen ihn, aber genau das ist das Wesen von Technologie: Man baut etwas auf, und das dient dann als Fundament für etwas Fortschrittlicheres. Ich bin sehr stolz darauf, dass ich einen kleinen Teil zu dieser Infrastruktur beitragen konnte.

Bei M-Systems haben wir damals allerdings noch andere Dinge erfunden, die ich für fast noch wichtiger halte, auch wenn sie für Endkunden weniger sichtbar waren. Damals gab es zwei Arten von Flash-Speicher: NAND-Flash für reine Daten und NOR-Flash – dominiert von Intel und AMD –, um den Code für das Betriebssystem zu speichern. Das gesamte Marktkonzept sah vor, dass jedes System beide Komponenten benötigt. Wir haben damals eine technologische Lösung gefunden, um den NOR-Flash komplett zu eliminieren und den Code direkt in den NAND-Flash zu integrieren. Unser Weg, dieses Problem zu lösen, hat das NOR-Flash-Geschäft für Intel und AMD grundlegend verändert, aber gleichzeitig in jedem einzelnen Telefon auf der Welt den Platzbedarf reduziert und etwa drei Dollar pro Gerät gespart. Bei rund einer Milliarde produzierten Telefonen pro Jahr haben wir der Welt somit jährlich drei Milliarden Dollar eingespart.

Welche Technologie erinnert Sie heute am meisten an die Anfangstage des Flash-Speichers?

Ich denke, wir sehen derzeit eine grundlegende Wende auf dem Markt – weg von einer rein softwaregetriebenen Welt hin zu einer Welt der Infrastruktur. Marc Andreessen sagte einmal: „Software eats the world.“ Heute geht es jedoch vor allem darum, die richtige Hardware- und Infrastrukturbasis zu schaffen: Wir brauchen die richtigen CPUs, wir müssen das enorme Problem des Energieverbrauchs und der Kühlung lösen und wir müssen Rechenzentren bauen, die deutlich effizienter und effektiver sind.

Was heute an Infrastruktur existiert, kann die weltweite Nachfrage schlichtweg nicht bedienen, wenn bald jeder Mensch KI nutzt, forscht und eigene Agenten baut. Wenn auch nur zehn Prozent der Bevölkerung anfangen, intensiv KI-Agenten zu bauen und zu nutzen, würden unsere heutigen Systeme zusammenbrechen. Die Infrastruktur für Künstliche Intelligenz steht genau vor solchen fundamentalen technologischen Skalierungsaufgaben.

Alle sprechen über KI. Wo sehen Sie die größten Chancen jenseits der aktuellen KI-Welle beziehungsweise wo sollte sich Europa positionieren?

KI ist eine gewaltige Revolution, die das Leben aller Menschen beeinflussen wird – vom Reinigungspersonal bis hin zum Leiter einer Onkologie-Abteilung, dessen Diagnostik und Behandlungsweisen sich grundlegend verändern werden. Eine so große Transformation bringt natürlich für jeden enorme Chancen mit sich – für Einzelpersonen, Krankenhäuser, das Bildungswesen und für ganze Staaten.

Wenn ein Land wie Österreich entscheidet, in diesen Markt zu investieren, sollte der Fokus auf der Infrastrukturebene oder auf sehr gezielten Nischen liegen, nicht auf reinen Anwendungen. Ich glaube zum Beispiel nicht, dass Österreich versuchen sollte, im Bereich Defense Tech zu konkurrieren. Dieser Markt erfordert gewaltige Kapazitäten, riesige Budgets und spezifisches Know-how, wie es in den USA oder aufgrund ständiger Konflikte in Israel und der Ukraine existiert.

Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann. Das könnte zum Beispiel die Quantentechnologie sein, die Kombination aus Gesundheitswesen und KI oder hochentwickelte Sensorik für eine bessere medizinische Überwachung von zu Hause aus.

Israel bringt trotz seines relativ kleinen Marktes kontinuierlich globale Technologie-Champions hervor. Was erklärt diesen Erfolg und wie wird Unternehmertum dort gefördert?

Es gibt einen großen Unterschied zwischen Erfindern, Unternehmern und operativen Managern. Viele Erfinder kommen von Universitäten, aber selbst die beste Erfindung oder das beste Patent scheitert, wenn man nicht weiß, wie man ein Unternehmen führt und skaliert. Ich bin der festen Überzeugung, dass Unternehmertum und Innovation viel früher im Bildungssystem verankert werden müssen – spätestens an den weiterführenden Schulen.

Das Bildungssystem muss weg vom reinen Frontalunterricht und Auswendiglernen, hin zu echter Interaktion, Teamwork und praktischer Projektarbeit. Ich bin selbst Verwaltungsratsmitglied einer 150 Jahre alten jüdischen Schulkette namens ORT. Um den Schülern dieses Denken nahezubringen, habe ich ein Buch über Unternehmer geschrieben, das nach jedem Kapitel Diskussionsfragen aufwirft. Ich beginne darin mit Abraham als dem „ersten jüdischen Unternehmer“, der den Monotheismus erfunden hat.

Im Talmud gibt es die Geschichte, dass Abraham die Götzenstatuen im Laden seines Vaters zerstörte, weil er die Logik dahinter hinterfragte, und danach seine Heimat verließ, um ins Ungewisse nach Israel zu ziehen. Genau das passiert vielen Gründerinnen und Gründern: Sie haben eine Vision, jeder sagt ihnen, dass es unmöglich ist, und sie müssen bereit sein, ihre gewohnte Umgebung zu verlassen, um ihr Ziel zu erreichen. Schüler müssen lernen, solche kritischen Fragen zu diskutieren: Was bedeutet es, ins Ungewisse zu gehen? Ist Unternehmertum immer gut oder birgt es auch Risiken? Diese mentale Vorbereitung ist die Basis für eine Innovationskultur.

Was kann Europa und speziell ein Land wie Österreich von der israelischen Innovationskultur und anderen globalen Vorreitern lernen?

Zunächst einmal können auch wir viel von Europa lernen – zum Beispiel, wie man ein Land so lebenswert und friedlich gestaltet. Was die Förderung von Technologie betrifft, lohnt sich für Europa jedoch ein Blick nach Taiwan, speziell auf das ITRI-Institut (Industrial Technology Research Institute).

Der Staat dort verteilt nicht einfach nur passiv Fördergelder an Unternehmen, was oft nicht der klügste Weg ist. Stattdessen definieren kluge Köpfe alle paar Jahre strategische Zukunftsmärkte. So wurde vor Jahrzehnten entschieden, dass der Bau von Halbleiterwerken entscheidend sein wird, woraufhin man gezielt den Gründer von TSMC aus den USA zurückholte. Heute hängt die gesamte Weltwirtschaft von TSMC ab, was für Taiwan zugleich ein enorm starkes sicherheitspolitisches Instrument ist.

Ein weiterer entscheidender Punkt ist, wie Staaten investieren: Wenn staatliche Innovationsbehörden Unternehmen mit Kapital unterstützen, sollten sie dafür im Gegenzug auch Unternehmensanteile (Equity) erhalten, anstatt nur verlorene Zuschüsse zu verteilen. Der Staat sollte sich als stiller Gesellschafter beteiligen, sich nicht in das operative Tagesgeschäft einmischen, aber bei einem erfolgreichen Exit sein Geld inklusive Rendite zurückerhalten. So kann ein Staat mit Innovation tatsächlich Geld verdienen, das wieder in das Ökosystem zurückfließen kann.

Welchen Rat würden Sie Gründern geben, die heute in Europa Deep-Tech-Unternehmen aufbauen?

Schauen Sie sich genau an, wer in der aktuellen Marktphase wirklich Geld verdient. Im KI-Bereich verlieren viele Software- und Anwendungsunternehmen derzeit Milliarden, während diejenigen, die die Infrastruktur und Hardware bereitstellen – wie Nvidia oder TSMC als deren Auftragsfertiger –, enorm erfolgreich sind.

Wir erleben eine Wende: Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen. Die wahren Deep-Tech-Chancen liegen heute in der Lösung fundamentaler physischer und technischer Probleme – sei es bei der Energieeffizienz, der Kühlung von Rechenzentren, fortschrittlichen Halbleitern oder auch in der Weltraumtechnologie (Space Tech). Wenn Sie ein Unternehmen aufbauen, fokussieren Sie sich auf diese harten Infrastruktur- und Technologieprobleme, die die Welt zwingend lösen muss.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt