02.12.2022

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

Mit dem AI Act, der in Kürze verhandelt wird, will die EU einen klaren Rechtsrahmen für Künstliche Intelligenz schaffen.
/artikel/ai-act-eu-will-ki-staerker-foerdern-und-reglementieren
Fahne der Europäischen Union
Foto: Adobe Stock

In der KI-Forschung steht die EU – wie auch in anderen Forschungsbereichen – gut da. Der Staatenbund bringt weltweit die meisten wissenschaftlichen Papers zum Thema hervor. In anderen relevanten Bereichen, etwa bei Investitionen, sieht es aber – wie so oft – anders aus. An China und die USA wird die EU auch dann nicht herankommen, wenn sie ihr Ziel, im Laufe des Jahrzehnts auf 20 Milliarden Euro Investment in AI pro Jahr zu kommen, erreicht. Unter anderem hier soll ein neuer „AI Act“ (KI-Verordnung) der Europäischen Union Verbesserung bringen – der brutkasten berichtete bereits. Zum Gesetzeswerk liegt ein Vorschlag der EU-Kommission vor, der kommende Woche erstmals abgestimmt wird, um dann in die Trilogverhandlungen zwischen Europäischem Parlament, Rat und EU-Kommission zu gehen.

„Balanceakt“ zwischen Förderung und Regulierung

Auffallend ist im Entwurf zum AI Act vor allem der Versuch, Künstliche Intelligenz sehr genau – und auch relativ streng – zu reglementieren. Der Rechtsrahmen soll künftig sowohl für öffentliche als auch für private Akteure gelten – innerhalb und außerhalb der EU, „sofern das KI-System in der EU in Verkehr gebracht wird oder Menschen in der EU von seiner Verwendung betroffen sind“. Zu diesem Spannungsfeld zwischen Förderung und Reglementierung meinte Digitalisierungs-Staatssekretär Florian Tursky bei einem heutigen Pressetermin, es sei ein Balanceakt in den Verhandlungen, das richtige Maß an Regulierung zu finden.

Staatssekretär Florian Tursky beim heutigen Presetermin | © BMF

Einteilung in vier Risikostufen

Ob eine KI-Anwendung überhaupt zugelassen wird, soll nach dem AI Act-Entwurf vom von dieser ausgehenden Risiko abhängig sein, das in vier Klassifizierungen unterteil werden soll: Unannehmbares Risiko, Hohes Risiko, Geringes Risiko und Minimales Risiko. Anwendungen mit unannehmbarem Risiko sollen demnach verboten werden, etwa „social Scoring“. Die Einstufung als hohes Risiko führt zu strengen Vorgaben vor Inverkehrbringen. KI-Systeme mit geringem Risiko treffen gewisse Transparenzverpflichtungen.

Der Großteil der Anwendungen stellen Systeme mit minimalem Risiko dar, wird angeführt. Für diese gilt die freie Anwendung auf Basis der bestehenden rechtlichen Verpflichtungen ohne zusätzliche Auflagen. Dem Hochrisikobereich gehören laut EU-Kommission 15 Prozent aller Anwendungen an. Fragen zur Haftung von KI-Systemen werden im Rechtsakt übrigens nicht verankert. Hierzu wurde erst kürzlich eine gesonderte KI-Haftungs-Richtlinie vorgelegt.

In Österreich verschiedene Behörden für Ahndung von AI Act-Verstößen zuständig

Personen und Unternehmen sollen bei mutmaßlichen Verstößen gegen die geplante KI-Verordnung künftig Beschwerde bei der zuständigen Marktaufsichtsbehörde einreichen können. „In Österreich ist die Marktüberwachung je nach Produkt bei einer unterschiedlichen Stelle angesiedelt“, heißt es vom Staatssekretäriat für Digitalisierung in einer Aussendung.

Staatssekretär Tursky kommentiert dort: „Die KI-Verordnung ist ein wichtiger Schritt für Europa, um in diesem Zusammenhang für Rechtssicherheit zu sorgen. Ziel ist es, einerseits die Entwicklung von KI in Europa zu fördern. Gleichzeitig müssen aber die öffentlichen Interessen, wie Grundrechte und Sicherheit gewährleistet sein“. Ein klarer europaweiter Rechtsrahmen sei beim Thema Künstliche Intelligenz unerlässlich. Er schaffe sowohl für Entwickler die Sicherheit klarer Regeln für die Gestaltung, als auch für die Endnutzer die Sicherheit, mit einer sicheren und vertrauenswürdigen KI-Anwendung zu interagieren.

Deine ungelesenen Artikel:
09.11.2026

Thomas Fuchs: Wie ein Österreicher die KI-Strategie des wertvollsten Pharmakonzerns der Welt verantwortet

Ein Österreicher verantwortet die KI-Strategie des wertvollsten Pharmakonzerns der Welt: Thomas Fuchs ist seit 2024 der erste Chief AI Officer in der Geschichte von Lilly. brutkasten hat ihn in Wien zum Interview getroffen. Er erklärt, warum der Konzern einen eigenen Supercomputer mit mehr als 1.000 GPUs betreibt und warum KI trotzdem kein Medikament auf Knopfdruck liefert.
/artikel/thomas-fuchs-lilly-chief-ai-officer
09.11.2026

Thomas Fuchs: Wie ein Österreicher die KI-Strategie des wertvollsten Pharmakonzerns der Welt verantwortet

Ein Österreicher verantwortet die KI-Strategie des wertvollsten Pharmakonzerns der Welt: Thomas Fuchs ist seit 2024 der erste Chief AI Officer in der Geschichte von Lilly. brutkasten hat ihn in Wien zum Interview getroffen. Er erklärt, warum der Konzern einen eigenen Supercomputer mit mehr als 1.000 GPUs betreibt und warum KI trotzdem kein Medikament auf Knopfdruck liefert.
/artikel/thomas-fuchs-lilly-chief-ai-officer
Thomas Fuchs, Chief AI Officer von Lilly | Foto: Christian Fichtner/big5comm

Thomas Fuchs ist seit Oktober 2024 der erste Chief AI Officer in der Geschichte des US-Pharmakonzerns Lilly. Der aus Österreich stammende Forscher studierte Technische Mathematik an der TU Graz, promovierte an der ETH Zürich und forschte am Jet Propulsion Laboratory der NASA, bevor er am Memorial Sloan Kettering Cancer Center in New York das Digital-Pathology-Unternehmen Paige AI mitgründete. Später baute er am Mount Sinai das erste AI-Department einer Medical School mit auf. Beim Besuch von Lilly Österreich in Wien sprach er mit brutkasten über den Supercomputer des Konzerns, die Grenzen von KI in der Medikamentenentwicklung und darüber, warum Österreich der Schweiz nicht nachstehen müsste.


brutkasten: Sie haben selbst mehrere Unternehmen gegründet, darunter Paige AI. Warum der Schritt in einen Konzern wie Lilly?

Thomas Fuchs: Mein erstes Startup habe ich mit 16 gegründet, tief in den 90er-Jahren. Das waren Multimedia-CD-ROMs über die österreichische Geschichte zum Jubiläum 1996, die Hypertext-Engine haben wir noch ohne Internet selbst geschrieben. 2017 haben wir dann Paige in New York gegründet, ein Spin-out des Memorial Sloan Kettering, dem größten tertiären Krebszentrum der USA. Es ging darum, auf digitalisierten Pathologieschnitten Krebs und seine Treiber automatisch zu erkennen. Das führte 2021 zur FDA-Autorisierung von Paige Prostate, der ersten KI-basierten Software zur Unterstützung bei der Erkennung verdächtiger Bereiche in digitalisierten Prostatabiopsien. Dazu war ich lange Professor am Sloan Kettering, an der Weill Cornell und am Mount Sinai, wo wir das erste AI-Department einer Medical School gegründet haben. Ein fantastisches Umfeld, aber die Mittel, um das Feld wirklich voranzutreiben, sind bei Lilly ungleich größer. Nicht nur bei der Infrastruktur, sondern auch beim Zugang zu Daten und Expertise. Lilly hat tausende Chemiker:innen und Biolog:innen. Bei Lilly erreichen wir mit unseren Medikamenten ungleich mehr Menschen. Das ist ein enormer Hebel.

Welches Wissen bringen Sie als Chief AI Officer ein?

Die meisten Leute denken bei KI zunächst an Sprachmodelle wie ChatGPT oder Claude. Die sind wichtig, aber das Feld ist deutlich breiter. Wir entwickeln Modelle, die Wissenschaftler:innen beim Design von Molekülen unterstützen, bei Proteinen, bei kleinen Molekülen und auch in der genetischen Medizin. Die Sprachmodelle nutzen wir wiederum, um diese unterschiedlichen Systeme mit Agenten zu orchestrieren. Und wir setzen KI nicht nur in der Discovery und der Entwicklung ein, sondern auch in der Produktion. Lilly baut das Manufacturing weltweit aus, und dort arbeiten wir mit digitalen Zwillingen für Geräte und Prozesse. Wenn man die ganze Pharma-Wertschöpfungskette anschaut, kann jeder einzelne Teil davon profitieren.

Wie haben Sie Ihre Organisation aufgebaut?

Lilly hatte schon vor mir ausgezeichnete Analytics-Abteilungen und begann sehr früh damit, Sprachmodelle zu verwenden. Wir haben dem Ganzen eine neue Struktur gegeben. Mein Team arbeitet im Startup-Stil, in kleinen interdisziplinären Teams, die sich jeweils tief in einzelne Bereiche einarbeiten, von Discovery über Development bis Manufacturing. Der erste Schritt war die Struktur, der zweite der Ausbau der Infrastruktur. Lilly hatte, wie die meisten Betriebe, damals nicht sehr viele GPUs für die Forschung. Jetzt haben wir eine sehr leistungsfähige Recheninfrastruktur.

Thomas Fuchs, Chief AI Officer von Lilly, zu Besuch bei Lilly Österreich in Wien. | Foto: Christian Fichtner/big5comm

Wo hat KI in dieser Wertschöpfungskette aktuell den größten Impact?

Das hängt von der Zeitskala ab. Am unmittelbarsten ist es das Manufacturing. Jede Anwendung von KI, die Prozesse in der Produktion effizienter macht, hilft uns, Medikamente verlässlich zu den Patient:innen zu bringen. Der große Teil unserer Arbeit liegt aber in der Discovery: Wie kann man neue Moleküle designen und ihre Eigenschaften, ihre Verträglichkeit und ihre Produzierbarkeit besser einschätzen? Das ist eine wesentlich längere Zeitskala, da reden wir von Jahren. Am Anfang kann man viel beschleunigen und de-risken. Aber am Ende muss die Biologie wirken. Man braucht die klinischen Studien, um zu sehen, ob ein Medikament sicher und effektiv ist. Das wird KI nicht einfach ersetzen.

Warum ein eigener Supercomputer statt Cloud?

Deep Learning besteht intern aus Vektor- und Matrixmultiplikationen, deshalb hat unsere Community ab etwa 2012 angefangen, GPUs aus dem Spieledesign dafür zu verwenden. Unser System ist ein NVIDIA DGX Superpod, deshalb heißt er bei uns LillyPod, mit mehr als 1.000 B300 GPUs. Man kann sich das wie ein wissenschaftliches Instrument vorstellen, wie ein Teleskop oder Mikroskop, das uns erlaubt, tiefer in die kleinsten Dinge hineinzuschauen. Wenn Wissenschaftler:innen nur wenige GPUs haben, können sie keine großen Experimente laufen lassen. Heute können wir Modelle auf Basis all jener Moleküle trainieren, die Lilly in seiner 150-jährigen Geschichte entwickelt hat. Daten bleiben trotzdem der Engpass, in der Biologie gibt es im Vergleich zur Sprache wenige Datenpunkte bei viel höherer Komplexität. Deshalb bauen wir auch automatisierte Labore: Ein Modell schlägt ein Experiment vor, das Labor führt es aus, aus den Daten lernt das Modell wieder dazu. Dieses Flywheel soll uns immer bessere Modelle und damit immer bessere Werkzeuge für unsere Forschenden bringen. Der zweite Teil: Wir passen Sprachmodelle auch an unsere eigenen wissenschaftlichen Anforderungen an.

Das ist eine massive Investition. Wie bringt man das durch?

Wir haben eine Führung, die sehr langfristig denkt und gleichzeitig ein starkes technisches Verständnis mitbringt. Am Ende müssen neue Medikamente herauskommen, die den Patient:innen helfen.

Ist schon etwas herausgekommen?

Im Manufacturing setzen wir KI ein, um Prozesse effizienter zu machen, damit Medikamente verlässlich verfügbar bleiben. In der Discovery haben wir ein Modell entwickelt, das Chemiker:innen beim Design kleiner Moleküle unterstützt. Das verwenden sie tagtäglich. Es hat ihnen neue Ansätze geliefert, die sie dann geprüft haben. So wie Magnus Carlsen im Schach Züge verwendet, die er von der KI gelernt hat, verwenden unsere Chemiker:innen jetzt Motive, die sie von der KI gelernt haben. Aber es bleibt immer eine Partnerschaft zwischen Mensch und Technologie. Wir sind weit davon entfernt, einfach einen Knopf zu drücken und am Ende kommt ein Medikament heraus. KI ist für uns ein Werkzeug, das wir gemeinsam mit unseren Wissenschaftler:innen und für ihre Arbeit entwickeln.

Thomas Fuchs im Interview mit brutkasten-Chefredakteur Martin Pacher in Wien. | Foto: Christian Fichtner/big5comm

Kooperiert Lilly dabei auch mit Startups?

Sehr viel, mit Startups und mit größeren Firmen. Wir wollen das Rad nicht neu erfinden. Aber in manchen Bereichen gibt es noch keine passende Lösung, dann entwickeln wir sie selbst. Was ich immer sage: Wir sollen kaufen, was uns beschleunigt, und selbst machen, was uns unterscheidet. Mit TuneLab wollen wir das Biotech-Ökosystem unterstützen. Wir stellen teilnehmenden Biotech-Unternehmen KI-Werkzeuge über TuneLab zur Verfügung.

Wie blicken Sie auf den Standort Europa und Österreich?

Als Europäer liegt mir die Zukunft Europas sehr am Herzen. Ich würde mir mehr Initiativen wünschen, man muss sich nicht zurückhalten. Österreich hat extrem gute Expertise, die Universitäten bilden hervorragend aus, Sepp Hochreiter in Linz hat die LSTMs mitentwickelt. Das sollte ein Leuchtturm der Welt sein. Natürlich braucht es mehr Investitionen, nicht nur vom öffentlichen Sektor, sondern viel mehr vom privaten. Es gibt keinen Grund, warum Österreich der Schweiz nachstehen sollte.

Wäre Ihre Karriere in Europa möglich gewesen?

Schwer zu sagen, die Welt ändert sich. Es gibt sehr erfolgreiche Beispiele in Österreich. Zürich ist ein Hotspot für Startups rund um die ETH, das würde ich mir auch für Österreich wünschen. Gleichzeitig sind die Rahmenbedingungen in den USA nach wie vor günstiger: Mit Paige in New York hatten wir Möglichkeiten, die in Europa schwerer zu finden gewesen wären. Es gibt keinen technischen oder intellektuellen Grund, warum Europa und Österreich nicht vorn dabei sein sollten.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren