09.12.2023

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

Nach 36 Stunden intensiver Verhandlungen erzielten EU-Parlament, EU-Kommission und Mitgliedsstaaten eine Einigung beim AI Act. Die technischen Details der ersten umfassenden Regulierung von künstlicher Intelligenz in der EU müssen aber noch geklärt werden.
/artikel/ai-act-beschluss
Fahnen der Europäischen Union
Fahnen der Europäischen Union | Foto: Adobe Stock

Sie haben sich ordentlich dahingezogen, die Verhandlungen zwischen EU-Parlament, EU-Kommission und den Mitgliedsstaaten. Der vermeintlich letzte Verhandlungstag begann am Mittwoch um 16 Uhr. Nach einer durchverhandelten Nacht wurden die Gespäche aber am frühen Donnerstagnachmittag unterbrochen. Am Freitag in der Früh ging es weiter – und nach einem weiteren Tag mit intensiven Verhandlungen kam man gegen Mitternach schließlich zu einer vorläufigen Einigung.

„Deal“, schrieb Digitalkommissar Thierry Breton um 23.37 Uhr auf der Plattform X (vormals Twitter) und postete dabei eine Grafik, die die EU als einzigen Kontinent mit KI-Regulierung auswies. Die Einigung sei „historisch“, schreib er in einer weiteren Nachricht. Der AI Act sei „viel mehr als ein Regelwerk – er ist eine Startrampe für EU-Startups und Forscher, um das globale KI-Rennen anzuführen.“

Die Verhandler:innen standen schon unter Zeitdruck: Denn im kommenden Jahr stehen Wahlen zum EU-Parlament an. Und ohne Einigung hätte sich ein Beschluss bis in die nächste Legislaturperiode des Parlaments verzögert.

Nun gibt es eine vorläufige politische Einigung, die die Eckpunkte absteckt. Viele technische Details müssen erst noch ausgearbeitet werden. „Es könnte Wochen dauern, um den Text zu konsolidieren“, erwartet der Journalist Luca Bertuzzi, der die Verhandlungen für das Portal Euractiv intensiv verfolgte. Wirksam werden soll der AI Act in rund zwei Jahren, bestimmte Teile der Regulierung sollen bereits früher schlagend werden.

„Foundation Models“ wie GPT-4 nicht vom AI Act ausgenommen

Die konkrete Ausgestaltung des AI Acts ist schon länger äußerst umstritten. Kontroverse Punkte gab es dabei einige. In den vergangenen Wochen war etwa der Umgang mit „Foundation Models“ ein Streitpunkt. Dabei handelt es sich um KI-Modelle, die die Grundlage für andere Anwendungen liefern, wie etwa die GPT-Modelle von OpenAI. Die Sprachmodelle GPT-3.5 und GPT-4 sind die „Foundation Models“ hinter ChatGPT.

Deutschland, Frankreich und Italien hatten hier vorgeschlagen, solche Basismodelle aus dem AI Act auszunehmen. Stattdessen sollte eine Selbstverpflichtung der Anbeiter umgesetzt werden. Das EU-Parlament war strikt dagegen – und setzte sich weitgehend durch. Bestimmte Transparenzvorschriften werden für alle KI-Modelle gelten. Große KI-Modelle, die „systemische Risiken“ aufweisen, bekommen zusätzliche Verpflichtungen.

Neue KI-Behörde in Kommission geplant

Für Open-Source-Modelle wiederum sind Ausnahmen vorgesehen: Werden sie nicht als Modelle mit systemtischen Risiko eingestuft, beschränken sich die verpflichtenden Angaben auf Informationen zu Trainingsdaten und Testverfahren.

Zur Regulierung dieser Basismodelle wird innerhalb der Europäischen Kommission eine KI-Behörde etabliert. Grundsätzlich werden KI-Modelle von den zuständigen Behörden auf Ebene der Mitgliedsstaaten überwacht. Diese stimmen sich dazu im Europäischen Ausschuss für künstliche Intelligenz ab.

Der AI Act ermöglicht Strafen von bis 6,5 Prozent des globalen Umsatzes eines Unternehmen oder bis zu 35 Mio. Euro – dies gilt für die schwersten Vergehen bei verbotenen Anwendungsfällen. System- und Modellanbietern können Strafen von 3 Prozent des Umsatzes oder 15 Mio. Euro drohen, wenn sie ihren Verpflichtungen nicht nachkommen. Strafen von 1,5 Prozent des Umsatzes oder 500.000 Euro können fällig werden, wenn falsche Informationen angegeben werden.

Biometrische Identifizierung von Personen nicht vollständig verboten

Intensiv diskutiert wurden auch bestimmte Anwendungsfälle von KI – etwa im Bereich biometrischer Anwendungen. Das EU-Parlament wollte biometrische Identifizierung von Personen im öffentlichen Raum völlig verbieten. Damit konnte es sich nicht durchsetzen. Die biometrische Identifizierung von Personen ist nach dem AI unter bestimmten Voraussetzungen zulässig – und zwar bei der gezielten Suche nach konkreten Personen, wenn es um die Gefahr eines Terroranschlags oder um andere schwere Straftaten geht.

Lange kontroverse Diskussionen über AI Act

Über die konkrete Ausgestaltung des AI Acts war inbesondere in den vegangenen Monaten kontrovers diskutiert worden – auch Startups befürchteten Nachteile. Im Oktober hatte beispielsweise das französische KI-Jungunternehmen Mistral AI gewarnt, dass der AI Act, so wie er geplant sei, den weiteren Betrieb des Startups verunmöglichen könnte (brutkasten berichtete). Der AI Act klassifiziert KI-Anwendungen in unterschiedliche Risikokategorieren – mit denen dann verschiedene Pflichten und Haftungen einhergehen.

Auch ein im Sommer an der Hochschule St. Gallen durchgeführter „Praxis-Stresstest“ zum AI lieferte mehrere kritische Punkte (brutkasten berichtete). Bei der von Europarechts-Professor Thomas Burri durchgeführten Challenge wurden reale KI-Anwendungen von Unternehmen, wie der Deutschen Telekom oder Mercedes Benz, auf ihre Kompatibilität mit dem AI Act abgeklopft. „Mit dem AI Act sähen wir Unsicherheit bei genau den Leuten, auf die wir unsere Zukunft bauen wollen“, schlussfolgerte Burri damals.

Die EU beschäftigt sich seit über zwei Jahren mit einem Rahmenwerk für künstliche Intelligenz. Seither hat sich in dem Bereich allerdings auch einiges verändert – man denke nur an das Erscheinen von ChatGTP Ende November 2022, das die Fortschritte bei künstlicher Intelligenz ins Bewusstsein der Öffentlichkeit holte. “Die schnellen Entwicklungen im AI-Bereich haben die Aufgabe nicht leichter gemacht”, sagte der italienische EU-Parlamentarier Brando Benifel bei einem Pressebriefing zum AI Act im Juni, an dem brutkasten teilgenommen hatte.

Deine ungelesenen Artikel:
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
Loïc Roch, Mitgründer und CTO von Atinary, in den SwissCAT+-Laboren am Campus Hönggerberg | (c) Martin Pacher

Wer auf den Hönggerberg im Norden Zürichs fährt, lässt die Stadt hinter sich. Der zweite Campus der ETH, entstanden ab 1961, liegt in ländlicher Umgebung, hier sind unter anderem die Departemente für Chemie, Physik und Materialwissenschaft zu Hause. Und hier, in den SwissCAT+-Laboren der Hochschule, lässt sich derzeit besichtigen, wie Forschung aussehen könnte, wenn nicht mehr der Mensch jeden einzelnen Handgriff macht.

In diesen Laboren übernehmen Roboter die Arbeit, die sonst Forschende beschäftigt: Sie hantieren mit Flüssigkeiten und Pulvern, bereiten Proben vor, testen sie und messen laufend die Ergebnisse. Das Bemerkenswerte daran ist aber nicht die Automatisierung selbst, sondern wer die Versuche plant: eine Künstliche Intelligenz. Die Software stammt vom Startup Atinary, das an der ETH keinen eigenen Standort hat, sondern mit der Technologieplattform SwissCAT+ zusammenarbeitet. Sie schlägt vor, welches Experiment als nächstes sinnvoll ist, lernt aus jedem Ergebnis und berechnet daraus den nächsten Schritt. Dieser Kreislauf läuft rund um die Uhr, ohne dass ein Mensch eingreifen muss.

„Ein Labor ist eine große Küche“

Wie soll man sich das vorstellen? Loïc Roch, Mitgründer und CTO von Atinary, greift im Gespräch mit brutkasten zu einem Alltagsbild: „Am Ende ist ein Labor eine große Küche. Wir liefern die Rezepte. Wir nutzen KI, um Rezepte zu erzeugen, die dann im Labor getestet werden.“ Das Ziel: möglichst schnell zum besten Rezept kommen. Denn jeder einzelne Versuch kostet Zeit, Material und Geld. Wer statt tausender Versuche nur ein paar Dutzend braucht, spart enorm.

Genau darauf ist die Software ausgelegt. Statt sich blind durch unzählige mögliche Kombinationen zu probieren, lernt das System mit jedem Experiment dazu und empfiehlt gezielt die vielversprechendsten nächsten Schritte. „Self-Driving Labs“ nennt Atinary das Prinzip, selbstfahrende Labore. Den Begriff hat sich das 2019 gegründete Unternehmen sogar markenrechtlich schützen lassen.

Loïc Roch, Co-founder und CTO von Atinary | (c) Martin Pacher / brutkasten

Den Bedarf für solche Werkzeuge begründet Roch mit einem unbequemen Befund: Forschung wird immer teurer und langsamer, es braucht immer mehr Zeit und Geld, bis Neues gefunden ist. Dazu kommt eine handfeste Vertrauenskrise: Roch verweist auf eine vielzitierte Befragung von rund 1.500 Forschenden, wonach ein Großteil daran scheitert, Experimente zu wiederholen, in der Chemie sind die Quoten besonders hoch. Das ist nicht nur für die Wissenschaft ein Problem: Ohne verlässliche Daten lässt sich auch keine verlässliche KI trainieren.

100 Jahre Forschung in sechs Wochen

Was das System kann, zeigt das Vorzeigeprojekt direkt vor Ort. Gemeinsam mit dem SwissCAT+-Team suchte Atinary nach dem besten Katalysator, also jenem Hilfsstoff, mit dem sich das Treibhausgas CO₂ in Methanol umwandeln lässt, einen Ausgangsstoff für nachhaltige Treibstoffe. Laut Atinary kamen dafür mehr als 20 Millionen mögliche Kombinationen infrage. Das Ergebnis wurde in einem Fachjournal publiziert: In sechs Wochen wurden 144 Katalysator-Kandidaten hergestellt und getestet, mit minimalem menschlichem Zutun. Die Zahl, mit der Atinary seither wirbt, ist eindrucksvoll: eine 1000-fache Beschleunigung, umgerechnet 100 Jahre Katalyse-Forschung in nur sechs Wochen. SwissCAT+-Chef Paco Laveille, der die Umsetzung an der ETH verantwortet, bestätigt beim Besuch die Größenordnung: von Jahren an Forschung hinunter zu Wochen.

(c) Martin Pacher / brutkasten

Beim konkreten Nutzen für Firmenkunden hält sich Roch hingegen zurück, aus einem strukturellen Grund: „Wir sind ein Dienstleister. Wir sehen den generierten Mehrwert nicht, und die Kunden wollen ihn nicht teilen.“ Das habe auch mit Sicherheitsanforderungen zu tun, ergänzt das Unternehmen: Angaben zum erzielten Return on Investment erhalte Atinary dann, wenn Kunden sie von sich aus teilen — teils münde das in gemeinsame Publikationen.

Die einzige konkrete Zahl, die er im Gespräch nennt, stammt aus einer gemeinsamen Publikation mit dem Aromen- und Duftstoffkonzern dsm-firmenich: Dort konnte der Einsatz eines teuren Edelmetalls so stark reduziert werden, dass dessen Kostenanteil um rund 95 Prozent sank. Es sei nicht die einzige gemeinsame Veröffentlichung mit Kunden, betont das Unternehmen — weitere gebe es etwa mit dem Pharmakonzern Takeda.

(c) Martin Pacher / brutkasten

Auch ein aktueller gemeinsamer Blogbeitrag von AWS und Atinary liefert Anhaltspunkte. Ein Manager von Takeda wird dort mit der Aussage zitiert, eine Optimierung habe mit dem selbstfahrenden Ansatz rund eine Woche gedauert, verglichen mit ein bis zwei Monaten auf dem herkömmlichen Weg. Am MIT wiederum löste ein Forschungsteam mit der Software eine knifflige Aufgabe aus der Solarzellenforschung in nur 25 Versuchen, innerhalb einer strikten Frist von vier Wochen. Und über das eigene Labor, das Atinary heuer in Boston eröffnet hat, heißt es: Es erzeuge in einer Woche mehr Versuchsdaten, als ein Doktorand in fünf Jahren produziert.

Bezahlter Pilot, Lizenz pro Arbeitsplatz

Wirtschaftlich steht Atinary noch am Anfang. Das Unternehmen befindet sich in der Seed-Phase, öffentlich auffindbar sind laut Roch rund zehn Millionen an bisheriger Finanzierung, eingesammelt über Venture Capital, Family Offices und Förderungen. Als Nächstes peilt er eine Series A an. Das Wachstumskapital dafür werde voraussichtlich aus den USA kommen: „Der Ansatz ist in Europa und den USA sehr unterschiedlich.“

Paco Laveille, Managing Director, SwissCAT+ East, ETH Zurich | (c) Martin Pacher / brutkasten

Verdient wird über Software-Lizenzen, abgerechnet pro Arbeitsplatz. Am Anfang steht ein dreimonatiger, bewusst kostenpflichtiger Testlauf. „Wenn der Pilot nicht bezahlt ist, stecken die Kunden nicht die Ressourcen hinein, um ihn richtig zu testen“, sagt Roch. Dass er mit diesem Modell Geld liegen lässt, räumt er offen ein: Eine Beteiligung am geschaffenen Wert wäre lukrativer, scheitert aber daran, dass die Kunden diesen Wert eben nicht offenlegen.

Die Kundschaft kommt bisher vor allem aus der Pharmabranche, die laut Roch am ehesten bereit ist, Neues zu riskieren; der Rest der Industrie folge dann. Einsatzfelder gibt es aber quer durch: Lebensmittel, Duftstoffe, Materialforschung, grüne Energie, und gemeinsam mit Stanford sogar Zelltherapien gegen Krebs. Umsatz machen vor allem Konzerne. Mit Universitäten arbeitet Atinary eng zusammen, weil sich dort Ergebnisse veröffentlichen lassen, sie werden so zu Botschaftern der Technologie. Auch KMU zählen zu den Kunden, das jüngste sei erst vor wenigen Tagen dazugekommen. Die Arbeitsteilung im Unternehmen: Das Entwicklerteam sitzt bei Roch in Lausanne, das eigene Labor steht in Boston, dort, wo die großen Pharma-Forschungszentren angesiedelt sind.

„Fast jeden zweiten Tag ein neues Startup“

Beim Thema Konkurrenz wird Roch deutlich: Der Bereich „AI for Science“ ziehe derzeit massiv Gründungen an, fast jeden zweiten Tag komme ein neues Startup dazu. Gefährlich sei daran vor allem eines: Mit den heutigen KI-Werkzeugen lasse sich sehr schnell ein beeindruckender Prototyp bauen, der Kunden begeistert. „Unter der Haube ist das aber kein produktionsreifer Code, der bei einem Großunternehmen laufen kann.“ Atinary sieht er im Vorteil, weil man seit 2019 das gesamte Paket aufgebaut habe: die Anbindung an die Laborgeräte, das eigene KI-Training, die Anwendungen und die wissenschaftliche Glaubwürdigkeit durch den eigenen Beirat. Dazu kommt laut Unternehmen ein Netzwerk an Technologiepartnern, darunter AWS, ABB Robotics, Agilent, Bruker, Chemspeed und Mettler-Toledo. Im wissenschaftlichen Beirat sitzt unter anderem der MIT-Chemiker Stephen Buchwald — im Bostoner Labor optimiert Atinary nach eigenen Angaben ausgerechnet die nach ihm benannte Buchwald-Hartwig-Reaktion.

(c) Martin Pacher / brutkasten

Zugleich beobachtet er seit heuer einen Umschwung im Markt: Kunden dächten zunehmend in einer Wettlauf-Logik. Wer die Technologie nicht als Erster einsetze, riskiere, dass es die Konkurrenz tut. Und wenn diese in Wochen schafft, wofür man selbst Jahre braucht, sei der Rückstand kaum aufzuholen.

Die größte Hürde ist der Mensch

Und was bremst die Verbreitung? Nicht die Technik, sagt Roch, sondern der Mensch. „Der Wissenschaftler im Labor ist oft seit 15, 20 Jahren dort. Wenn man ihm sagt: Wir können deine Forschung um den Faktor zehn oder hundert beschleunigen, sagt er: Nein. Ich kenne mein Fach besser als irgendein Algorithmus.“ Es sei dabei weniger mangelndes Vertrauen, die Technologie werde schlicht als Bedrohung für den eigenen Job empfunden. Christoph Schnidrig von AWS ergänzt: Dieses Muster kenne man von jeder Technologiewelle, von der Einführung der Cloud bis zur KI in der Softwareentwicklung. Rochs Haltung dazu: Jobs würden sich verändern, aber nicht verschwinden. „Am Ende ist es ein Werkzeug. Der Mensch bleibt am Steuer.“

(c) Martin Pacher / brutkasten

Zum Vertrauen gehört auch die Datenfrage, schließlich legen die Kunden ihr wertvollstes Gut, ihre Forschungsdaten, in die Plattform. Die läuft vollständig auf der Cloud von AWS. Roch verweist auf Prüfungen, Audits und Sicherheitstests; personenbezogene Daten würden praktisch keine gespeichert, schon gar keine Patientendaten, dafür sei man in der Forschung viel zu früh angesetzt. Auch deshalb sieht er im EU AI Act derzeit kein Hindernis: In Kundengesprächen sei die Regulierung bislang schlicht kein Thema gewesen.

Auszeichnung vom Weltwirtschaftsforum

Während brutkasten mit Roch in Zürich spricht, befindet sich sein Mitgründer, CEO Hermann Tribukait, gerade im chinesischen Dalian, um dort den Technology-Pioneer-Award des Weltwirtschaftsforums entgegenzunehmen. Zu den früheren Preisträgern der Auszeichnung zählen Roch zufolge Namen wie Google, Dropbox und Airbnb. Preisgeld gibt es keines, der Wert liege im Zugang zum Netzwerk des Forums und zu Entscheidungsträgern großer Unternehmen. Kunden in China hat Atinary übrigens keine, und das dürfte vorerst so bleiben: Als in den USA registriertes Unternehmen sei das Geschäft mit chinesischen Firmen „wegen der Geopolitik sehr heikel“.

Gefragt nach dem Blick fünf Jahre voraus, skizziert Roch eine Vision, die er ausgerechnet am Vorbild seines Cloud-Partners entwirft: Labore, die wie Rechenleistung aus der Cloud abrufbar sind, weltweit vernetzt, mit einer übergeordneten KI, die Erkenntnisse zwischen Forschungszentren auf verschiedenen Kontinenten austauscht.

Den Antrieb dahinter beschreibt er ganz persönlich: Er und seine Mitgründer seien Naturliebhaber, und die Energiewende brauche schnellere Forschung. „Der Planet kann nicht noch ein Jahrzehnt warten, bis wir Lösungen finden.“ Sein Befund nach sieben Jahren: „R&D ist heute noch zu langsam.“


Disclaimer: Die Reise- und Übernachtungskosten wurden von Amazon Web Services übernommen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz