Das EU-Parlament hat heute, Mittwoch, in Straßburg die erste Regulierung von künstlicher Intelligenz (KI) weltweit beschlossen. Auf den sogenannten AI-Act einigten sich die Parlamentarier:innen zusammen mit dem Rat bereits Anfang Dezember, brutkasten berichtete. Bis zur vollständigen Anwendung kann es allerdings noch zwei Jahre dauern.

Die Europäische Union ist mit diesem Beschluss der erste Kontinent, der für KI-Anwendungen gewisse Regeln aufstellt. Einerseits sollen die neuen Vereinbarungen Grundrechte, Demokratie, Rechtsstaatlichkeit und die ökologische Nachhaltigkeit vor KI-Systemen schützen. Andererseits will die Europäische Union keine Bremse von Innovation sein und mit dem AI-Act in diesem Bereich eine Führungsrolle einnehmen.

„Social Scoring“ vom AI-Act verboten

Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras ist demnach verboten. Außerdem darf künstliche Intelligenz nicht zur Emotionserkennung am Arbeitsplatz (bzw. Schulen) oder zur Auswertung von sozialem Verhalten genutzt werden. Damit kann im europäischen Raum ein Scoringsystem nach Verhalten, ähnlich dem, wie es in China angewendet wird, nicht implementiert werden.

Ausnahmen gelten dem Beschluss nach für Strafverfolgungsbehörden, diese unterliegen allerdings gewissen Sicherheitsbestimmungen.

Verpflichtungen für Hochrisikosysteme

Weitreichende Auswirkungen hat der Beschluss für Hochrisikosysteme. Darunter fallen beispielsweise KI-Anwendungen im Bereich der kritischen Infrastruktur, Gesundheits- oder Bankwesen. Für diese Systeme sind nun Verpflichtungen vorgesehen wie etwa eine Risikobewertung aufzustellen oder Nutzungsprotokolle zu führen.

Durch die heutige Abstimmung müssen Entwickler:innen zukünftig zudem klar kennzeichnen, wenn Texte, Bilder oder Videos auf Künstlicher Intelligenz beruhen. Wie diese in der Praxis greifen sollen, bleibt angesichts der Flut an sogenannten Deepfakes fraglich.

Reaktionen fallen gemischt aus

„Die EU hat geliefert. Wir haben es geschafft, das Konzept der künstlichen Intelligenz mit den grundlegenden Werten zu verknüpfen, die das Fundament unserer Gesellschaft bilden“, zeigte sich Dragos Tudorache, rumänischer Chefverhandler für das EU-Parlament, erfreut.

Für nicht weitreichend genug erachtet Birgit Sippel, innenpolitische Sprecherin der S&D-Fraktion, das heute beschlossene Gesetz: „Aufgrund der Positionierung mehrerer EU-Staaten war es zum Beispiel nicht möglich, die Nutzung von Echtzeit-Biometrie so strikt zu regulieren, wie wir als sozialdemokratische Fraktion es für nötig halten.”

Kritik kam schon im Vorfeld der Abstimmung von der Industrie. So befürchten Kritiker:innen des Gesetztes, dass sich mit den beschlossenen Regulierungen Wettbewerbsnachteile für europäische Unternehmen insbesondere im Vergleich zu den USA und China ergeben.

Allerdings können die einzelnen Mitgliedstaaten selbst entscheiden, wie streng sie die EU-Richtlinien im eigenen Land handhaben. Obendrein ist es angesichts der schnellen Entwicklungen rund um das Thema KI anzunehmen, dass die heute beschlossenen Regulierungen bis zur vollständigen Umsetzung (im Jahr 2026) zumindest teilweise veraltet sind.