20.04.2021

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

Die EU steckt den Rahmen ab, in dem künstliche Intelligenz entwickelt und eingesetzt werden darf. Der Entwurf muss aber noch in Begutachtung.
/artikel/ai-regeln-eu-2021-entwurf
AI, Face, Tinder, Neuro-Tinder, Generiert,
(c) Stock.Adobe/Chepko Danil

Für diese Woche wird der offizielle Entwurf für Regeln für künstliche Intelligenz in der EU erwartet. Darin geht es nicht nur um AI-Anwendungen, die in ferner Zukunft liegen, sondern auch um ganz gegenwärtige Herausforderungen. Ein heißes Eisen ist etwa die Personalisierung im Internet, etwa wenn Internetdienste wie Netflix detaillierte Profile ihrer Nutzer erstellen. „Personalisierung ohne Überwachung geht nicht“, erklärt Clemens Wasner von dem Verband AI Austria, dessen Forderungen teilweise in den Vorentwurf eingeflossen sind.

Derzeit sei dieser Punkt im „geleakten“ Entwurf der EU sehr streng formuliert. Targeted Ads, die auf solchen Profilen basieren, könnten demnach verboten werden. Allerdings geht dieser Entwurf, sobald er vorliegt, erst einmal in eine lange Begutachtungsphase. In der könne sich noch viel ändern, meint Wasner. Er geht davon aus, dass gerade die Personalisierungs-Frage da noch sehr offen ist.

(Erkennbare) Deepfakes erlaubt

Im Vorfeld ist auch das Thema Deepfakes bereits viel diskutiert worden. Dem widmet sich Vorentwurf der EU gleich in mehreren Punkten. Es geht dabei um die Möglichkeit, mit künstlicher Intelligenz täuschend echte Fake-Videos, Ton-Aufnahmen oder Bilder von konkreten Personen zu generieren. Für Wirbel hatte gesorgt, dass die EU diese Deepfakes erlauben will. Allerdings gebe es hier bereits sehr gute Erkennungsprodukte, die eingesetzt werden müssen, erklärt Wasner, etwa über Watermarks in solchen Videos. Der Entwurf stellt eindeutig klar, dass der Einsatz von Deepfake transparent gemacht werden muss.

Positiv sieht der AI-Experte, dass eine Regulierung von Artificial Intelligence gemäß der Pläne der EU nur dann vorgesehen ist, wenn es nicht schon in anderen Bereichen entsprechende Regeln gebe. Ein Beispiel: Ist autonomes Fahren bereits in einer eigenen Richtlinie geregelt, wird die AI-Strategie an diesen Regeln nichts ändern.

Regulatory Sandboxes für AI

Ein wichtiger Punkt und auch eine zentrale Forderung von AI Austria ist in dem Entwurf enthalten, der vor allem für die Entwicklung von künstlicher Intelligenz wichtig ist. Für die Entwicklung neuer Produkte könnte es künftig „Regulatory Sandboxes“ geben. Das ist eine Methode, die aus dem Finanzbereich bekannt ist: Vor der offiziellen Zulassung dürfen Forscher und Unternehmen unter bestimmten Bedingungen und unter dem wachsamen Auge der Regulatoren, bereits mit (annähernd) realen Daten experimentieren. Knackpunkt ist hier laut Wasner die Datensynthetisierung – Daten werden also nicht anonymisiert, sondern von Beginn an komplett anonym künstlich nachgebaut. Das ist für die sichere Entwicklung unter dem strengen Datenschutz der EU wichtig, denn ohne Massen an Daten kann künstliche Intelligenz nicht trainiert werden.

EU bei Künstlicher Intelligenz weit hinter USA und China

Wasner geht davon aus, dass der Entwurf mindestens ein Jahr lang in Begutachtung sein wird. Der Rahmen, in dem Europa künstliche Intelligenz entwickeln will, wird von Experten dringend erwartet. Denn die EU ist in diesem wichtigen Zukunftsfeld bisher eher im Hintertreffen. Eine aktuelle Studie des US-Thinktanks ITIF hat sich die Entwicklung von AI anhand von 30 Indikatoren in unterschiedlichen Regionen angesehen und sieht die EU erst hinter den USA und China auf einem abgeschlagenen dritten Platz. Die EU habe vor allem bei Risikokapital Nachholbedarf, schnitt aber bei der Veröffentlichung von Forschungsergebnissen gut ab.

Deine ungelesenen Artikel:
vor 12 Stunden

Entgelttransparenzrichtlinie: Diese neuen Verpflichtungen kommen auf Unternehmen zu

Die Frist zur Umsetzung der EU-Entgelttransparenzrichtlinie ist bereits abgelaufen, doch der österreichische Gesetzesentwurf wird aktuell erst verspätet ausgearbeitet - begleitet von Diskussionen. Obwohl die genaue Ausgestaltung abzuwarten bleibt, stehen einige neue Verpflichtungen für Unternehmen - die Mindestanforderungen der Richtlinie - bereits fest.
/artikel/entgelttransparenzrichtlinie-diese-neuen-verpflichtungen-kommen-auf-unternehmen-zu
vor 12 Stunden

Entgelttransparenzrichtlinie: Diese neuen Verpflichtungen kommen auf Unternehmen zu

Die Frist zur Umsetzung der EU-Entgelttransparenzrichtlinie ist bereits abgelaufen, doch der österreichische Gesetzesentwurf wird aktuell erst verspätet ausgearbeitet - begleitet von Diskussionen. Obwohl die genaue Ausgestaltung abzuwarten bleibt, stehen einige neue Verpflichtungen für Unternehmen - die Mindestanforderungen der Richtlinie - bereits fest.
/artikel/entgelttransparenzrichtlinie-diese-neuen-verpflichtungen-kommen-auf-unternehmen-zu
Die EU-Entgelttransparenzrichtlinie soll den Gender Pay Gap verringern | (c) Marek Studzinski via Unsplash
Die EU-Entgelttransparenzrichtlinie soll den Gender Pay Gap verringern | (c) Marek Studzinski via Unsplash

Sie soll den Gender Pay Gap verkleinern, indem Unternehmen etwa konkrete Auskünfte über Gehälter geben müssen: Bereits 2023 beschloss das EU-Parlament die Entgelttransparenzrichtlinie. Mit einer Frist von drei Jahren sollte sie von den Mitgliedstaaten bis 7. Juni 2026 umgesetzt werden. Weil es eine Richtlinie (und keine Verordnung) ist, hatten die Nationalstaaten dabei einen gewissen Gestaltungsspielraum.

Begutachtungsentwurf im Alleingang zu Frist-Ende

Dieser führte wohl auch dazu, dass Sozialpartner und Regierung in Österreich sich nicht zeitgerecht auf die konkrete gesetzliche Umsetzung einigen konnten – ähnliches passierte übrigens in mehreren EU-Staaten. Nachdem es ein Ultimatum gestellt hatte, legte das SPÖ-geführte Sozial- und Arbeitsministerium zum Ablauf der Frist im Juni einen in Eigenregie erstellten Begutachtungsentwurf vor – zum Ärger mehrere Sozialpartner, etwa der Industriellenvereinigung (IV), die eine “Bürokratielawine” befürchtet.

Öffentlich ist dieser Entwurf noch nicht verfügbar. IV, Wirtschaftskammer, Gewerkschaftsbund (ÖGB) und Co., die ihn vorliegen haben, diskutieren aber längst per Presseaussendungen zu den Inhalten weiter. Während die konkreten vorgesehen Maßnahmen erst mit dem offiziellen Entwurf klar sein werden, steht bereits fest: Auf die eine oder andere Weise müssen die neuen Transparenzpflichten aus der Richtlinie von Unternehmen am Ende umgesetzt werden. Denn diese gibt klare Mindestanforderungen für die Nationalstaaten vor.

EU sieht Intransparenz als Ursache des Gender Pay Gap

Die EU will mit der Entgelttransparenzrichtlinie das bekanntlich in der Praxis nicht ausreichend umgesetzte Recht auf gleichen Lohn für gleiche oder gleichwertige Arbeit sichern. Und bisher scheiterte die Bekämpfung der ungleichen Bezahlung von Männern und Frauen laut Analysen der EU-Kommission vor allem an der mangelnden Transparenz der betrieblichen Gehaltssysteme. Ziel der Richtlinie ist nichts weniger als ein grundlegender Kulturwandel in den Personalabteilungen: weg von historisch gewachsenen, intransparenten Gehaltsstrukturen hin zu nachvollziehbaren, geschlechtsneutralen Systemen.

Das sind die Eckpunkte der Richtlinie:

  • Gehaltstransparenz schon im Bewerbungsprozess: Arbeitgeber müssen Jobsuchenden das Einstiegsgehalt oder eine entsprechende Gehaltsspanne bereits vor dem ersten Gespräch mitteilen (z. B. direkt im Inserat). Die Frage nach dem letzten Gehalt beim vorherigen Arbeitgeber ist künftig gesetzlich verboten.
  • Individuelles Auskunftsrecht: Beschäftigte können schriftlich Auskunft darüber verlangen, wie viel Kolleg:innen im Durchschnitt verdienen, die eine gleiche oder gleichwertige Arbeit verrichten – aufgeschlüsselt nach Geschlecht. Unternehmen müssen diese Daten innerhalb von maximal zwei Monaten liefern und die Belegschaft einmal jährlich proaktiv über dieses Recht informieren.
  • Schluss mit Schweigeklauseln: Vertragliche Klauseln, die Mitarbeitenden verbieten, über ihr Gehalt zu sprechen, werden ungültig.
  • Offenlegung der Aufstiegskriterien: Die Maßstäbe für die Festlegung des Gehalts und die Karriereentwicklung müssen für alle Beschäftigten leicht zugänglich sein. Betriebe mit weniger als 50 Beschäftigten können von der Pflicht zur Offenlegung der Aufstiegskriterien ausgenommen werden.
  • Verpflichtende Gehaltsberichte (Gender Pay Gap): Größere Betriebe müssen regelmäßig Kennzahlen zum geschlechtsspezifischen Lohnunterschied berechnen und veröffentlichen. Dafür gilt ein gestaffelter Zeitplan:
    • Ab 250 Beschäftigten: Jährliche Berichterstattung, erstmals zum 7. Juni 2027.
    • 150 bis 249 Beschäftigte: Berichterstattung alle drei Jahre, erstmals zum 7. Juni 2027.
    • 100 bis 149 Beschäftigte: Berichterstattung alle drei Jahre, erstmals zum 7. Juni 2031.
  • Pflicht zum Lohnaudit: Weist dieser Bericht in einer Beschäftigtengruppe eine ungerechtfertigte Lohnlücke von 5 Prozent oder mehr auf, die nicht innerhalb von sechs Monaten korrigiert wird, muss der Arbeitgeber gemeinsam mit der Arbeitnehmervertretung eine formelle, tiefgehende Entgeltbewertung durchführen und konkrete Gegenmaßnahmen einleiten.
  • Strengere Haftung und Beweislast: Werden die Transparenzpflichten verletzt, kehrt sich vor Gericht die Beweislast um: Dann muss das Unternehmen beweisen, dass keine Diskriminierung vorlag. Zudem haben Betroffene Anspruch auf ungedeckelten, vollständigen Schadensersatz (inklusive Nachzahlungen und entgangener Chancen), und es drohen empfindliche, umsatzbasierte Strafen.

Konträre Ansichten der Sozialpartner

Die österreichische Umsetzung könnte dann noch etwas strenger ausfallen – das legen zumindest Reaktionen auf den besagten Begutachtungsentwurf nahe. IV-Generalsekretär Christoph Neumayer spricht in einer Aussendung etwa von „nationalem Gold Plating“ und ortet „ein Bürokratiemonster für die Betriebe“. Nachdem nicht nur Österreich, sondern die Mehrheit der EU-Staaten die Richtlinie noch nicht umgesetzt hätten, fordert Neumayer überhaupt eine Überarbeitung dieser. „Wer Einkommensunterschiede nachhaltig reduzieren will, muss an den tatsächlichen Ursachen ansetzen. Zusätzliche Berichtspflichten schaffen keine gerechtere Bezahlung“, meint der IV-Generalsekretär.

Gänzlich konträr beurteilt man die Richtlinie und deren geplante Umsetzung wenig überraschend beim ÖGB. Dort will man per Aussendung „Mythen“ (also die Argumentation der politischen Gegenseite) entkräften und meint abschließend: „Die innerstaatliche Umsetzung der Richtlinie bietet die Chance, gleiche Bezahlung von Frauen und Männern, die gleiche und gleichwertige Arbeit im Betrieb verrichten, zu erreichen, ohne jemandem etwas wegzunehmen, der bisher mehr verdient hat.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz