14.06.2023

AI Act: Abstimmung im EU-Parlament steht bevor

Abgeordnete des Europäischen Parlaments stimmen am Mittwoch über ihr Position zu einem lang diskutierten Gesetzespaket ab, welches die Nutzung von Künstlicher Intelligenz reglementieren soll. Es gibt jedoch Kritik an dem neuen Rechtsrahmen.
/artikel/ai-act-abstimmung-im-eu-parlament-steht-bevor
Foto: Unsplash/Guillaume Périgois

Allerspätestens seit ChatGPT in unseren Schulklassen eingesetzt wird oder in praktisch jedem Medium thematisiert wurde, ist Künstliche Intelligenz (KI) im Mainstream gelandet. Nun kommt es in der Europäischen Union (EU) zu weiteren Schritten, um auch die gesetzlichen Rahmenbedingungen zu schaffen. Am Mittwoch entscheidet das Europäische Parlament über seine Verhandlugnsposition zum AI Act. Das Gesetzespaket soll ein Regelwerk für KI-Anwendungen festlegen. Somit sollen die Pflichten von Anbieter:innen und Nutzer:innen juristisch verankert werden.

KI-Risikos erkennen und minimieren

So groß das Potenzial von Künstlicher Intelligenz ist, so groß sind auch die Befürchtungen vor dem Missbrauch der Technologie. Im AI Act werden vier unterschiedliche Risikoklassen kategorisiert. So gibt es etwa inakzeptable Risiken, die verboten werden. Darunter fallen Systeme, die Menschen ausnutzen, die Menschen aufgrund ihrer Aussagen oder Taten bewerten (Social Scoring), die biometrische Daten in Echtzeit erfassen oder auch KI-gestützte Spielwaren, die Kinder negativ beeinflussen könnten.

Zwar nicht verboten, aber unter strengen Bestimmungen reguliert werden Programme mit einem hohen Risiko, die im Bildungsbereich, Arbeitsmarkt, Grenzkontrollen oder bei kritischer Infrastruktur zum Einsatz kommen. Hier muss beispielsweise auf die Qualität der Datenfütterung geachtet werden und Transparenz gegeben sein. Anwendungen mit einem begrenztem Risiko müssen gekennzeichnet werden – dazu zählt etwa Chatbots wie ChatGPT. Jene, die laut dem Entwurf ein geringes Risiko beherbergen, also z. B. KI in Videospielen, sind frei nutzbar.

Kritik und Zeit zur Nachjustierung

Skeptiker:Innen bezweifeln, dass eine Technologie, die sich so rasant entwickelt, in dieser Form und auf diesem Wege reglementiert werden kann. Zudem wird kritisiert, dass das neue Regelwerk, die Europäische Union und seine Mitgliedsstaaten im internationalen Wettbewerb limitiert, während in den Vereinigten Staaten noch keine ernstzunehmenden juristischen Schritte in Gang gekommen sind. Andere fordern hingegen mehr Regeln und fordern weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede.

Bis der AI Act in Kraft tritt, dürfte es wohl noch zwei bis drei Jahre dauern. Nach der Abstimmung am Mittwoch starten die Verhandlungen zwischen EU-Rat, -Parlament und Kommission. Im Trilog werden Details ausgehandelt und eventuell auch etwaige Verbesserungen vorgenommen. Was der AI Act für Startups bedeuten könnte, lest ihr hier.

Deine ungelesenen Artikel:
vor 8 Stunden

Zwischen Wien und dem Silicon Valley – was Österreich sich für den KI-Sprung nach vorne abschauen kann

Dort, wo die Vorreiter:innen der KI zu Hause sind, hat brutkasten mit zwei Österreicherinnen gesprochen, die genau dazwischen stehen: Isabella Tomás (Open Austria) und Manuela Mohr-Zydek (Salesforce Österreich). Ein Gespräch über einzigartige Fähigkeiten, wichtige Learnings und offene Potentiale.
/artikel/zwischen-wien-und-dem-silicon-valley-was-oesterreich-sich-fuer-den-ki-sprung-nach-vorne-abschauen-kann
vor 8 Stunden

Zwischen Wien und dem Silicon Valley – was Österreich sich für den KI-Sprung nach vorne abschauen kann

Dort, wo die Vorreiter:innen der KI zu Hause sind, hat brutkasten mit zwei Österreicherinnen gesprochen, die genau dazwischen stehen: Isabella Tomás (Open Austria) und Manuela Mohr-Zydek (Salesforce Österreich). Ein Gespräch über einzigartige Fähigkeiten, wichtige Learnings und offene Potentiale.
/artikel/zwischen-wien-und-dem-silicon-valley-was-oesterreich-sich-fuer-den-ki-sprung-nach-vorne-abschauen-kann
(V.l.) Manuela Mohr-Zydek (Salesforce Österreich) und Isabella Tomás (Open Austria) in San Francisco. © brutkasten

Zwei Perspektiven, ein Hotspot: San Francisco. Isabella Tomás sitzt seit vier Jahren an der Schnittstelle zwischen Österreich und dem Silicon Valley. Als Konsulin und Co-Direktorin von Open Austria leitet sie das gemeinsam von Außenministerium (BMEIA) und Wirtschaftskammer Österreich (WKO) betriebene Außenwirtschafts- und Innovationsbüro und vernetzt heimische Gründerinnen, Gründer und Unternehmen mit dem wohl dichtesten Innovationsökosystem der Welt. Manuela Mohr-Zydek blickt aus der Unternehmensperspektive darauf: Seit eineinhalb Jahren verantwortet sie als Country Leaderin das Österreich-Geschäft von Salesforce und begleitet heimische Betriebe dabei, den Schritt von der digitalen Transformation zur produktiven Skalierung autonomer KI-Agenten zu schaffen.

Im exklusiven Gespräch mit brutkasten ziehen die beiden Bilanz: Wie steht es um Österreich in Sachen KI-Anwendung? Was können heimische Unternehmen von der Risikobereitschaft und Umsetzungskraft des Silicon Valley lernen und wo sollte man mit dem KI-Einsatz trotz allem Potenzial vorsichtig bleiben? Von der Rolle des Kapitals bis hin zu den Stärken österreichischer Ingenieure, Tomás und Mohr-Zydek liefern einen ehrlichen Blick auf zwei Innovationswelten, die einander viel zu sagen haben.


Brutkasten: Ihr seid beide viel zwischen Österreich und San Francisco unterwegs. Welche Learnings möchtest du von hier sofort mit nach Österreich nehmen, Manuela?

Manuela Mohr-Zydek: Man kann viel Innovation und Inspiration mit nach Österreich nehmen. Wobei ich auch sagen muss, dass wir in Österreich bereits unglaublich viel Innovation und viele neue Ideen haben. Ich bin nun seit eineinhalb Jahren als Country Leaderin für Salesforce in Österreich tätig und sehe das täglich. Was man aus dem Silicon Valley mitnehmen kann, ist die enorme Umsetzungskraft und die Pionierarbeit. In Österreich befinden wir uns in manchen Bereichen gefühlt noch ganz am Anfang – vor allem beim Thema künstliche Intelligenz. Wir haben viele Kunden, die sich bereits damit auseinandersetzen oder KI skalierbar im Einsatz haben. Im Silicon Valley ist man vermutlich schon ein Stück weiter, und genau dieses Mindset können wir mitnehmen. Wir müssen weg von „Wir probieren aus“ hin zu „Wir setzen künstliche Intelligenz skalierbar im Unternehmen ein“. Damit lässt sich einerseits der Fachkräftemangel adressieren und andererseits dem wirtschaftlichen Kostendruck begegnen. Die Strategie sollte aus unserer Sicht aber nicht sein, Arbeitsplätze abzubauen. Im Gegenteil: Wir sehen viele Chancen für junge Menschen, sich im Bereich KI weiterzubilden, umzuschulen und eine klare Zukunftsperspektive aufzubauen.

Isabella Tomás: Ich kann bestätigen, was Manuela gesagt hat. Ich bin für Open Austria seit vier Jahren im Silicon Valley. Ein wesentlicher Unterschied ist die höhere Risikobereitschaft. Gründerinnen und Gründer werden hier ermutigt und unterstützt, mutig zu agieren. Die Menschen haben keine Angst vor Innovation. In Österreich haben wir sehr viele innovative Köpfe, aber man hat oft das Gefühl, dass sie nicht immer optimal gefördert werden, um sich voll zu entfalten – das beginnt an den Universitäten und setzt sich in den Unternehmen fort. Der zweite Punkt ist die Skalierbarkeit: Hier steht eine enorme Menge an Risikokapital zur Verfügung, mit dem Startups viel schneller skalieren können. Zudem spielt der US-Markt eine entscheidende Rolle: Wer sich hier etabliert, kann relativ leicht in andere Märkte vorstoßen und weltweit skalieren. Das ist in Österreich und auf EU-Ebene aufgrund der Marktstrukturen leider noch nicht ohne Hürden möglich.

Salesforce-CEO Marc Benioff hat in seiner Eröffnungs-Keynote ein eher verhaltenes Bild von Europa in Bezug auf KI gezeichnet. Wie beobachtest du die Adaption von KI-Applikationen bei österreichischen Unternehmen, Manuela?

Manuela Mohr-Zydek: Über die letzten Monate hat sich eine sehr positive Dynamik entwickelt. Wir führen nahezu mit jedem Kunden Gespräche zum Thema künstliche Intelligenz. Es geht nicht mehr nur um erste Pilotprojekte oder Proofs of Concept, sondern darum, wie Unternehmen tatsächlich mit autonomen Agenten arbeiten können – Hand in Hand zwischen Mensch und Agent. Wir sehen eine große Offenheit dafür, Geschäftsprozesse agentenbasiert zu unterstützen. Wir befinden uns in der nächsten Stufe: weg vom reinen Ausprobieren, hin zum Etablieren einer Kultur im Sinne von „Human in the Loop“. Der Mensch bleibt entscheidungsfähig, wird aber autonom durch Agenten unterstützt.

Welche konkreten Use Cases beobachtest du, auch im Vergleich zwischen größeren Unternehmen und Startups?

Manuela Mohr-Zydek: Gerade für kleinere Unternehmen und Startups bietet KI eine riesige Chance, weil Technologie demokratisiert wird. Mit Low-Code- und No-Code-Ansätzen braucht man keine tiefe Coding-Erfahrung mehr, um einen Agenten zu bauen und eine Idee zu verwirklichen. Anfänglich haben wir sehr stark im Servicebereich mit autonomen Agenten begonnen. Über die vergangenen Monate hat sich das stark in Richtung Marketing, Sales und Commerce weiterentwickelt. Es gibt Beispiele wie PayPal oder Anwendungsfälle, bei denen Agenten automatisiert Outbound-Leads generieren, Inbound-Anfragen abarbeiten oder Marketing-Journeys erstellen, bevor der Mitarbeiter übernimmt. Im Commerce-Bereich unterstützen Agenten bei Produktauskünften auf Webseiten. Autonome Agenten befreien Mitarbeiter von wiederkehrenden, maschinellen Aufgaben, sodass sich der Mensch wieder auf seine Kernstärken besinnen kann: Kreativität und soziales Miteinander. Das ist das Schöne am Konzept des „Agentic Enterprise“.

Isabella, was beobachtest du bei österreichischen Gründern, die ins Silicon Valley oder nach San Francisco kommen? Wie sieht dort die KI-Adaption aus?

Isabella Tomás: Die meisten, die herkommen, sind bereits tief im Thema drin oder kommen genau deshalb hierher, weil San Francisco das Mekka der KI ist. Wer das Thema noch nicht mitbringt, arbeitet sich sehr schnell ein. Zu Beginn gibt es meist einen gewissen Wow-Effekt. Das Beispiel der autonomen Autos verdeutlicht das gut: Für meine Volksschulkinder ist es mittlerweile völlig normal, sich in ein fahrerloses Auto zu setzen. Europäer, die das erste Mal in San Francisco sind, sind davon meist fasziniert. Der Unterschied liegt darin, dass die Menschen hier eine ausgeprägte Early-Adopter-Mentalität haben. Sie sind überdurchschnittlich bereit, etwas völlig Neues auszuprobieren, und haben weniger Berührungsängste. Das verhilft innovativen Ideen schneller zum Durchbruch und schafft einen ersten Use Case, mit dem man zeigen kann, dass es in der Praxis funktioniert.

Welche Stärken bringen Gründerinnen und Gründer aus Österreich mit, die man im Silicon Valley schätzt?

Isabella: Man schätzt auf jeden Fall die hervorragende Ausbildung an unseren Universitäten und Fachhochschulen. Die Ausbildung steht den Top-Universitäten in den USA in nichts nach. Auch das technische Fundament, etwa von Ingenieuren im Industriebereich, wird sehr geschätzt. Die Leute wissen genau, wovon sie sprechen, und arbeiten extrem solide. Wenn sich dieses Fachwissen mit der innovativen Dynamik vor Ort verbindet, entsteht eine hervorragende Kombination. Österreicher sind vielleicht nicht immer diejenigen mit den verrücktesten Ideen, aber sie sind extrem stark darin, diese Ideen pragmatisch und erfolgreich umzusetzen.

Überspitzt gefragt: Haben Gründer:innen aus Europa im Silicon Valley einen Nachteil, weil das Vorurteil herrscht, Europäer hinkten bei KI hinterher?

Isabella Tomás: Nein, nicht unbedingt. Das Silicon Valley ist ein großer Schmelztiegel mit Menschen aus aller Welt. Österreichische Gründerinnen und Gründer, die sich gut präsentieren, haben keineswegs einen Nachteil, nur weil sie aus Europa kommen. Einen Nachteil hat man nur dann, wenn man sich schlecht präsentiert oder nicht fachkundig wirkt. Wer zeigt, dass er seinen Bereich beherrscht und etwas Interessantes auf die Beine stellt, wird hier sehr schnell anerkannt.

Manuela, Salesforce hat sich ja spätestens mit AIforce der künstlichen Intelligenz verschrieben. Was ist für Geschäftsführer:innen, die KI im Unternehmen umsetzen wollen, deiner Meinung nach der beste erste Schritt?

Manuela Mohr-Zydek: Wir setzen sehr stark bei Schulungen an – und zwar sowohl auf Führungsebene als auch auf Mitarbeiterebene. Eine Zusammenarbeit von Mensch und Agent („Agentic Enterprise“) muss von Führungskräften vorgelebt werden, was ein grundlegendes technologisches Verständnis voraussetzt. Es geht auch um die Frage der ethischen Verantwortung und darum, wo die Grenzen der Technologie liegen, damit der Mensch in der Entscheidung verbleibt. Auf Mitarbeiterebene dienen Schulungen dazu, Inspiration und Ideen zu generieren. Wir veranstalten dazu auch Hackathons mit Kunden, um Ideen in eine Roadmap zu gießen und rasch in die Umsetzung zu bringen. So entsteht sowohl Top-down als auch Bottom-up die Innovationskraft, die es für die Zukunft braucht.

Gibt es Bereiche, in denen man KI konkret noch aussparen sollte, obwohl sie viel Potenzial birgt?

Isabella Tomás: Es gibt sehr sensible Bereiche, bei denen große Vorsicht geboten ist – etwa wenn es um Gesundheitsdaten oder hochgradig personenbezogene Daten geht. Aus Sicht der öffentlichen Verwaltung gelten hier höchste Anforderungen an Datenschutz und Regelkonformität. Solange nicht zu hundert Prozent sichergestellt ist, dass alle gesetzlichen Vorgaben eingehalten werden, kann KI dort nicht ohne Weiteres eingesetzt werden. Wenn es hingegen um Recherchen oder Entwürfe für Präsentationen geht, ist das unbedenklich. Grundsätzlich gilt: Je besser man sich selbst in einem Fachgebiet auskennt, desto eher kann man KI sinnvoll nutzen, weil man das Ergebnis fachlich beurteilen kann. Wenn man keine Ahnung von der Materie hat, sollte man KI-Ergebnisse nicht blind übernehmen, sondern verifizieren.

Welche Hoppalas oder Fehler konntest du im Silicon Valley beobachten, von denen Unternehmen in Österreich lernen können?

Isabella Tomás: Die Fehler sind ähnlich wie überall. Das reicht von Anwälten, die vor Gericht erfundene Präzedenzfälle zitiert haben, über Fehldiagnosen bei medizinischen Bildanalysen bis hin zu falschen Wirtschaftsdaten auf Präsentationsfolien. Wenn man Ergebnisse ungeprüft übernimmt, kann das peinlich werden. Man darf sich nicht blind auf die KI verlassen, wenn man die Fakten nicht selbst verifizieren kann.

Manuela, wie verändert sich die Arbeit in Unternehmen konkret durch den Einsatz von Agenten?

Manuela Mohr-Zydek: Wir gehen davon aus, dass sich letztlich nahezu jeder Job verändern wird. Es geht längst nicht mehr nur darum, ein Large Language Model als Assistenten einzusetzen, sondern darum, einzelne Prozessabschnitte im Unternehmen messbar und autonom abzuarbeiten. Bei Salesforce messen wir das in „Agentic Work Units“ – hier gab es von Q1 auf Q2 einen Anstieg von 97 Prozent. Um ein Unternehmen verlässlich zu führen, braucht man valide Daten, funktionierende Prozesse, Governance und Compliance. Das LLM dient als kreatives Interface nach oben, aber darunter braucht es ein solides Fundament aus Daten, Applikationen und Sicherheit.

Isabella Tomás: Das ist auch der Vorteil von spezifischen, maßgeschneiderten Modellen, die auf den konkreten Unternehmensdaten basieren. Dort ist das Risiko von Halluzinationen oder fehlerhaften Ausgaben deutlich geringer als bei rein generischen Sprachmodellen.

Manuela Mohr-Zydek: Wie Marc Benioff in seiner Keynote hervorgehoben hat, muss man zwischen wahrscheinlichkeitsbasierten und deterministischen Ergebnissen unterscheiden. Die Kombination aus beidem liefert sowohl kreative Möglichkeiten als auch die nötige Verlässlichkeit für Unternehmensentscheidungen


Transparenzhinweis: Die Reise- und Aufenthaltskosten zur Dreamforce wurden von Salesforce übernommen. Auswahl und Bewertung der Themen erfolgten unabhängig davon.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt des Artikels betrifft die gesetzlichen Rahmenbedingungen für die Anwendung von künstlicher Intelligenz in der Europäischen Union. Durch die Kategorisierung von KI-Risiken und die Festlegung von Pflichten für Anbieter und Nutzer soll ein Regelwerk geschaffen werden, um den Missbrauch der Technologie zu vermeiden. Die Einführung des AI Act könnte somit zu mehr Transparenz und Sicherheit im Umgang mit KI beitragen und mögliche negative gesellschaftliche Auswirkungen minimieren. Allerdings gibt es auch Kritik an dem Regelwerk und Fragen bezüglich seiner Umsetzbarkeit und Folgen im internationalen Wettbewerb.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Der AI Act der Europäischen Union könnte bedeutende wirtschaftliche Auswirkungen auf Unternehmen haben, die KI-Anwendungen entwickeln und nutzen. Das Regelwerk soll Pflichten für Anbieter und Nutzer von KI-Anwendungen juristisch verankern und KI-Risiken erkennen und minimieren. Unternehmen, die KI-Systeme entwickeln und verwenden, müssen sich auf strengere Regulierungen einstellen und möglicherweise ihre Geschäftsmodelle anpassen. Startups könnten von dem AI Act ebenfalls betroffen sein.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel hat als Innovationsmanager:in eine wichtige Relevanz, da er sich mit der gesetzlichen Regelung von Künstlicher Intelligenz-Anwendungen in der Europäischen Union beschäftigt. Dies könnte mögliche Innovationen und Anwendungen beeinflussen, einschränken oder auch fördern und somit Auswirkungen auf die Entwicklungen im eigenen Unternehmen haben. Es ist daher wichtig, über die geplanten Regelungen informiert zu sein und gegebenenfalls Anpassungen vorzunehmen.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie sich über die möglichen Auswirkungen des AI Act auf Unternehmen, die auf KI-Technologie setzen oder davon betroffen sein könnten, informieren. Insbesondere sollten Sie die Kategorisierung von KI-Anwendungen mit hohem Risiko prüfen und die regulatorischen Anforderungen im Auge behalten, um mögliche Risiken für Ihre Investitionen frühzeitig zu erkennen.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist es wichtig das Thema Künstliche Intelligenz im Auge zu behalten, da es eine immer größer werdende Rolle in unserer Gesellschaft und Wirtschaft spielt. Der AI Act der Europäischen Union soll dabei helfen, gesetzliche Rahmenbedingungen für KI-Anwendungen zu schaffen und die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Somit wird es auch für Politiker:innen von Bedeutung sein, sich mit den rechtlichen Rahmenbedingungen von Künstlicher Intelligenz vertraut zu machen und diese gegebenenfalls mitzugestalten.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der AI Act ist ein Gesetzespaket, das ein Regelwerk für KI-Anwendungen festlegen soll, um die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Dabei werden verschiedene Risikoklassen kategorisiert, um die Wahl der Anwendungen mit Videoüberwachung, biometrischen Daten und Social Scoring zu regulieren. Während einige Skeptiker:innen die Regulierung kritisieren, fordern andere weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede. Die Abstimmung am Mittwoch ist ein wichtiger Schritt, und es wird einige Jahre dauern, bis der AI Act in Kraft tritt.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • EU-Parlament
  • Anbieter:innen
  • Nutzer:innen
  • Skeptiker:Innen
  • EU-Rat
  • EU-Kommission

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Europäisches Parlament
  • Europäische Union (EU)
  • ChatGPT

AI Act: Abstimmung im EU-Parlament steht bevor