14.06.2023

AI Act: Abstimmung im EU-Parlament steht bevor

Abgeordnete des Europäischen Parlaments stimmen am Mittwoch über ihr Position zu einem lang diskutierten Gesetzespaket ab, welches die Nutzung von Künstlicher Intelligenz reglementieren soll. Es gibt jedoch Kritik an dem neuen Rechtsrahmen.
/artikel/ai-act-abstimmung-im-eu-parlament-steht-bevor
Foto: Unsplash/Guillaume Périgois

Allerspätestens seit ChatGPT in unseren Schulklassen eingesetzt wird oder in praktisch jedem Medium thematisiert wurde, ist Künstliche Intelligenz (KI) im Mainstream gelandet. Nun kommt es in der Europäischen Union (EU) zu weiteren Schritten, um auch die gesetzlichen Rahmenbedingungen zu schaffen. Am Mittwoch entscheidet das Europäische Parlament über seine Verhandlugnsposition zum AI Act. Das Gesetzespaket soll ein Regelwerk für KI-Anwendungen festlegen. Somit sollen die Pflichten von Anbieter:innen und Nutzer:innen juristisch verankert werden.

KI-Risikos erkennen und minimieren

So groß das Potenzial von Künstlicher Intelligenz ist, so groß sind auch die Befürchtungen vor dem Missbrauch der Technologie. Im AI Act werden vier unterschiedliche Risikoklassen kategorisiert. So gibt es etwa inakzeptable Risiken, die verboten werden. Darunter fallen Systeme, die Menschen ausnutzen, die Menschen aufgrund ihrer Aussagen oder Taten bewerten (Social Scoring), die biometrische Daten in Echtzeit erfassen oder auch KI-gestützte Spielwaren, die Kinder negativ beeinflussen könnten.

Zwar nicht verboten, aber unter strengen Bestimmungen reguliert werden Programme mit einem hohen Risiko, die im Bildungsbereich, Arbeitsmarkt, Grenzkontrollen oder bei kritischer Infrastruktur zum Einsatz kommen. Hier muss beispielsweise auf die Qualität der Datenfütterung geachtet werden und Transparenz gegeben sein. Anwendungen mit einem begrenztem Risiko müssen gekennzeichnet werden – dazu zählt etwa Chatbots wie ChatGPT. Jene, die laut dem Entwurf ein geringes Risiko beherbergen, also z. B. KI in Videospielen, sind frei nutzbar.

Kritik und Zeit zur Nachjustierung

Skeptiker:Innen bezweifeln, dass eine Technologie, die sich so rasant entwickelt, in dieser Form und auf diesem Wege reglementiert werden kann. Zudem wird kritisiert, dass das neue Regelwerk, die Europäische Union und seine Mitgliedsstaaten im internationalen Wettbewerb limitiert, während in den Vereinigten Staaten noch keine ernstzunehmenden juristischen Schritte in Gang gekommen sind. Andere fordern hingegen mehr Regeln und fordern weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede.

Bis der AI Act in Kraft tritt, dürfte es wohl noch zwei bis drei Jahre dauern. Nach der Abstimmung am Mittwoch starten die Verhandlungen zwischen EU-Rat, -Parlament und Kommission. Im Trilog werden Details ausgehandelt und eventuell auch etwaige Verbesserungen vorgenommen. Was der AI Act für Startups bedeuten könnte, lest ihr hier.

Deine ungelesenen Artikel:
09.09.2026

Knightify: Wiener Startup will mit der Pulse-App für besseres Verstehen in Beziehungen sorgen

Das Wiener Software-Studio Knightify FlexCo hat mit „Pulse" eine Couples-Wellness-App für iPhone und Apple Watch entwickelt. Die Anwendung soll Wellness-Signale und persönlichen Beziehungskontext miteinander verbinden.
/artikel/knightify-wiener-startup-will-mit-der-pulse-app-fuer-besseres-verstehen-in-beziehungen-sorgen
09.09.2026

Knightify: Wiener Startup will mit der Pulse-App für besseres Verstehen in Beziehungen sorgen

Das Wiener Software-Studio Knightify FlexCo hat mit „Pulse" eine Couples-Wellness-App für iPhone und Apple Watch entwickelt. Die Anwendung soll Wellness-Signale und persönlichen Beziehungskontext miteinander verbinden.
/artikel/knightify-wiener-startup-will-mit-der-pulse-app-fuer-besseres-verstehen-in-beziehungen-sorgen
Pulse
© Knightify/Canva - Amirali Khoshneviszadeh, Founder | Knightify FlexCo.

„Wie geht’s?“. „Gut“ – Das ist die Konversation zwischen zwei Individuen, die wohl am häufigsten im deutschsprachigen Raum geführt wird, oftmals in einer Beziehung. Es handelt sich dabei nicht bloß um eine Reflex-Antwort oder Verheimlichung des wahren Zustandes, sondern dem Wiener Software-Studio Knightify FlexCo zufolge, manchmal einfach um Unwissen, was mit einem los ist.

Pulse: Health-Daten als Hinweisgeber für Partner:in

„Der Tag war lang, der Schlaf war schlecht, der Kopf ist voll, die eigene Belastbarkeit ist niedriger als sonst. Man ist vielleicht nicht krank und braucht auch keine medizinische Diagnose. Man ist einfach erschöpft“, beschreibt Amirali Khoshneviszadeh, Gründer von Knightify, die unsichtbare Seite von Beziehungen. Und möchte mit „Pulse“ hier ansetzen.

Mit dieser App werden laut Unternehmen Daten aus Apple Watch und Apple Health herangezogen, um Hinweise für Partner:innen zu formulieren. Statt konkrete Messwerte wie Herzfrequenz, Schlafdauer oder HRV weiterzugeben, soll Pulse daraus einen allgemein gehaltenen Hinweis ableiten – etwa, dass ein ruhiger Abend sinnvoll sein könnte. Die App soll dabei weder Diagnosen stellen noch den Gesundheitszustand eines Nutzers oder einer Nutzerin bewerten.

„Wir wollten nicht noch ein Dashboard bauen, das Menschen dazu bringt, sich selbst ständig zu analysieren“, sagt Khoshneviszadeh. „Wir wollten herausfinden, ob Technologie manchmal auch etwas viel Einfacheres tun kann: einem Menschen helfen, den anderen besser zu verstehen, ohne dass dieser alles erklären muss.“

Datenschutz

Ein Schwerpunkt liegt laut dem Founder auf dem Datenschutz. Die Rohdaten würden auf dem iPhone verarbeitet und nicht an die Server des Unternehmens übertragen. Auch Partner:innen erhalten demnach keine konkreten biometrischen Werte. Geteilt werden können stattdessen die daraus generierten sogenannten Wellness-Cues.

Das Teilen einzelner Signale soll zudem freigegeben werden können und sich jederzeit pausieren lassen. Zusätzlich bietet Pulse Funktionen wie einen privaten, Ende-zu-Ende-verschlüsselten Chat, gemeinsame Erinnerungen, Fragen des Tages und Möglichkeiten, um um Nähe oder ein Gespräch zu bitten. Zyklusdaten können freiwillig aktiviert werden; sie bleiben standardmäßig privat und werden nicht automatisch mit dem Partner geteilt, heißt es.

„Wenn Technologie in die intimsten Bereiche eines Menschen kommt, muss sie nicht nur mehr können. Sie muss auch wissen, was sie nicht tun sollte“, sagt Khoshneviszadeh hierzu.

Pulse als Kombination aus Wearable-, Wellness- und Couples-App

Der Gründer bezeichnet Pulse als Kombination aus Wearable-, Wellness- und Couples-App und arbeitet nach eigenen Angaben derzeit an der Weiterentwicklung des Produkts. Dafür sammle das Unternehmen Feedback von Paaren, um herauszufinden, welche Informationen im Beziehungsalltag tatsächlich hilfreich sind.

Langfristig spricht Knightify von „Relationship Intelligence“ – gemeint ist ein persönlicher Kontext, der das gegenseitige Verständnis unterstützen soll, ohne die Beziehung selbst zu bewerten. Pulse wurde in Wien entwickelt und ist laut Pressemitteilung derzeit kostenlos für iPhone und Apple Watch verfügbar; die Apple Watch ist optional.

„Wir glauben, dass die interessanteste Information in einer Beziehung nicht unbedingt lautet, wie jemand heute geschlafen hat“, sagt Khoshneviszadeh abschließend. „Interessanter ist vielleicht, was diese Information für genau diese zwei Menschen bedeutet.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt des Artikels betrifft die gesetzlichen Rahmenbedingungen für die Anwendung von künstlicher Intelligenz in der Europäischen Union. Durch die Kategorisierung von KI-Risiken und die Festlegung von Pflichten für Anbieter und Nutzer soll ein Regelwerk geschaffen werden, um den Missbrauch der Technologie zu vermeiden. Die Einführung des AI Act könnte somit zu mehr Transparenz und Sicherheit im Umgang mit KI beitragen und mögliche negative gesellschaftliche Auswirkungen minimieren. Allerdings gibt es auch Kritik an dem Regelwerk und Fragen bezüglich seiner Umsetzbarkeit und Folgen im internationalen Wettbewerb.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Der AI Act der Europäischen Union könnte bedeutende wirtschaftliche Auswirkungen auf Unternehmen haben, die KI-Anwendungen entwickeln und nutzen. Das Regelwerk soll Pflichten für Anbieter und Nutzer von KI-Anwendungen juristisch verankern und KI-Risiken erkennen und minimieren. Unternehmen, die KI-Systeme entwickeln und verwenden, müssen sich auf strengere Regulierungen einstellen und möglicherweise ihre Geschäftsmodelle anpassen. Startups könnten von dem AI Act ebenfalls betroffen sein.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel hat als Innovationsmanager:in eine wichtige Relevanz, da er sich mit der gesetzlichen Regelung von Künstlicher Intelligenz-Anwendungen in der Europäischen Union beschäftigt. Dies könnte mögliche Innovationen und Anwendungen beeinflussen, einschränken oder auch fördern und somit Auswirkungen auf die Entwicklungen im eigenen Unternehmen haben. Es ist daher wichtig, über die geplanten Regelungen informiert zu sein und gegebenenfalls Anpassungen vorzunehmen.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie sich über die möglichen Auswirkungen des AI Act auf Unternehmen, die auf KI-Technologie setzen oder davon betroffen sein könnten, informieren. Insbesondere sollten Sie die Kategorisierung von KI-Anwendungen mit hohem Risiko prüfen und die regulatorischen Anforderungen im Auge behalten, um mögliche Risiken für Ihre Investitionen frühzeitig zu erkennen.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist es wichtig das Thema Künstliche Intelligenz im Auge zu behalten, da es eine immer größer werdende Rolle in unserer Gesellschaft und Wirtschaft spielt. Der AI Act der Europäischen Union soll dabei helfen, gesetzliche Rahmenbedingungen für KI-Anwendungen zu schaffen und die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Somit wird es auch für Politiker:innen von Bedeutung sein, sich mit den rechtlichen Rahmenbedingungen von Künstlicher Intelligenz vertraut zu machen und diese gegebenenfalls mitzugestalten.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der AI Act ist ein Gesetzespaket, das ein Regelwerk für KI-Anwendungen festlegen soll, um die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Dabei werden verschiedene Risikoklassen kategorisiert, um die Wahl der Anwendungen mit Videoüberwachung, biometrischen Daten und Social Scoring zu regulieren. Während einige Skeptiker:innen die Regulierung kritisieren, fordern andere weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede. Die Abstimmung am Mittwoch ist ein wichtiger Schritt, und es wird einige Jahre dauern, bis der AI Act in Kraft tritt.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • EU-Parlament
  • Anbieter:innen
  • Nutzer:innen
  • Skeptiker:Innen
  • EU-Rat
  • EU-Kommission

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Europäisches Parlament
  • Europäische Union (EU)
  • ChatGPT

AI Act: Abstimmung im EU-Parlament steht bevor