07.12.2022

AI Act der EU: KI-Regulierung im Anmarsch

Was hat sich seit dem ersten AI-Act-Entwurf geändert? Welche Auswirkungen hat das auf Startups? Jeannette Gorzala, Rechtsanwältin und Mitglied von AI Austria sowie dem European AI Forum, klärt diese Fragen in ihrem Gastbeitrag auf.
/ai-act-der-eu-ki-regulierung-im-anmarsch/
In ihrem Gastbeitrag erklärt Gorzala, was der AI Act für Startups bedeutet. (c) (c) AdobeStock & Jeannette Gorzala
Der Summary Modus bietet einen raschen
Überblick und regt zum Lesen mehrerer
Artikel an. Der Artikeltext wird AI-basiert
zusammengefasst mit der Unterstützung
des Linzer-Startups Apollo AI.

Seit der Veröffentlichung des ersten Entwurfs des Artificial Intelligence Act (AI Act) durch die Europäischen Kommission im April 2021 läuft das europäische Gesetzgebungsverfahren auf Hochtouren. Am 6. Dezember 2022, etwas mehr als eineinhalb Jahre nach der Erstveröffentlichung, wurde der gemeinsame Standpunkt im Rat der Europäischen Union (Rat) zum AI Act verabschiedet.

Die Definition des KI-Systems bestimmt, welche Technologien vom AI Act überhaupt betroffen sind, und damit die Pflichten von Herstellern und Nutzern. Im Vergleich zur ursprünglich umstrittenen, sehr weiten Definition, wirkt die neue stark eingegrenzt, da sie sich nunmehr nur auf Software bezieht, die machine learning oder Logik- sowie wissensbasierte Ansätze verwendet. Statistische Ansätze, Such-, Schätz- und Optimierungsmethoden wurden als KI-Technologien gestrichen. Dies darf jedoch nicht darüber hinwegtäuschen, dass das Verständnis von machine learning und Logik- und wissensbasierten Ansätzen sehr umfangreich ist.

Achtung bei Erstellung & Verwendung von General Purpose AI

Neu ist, dass auch general purpose AI systeme (auch wenn sie Open Source sind), die entweder Hochrisiko-Systeme sind oder als Komponenten für diese verwendet werden, die Compliance für Hochrisiko-Systeme erfüllen müssen. General purpose AI sind Systeme, die allgemeine Funktionen, wie beispielsweise Bild-, Sprach-, Texterkennung, Video- und Audioproduktion, Mustererkennung, Fragenbeantwortung oder Übersetzung ausführen können. Diese Bestimmung kann eine breite Palette von Entwicklern entlang der Software-Lieferkette betreffen, weshalb bereits jetzt auf good governance geachtet werden sollte. Die konkreten Pflichten stehen noch nicht fest und sollen durch weitere Rechtsakte konkretisiert werden.

AI Act sieht hohe Risiken bei Hochrisiko-KI

Für die Klassifizierung, ob ein Hochrisiko KI-System vorliegt, wird eine horizontale Ebene eingezogen. Diese soll dazu dienen, KI-Systeme, die wahrscheinlich zu keinen fundamentalen Risiken für Gesundheit, Sicherheit oder Grundrechte führen, weil ihr Output nur als Zusatz zu einer Aktion oder Entscheidung dient, von der Hochrisiko-Kategorie auszunehmen. Schwierig ist, dass hier erst spätestens einem Jahr nach Inkrafttreten des AI Acts genaue Vorgaben ergehen sollen. Startups müssen daher für die Einordnung ihres Geschäftsmodells ein zusätzliches Kriterium berücksichtigen, dass mit einer unklaren Abwägungsentscheidung behaftet ist. Startups mit Lösungen im Bereich Gesundheitsversicherung oder digitale Infrastruktur sollten im Auge behalten, dass diese Bereiche nunmehr ebenfalls der Hochrisiko-Kategorie hinzugefügt wurden.

Spielen im neuen KI-Sandkasten unter realen Konditionen, mit Haftung

Mit KI-Sandboxes soll ein kontrolliertes Umfeld geschaffen werden, in dem innovative KI-Systeme entwickelt, getestet und validiert werden können, dies unter der direkten Aufsicht und Anleitung der national zuständigen Behörden. Mit dem Ziel den AI Act innovationsfreundlich zu gestalten wurde klargestellt, dass AI Sandboxes auch das testen von KI-Systemen im Echtbetrieb erlauben sollen. Unter bestimmten Voraussetzungen soll auch das Testen von KI-Systemen außerhalb behördlicher Aufsicht zulässig sein. Klargestellt wird aber auch, die Teilnahme in der KI-Sandbox ist kein Freischein. Teilnehmer haften für jegliche verursachen Schäden.


Welcher Haftungsrahmen für KI geplant ist und was auf Softwareentwickler:innen zukommt, wird im zweiten Teil des Startup-Updates behandelt.

Deine ungelesenen Artikel:
25.01.2023

DODO: Schnellere, kosteneffizientere und nachhaltigere Last Mile-Lieferung dank KI

Die aktuelle Kostensteigerung drückt auch im E-Commerce auf die Preise. DODO federt das mit seinem smarten Logistik-System ab.
/dodo-last-mile-lieferung/
DODO
(c) DODO
sponsored

Die Inflation der vergangenen Monate macht wohl jedem zu schaffen. Unternehmen, die ihre Ware via E-Commerce vertreiben, sind gleich mehrfach belastet. Vor allem die weiterhin hohen Sprit- und Energiepreise schmerzen. Auf Kund:innen-Seite ist die Devise aber weiterhin ganz klar: Die Lieferung soll noch schneller werden, dabei trotzdem umweltfreundlich sein und das alles natürlich gratis. Unmöglich? Nein, meint man bei DODO.

Same-Day-Delivery auf der letzten Meile – auch bei Waren, auf die man sonst länger wartet

„Die Zeiten sind schwierig und der Markt hart umkämpft. Versäumnisse auf der letzten Meile können sich da schnell negativ auf die Performance von Unternehmen im E-Commerce auswirken“, heißt es vom Logistik- und Technologie-Unternehmen. Dieses hat sich auf Same-Day-Delivery auf der letzten Meile spezialisiert. Die Besonderheit: DODO bringt nicht nur warmes Essen in kürzester Zeit, sondern auch Waren noch am selben Tag, auf die man üblicherweise eine längere Zeit lang warten muss. Dabei will man trotzdem nachhaltiger sein und kompetitive Preise anbieten – und höchste Qualitätsstandards sowie einen außergewöhnlich freundlichen Service wahren.

(c) DODO

KI-basiertes System GAIA sorgt bei DODO für die optimale Route

Der Schlüssel zu diesem umfassenden Versprechen an die Partner liegt im eigens entwickelten KI-basierten Software-System GAIA. Dieses wertet große Datenmengen aus dem Betrieb in Echtzeit aus und erstellt damit Prognosen zur Optimierung der Auslieferung. „Durch intelligente Planung können wir eine maximale Anzahl von Aufträgen auf optimal gestaltete Routen legen. Dadurch werden mehr Kunden mit einem Auto beliefert, das gleichzeitig weniger Kilometer zurücklegt. Das bedeutet auch eine geringere Auslastung der Zusteller:innen“, heißt es von DODO.

Kosteneffizienter und besser für die Umwelt

Händler können so nicht nur die Kosten für jeden Auftrag reduzieren. „Wir tragen auch dazu bei, die Umweltbelastung durch die Zustellung zu verringern und die städtische Logistik insgesamt umweltfreundlicher zu gestalten“, so das Unternehmen. Dazu setzt man zusätzlich auf E-Mobilität. Und auch das Kundenerlebnis verbessere sich durch die effiziente, schnelle, saubere Lieferung deutlich, was zu einem höheren Umsatz führe.

(c) DODO

Echtzeit-Reporting und Bewertung der DODO-Zusteller:innen

Ob diese Versprechen tatsächlich eingelöst werden, können Partner von DODO jederzeit nachvollziehen. Dazu stellt das Unternehmen ein Reporting-Tool bereit, das einen Echtzeit-Überblick über die Effizienz des Betriebs gibt. Und auch wenn doch einmal etwas bei der Auslieferung schief geht, gibt es einen schnellen Weg: Partnerunternehmen von DODO können über ein weiteres Tool die Zusteller:innen bewerten. Damit soll höchste Qualität sichergestellt werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

In ihrem Gastbeitrag erklärt Gorzala, was der AI Act für Startups bedeutet. (c) (c) AdobeStock & Jeannette Gorzala

AI Act der EU: KI-Regulierung im Anmarsch

Was hat sich seit dem ersten AI-Act-Entwurf geändert? Welche Auswirkungen hat das auf Startups? Jeannette Gorzala, Rechtsanwältin und Mitglied von AI Austria sowie dem European AI Forum, klärt diese Fragen in ihrem Gastbeitrag auf.

Summary Modus

AI Act der EU: KI-Regulierung im Anmarsch

AI Act der EU: KI-Regulierung im Anmarsch

Es gibt neue Nachrichten

Auch interessant