Rania Wazir und Gertraud Leimüller gründeten 2022 leiwand.ai. Seither setzt sich das Duo für Fairness in der Künstlichen Intelligenz ein – brutkasten berichtete. Nun spielt man bei der EU-weiten Umsetzung des neuen KI-Gesetzes eine wichtige Rolle: Die EU-Kommission hat unter anderem das Wiener Startup im Programm Digital Europe damit beauftragt, die europaweite Umsetzung des KI-Gesetzes (EU AI Act) bis 2026 vorzubereiten und zu begleiten.

leiwand.ai: Hochrisiko-KI-Risiken gering halten

Gemeinsam mit Partnern aus Frankreich, Belgien und Spanien arbeitet das Unternehmen aktuell an der Verbesserung der Sicherheit von KI-Produkten. Konkret geht es darum, künftig die Sicherheit von sogenannter Hochrisiko-KI, zum Beispiel im Gesundheitswesen, in Schulen, Banken und öffentlicher Verwaltung zu gewährleisten und Risiken für Bürger:innen möglichst gering zu halten.

KI-Systeme sollen Menschenleben, Gesundheit und Grundrechte nicht gefährden, lautet eine zentrale Zielsetzung in der EU. Jedoch gibt es weltweit noch keine umfassende Regelung für die Produktsicherheit von KI-Systemen und damit auch keine Blaupausen.

Projekt NoLeFa

Im Projekt NoLeFa entwickelt leiwand.ai daher gemeinsam mit seinen Partnern in den kommenden zwei Jahren wesentliche Instrumente für die Bewertung der Sicherheit und Qualität von KI-Systemen. Vor allem geht es um die Fertigstellung von Standards für KI und ihre Übersetzung in neuartige Testverfahren und Testwerkzeuge. Diese dienen insbesondere als Pilot für die geplanten „Union Testing Facilities“ (UTFs), durch die KI-Systeme künftig auf Sicherheit, Gesundheit und andere Risiken geprüft werden sollen.

Auch soll es möglich sein, in diesen Testeinrichtungen die Compliance von KI-Systemen im Sinne des KI-Gesetzes festzustellen und somit KI-Anbieter und -Betreiber vor möglichen Bußgeldern zu bewahren.

„Gesetzgebung kann innovativ sein“

„Die Qualität von KI-Produkten ist eine wichtige Voraussetzung, damit sie künftig breit eingesetzt werden können“, sagt CEO Leimüller. Und CTO Wazir hebt die Neuerungen im Umgang mit KI ebenfalls hervor: “Auch Gesetzgebung kann innovativ sein. Mit dem AI Act werden zum ersten Mal Grundrechtsrisiken in einer Produktsicherheit eingeschlossen. Das ist inhaltlich und technologisch herausfordernd. Wir bei leiwand.ai freuen uns sehr, dass wir im NoLeFa-Konsortium Mitverantwortung für die Entwicklung der Testeinrichtungen tragen und dabei eine treibende Rolle hinsichtlich der Integration von Grundrechtsthemen haben.“