Dass Künstliche Intelligenz unsere Entscheidungen spiegelt, kann auch zum Problem werden. Wurden früher eher Männer eingestellt? Die KI hat es gelernt – und macht es genauso. Wurden im Krankenhaus vor allem weiße Menschen behandelt? Die KI übernimmt das – und übersieht Unterschiede bei der Diagnostik. Wurde nie bedacht, was gehörlose Menschen brauchen? Auch die KI weiß es nicht – ihr fehlen die Daten.

Wie inklusiv KI am Ende sein kann, hängt von jenen ab, die sie programmieren. Auch Regulierungen helfen da nur bedingt. Was es wirklich braucht, haben Expert:innen auf der PeaceTech Conference des Wiener PeaceTech Hub im Rahmen der ViennaUp in Wien diskutiert. Mit dabei waren unter anderem Strategie-Expertin Jacqueline Kressner, Legal Counsel Merve Taner und Rechtsexperte Manuel Mofidian. Ein Überblick.

Marginalisierte Gruppen einbeziehen

Es ist ein altbekanntes Problem: die Verzerrung in KI-Systemen, die oft auf unausgewogenen oder historisch voreingenommenen Datensätzen basiert. Man denke an diagnostische Tools, die bei dunkleren Hauttönen weniger genau sind, oder Rekrutierungswerkzeuge, die Frauen benachteiligen. Oft bemerken nicht einmal Profis diese Verzerrungen.

Ein Lösungsansatz kann sein, marginalisierte Gruppen in den Entwicklungsprozess einzubeziehen – nicht nur als Zielgruppe, sondern aktiv als Entwickler:innen, Designer:innen oder Unternehmer:innen. Wer unterschiedliche Lebensrealitäten abbilden möchte, muss sie im gesamten Prozess mitnehmen, nicht erst in der Testphase.

Open Source als erster Ansatz

Das wiederum wirft eine andere Frage auf: Wie verteilt sich der Zugang zu Ressourcen? Auf einer globalen Skala haben viele Menschen noch gar keine ausreichende Internetverbindung, um die neuen Tools zu nutzen. Und selbst wenn diese besteht: Ob und wie KI angenommen wird, hängt nach wie vor mit soziodemografischen Faktoren zusammen, also etwa Alter oder Bildung. „Für die, die zurückgelassen werden, wird das massive Konsequenzen haben“, sagt Jacqueline Kressner, Strategieberaterin und Gründerin mit Fokus auf FemTech, KI und internationale Expansion.

Open Source kann hier helfen, möglichst viele unterschiedliche Menschen an Bord zu holen. Alle können beitragen, der Prozess wird transparent – und Wissen weltweit zugänglich. Das schafft demokratischere Bedingungen für Entwicklung und Nutzung. „Closed Source ist eine Blackbox. Wir wissen einfach nicht, wo die Daten herkommen“, sagt Kressner. Und wer nicht weiß, woher die Daten kommen, kann auch nicht beurteilen, ob das Ergebnis verzerrt ist.

Alle sind mitverantwortlich

Es liegt an allen, das zu ändern – Entwickler:innen, Unternehmen, Regulierungsbehörden, Nutzer:innen und der Zivilgesellschaft. Darin sind sich die Diskussionsteilnehmer:innen einig. Unternehmen sollten vielfältige Teams aufbauen, ethische Standards über Gesetze hinaus ernst nehmen und Transparenz fördern. „Gesetz und Ethik sind zwei verschiedene Dinge“, sagt Merve Taner, Legal Counsel für Produkt- und KI-Fragen bei der Erste Bank und Sparkasse. Heißt: Gesetze erlauben möglicherweise Umstände, die ethisch noch immer eine Gratwanderung darstellen. NGOs können als Watchdog unterstützen, Nutzer:innen, indem sie Anwendungen kritisch hinterfragen.

Behörden können zwar Rahmen schaffen, in denen faire und inklusive KI-Entwicklung gefördert wird. Aber vieles hängt nach wie vor davon ab, wer diese Regelungen interpretiert und umsetzt.

Regulierungen vs. Innovation

Für Innovation bedeuten Regulierungen aber nicht nur Gutes. Strenge Vorgaben könnten Ideen ausbremsen. „Ich stehe der Regulierung eher kritisch gegenüber, weil wir uns in einem globalen Wettbewerb befinden und ich denke, dass die EU zur Überregulierung neigt. Aber es gibt definitiv auch Positives daran – nämlich, dass wir irgendwann Rechtssicherheit haben werden und der Markt in der Lage ist, Produkte entsprechend zu entwickeln“, sagt etwa Anwalt und Rechtsexperte Manuel Mofidian. Gerade erst stieg er bei Nifty IP als Investor ein – einem Tool, das Kreativschaffenden helfen soll, ihre Stile rechtlich vor KI-Missbrauch zu schützen.

Langfristig jedenfalls könnte die Regulierung auch einen Wettbewerbsvorteil bieten – etwa durch Vertrauen in „Made in Europe“-KI. „Vielleicht wird dies Geschäfte aus aller Welt anziehen, weil der Markt sagt: Lasst uns europäische KI nutzen – denn wir wissen, dass sie regelkonform und ethisch ist“, sagt Mofidian.

Der Tenor: Nicht Regulierung an sich hemmt Innovation, sondern schlechte, unklare oder unflexible Regulierung. Wenn es etwa alle zwei Jahre neue Regelungen gibt, wird es schwierig, Schritt zu halten. Nichtsdestotrotz: „Wir brauchen von Anfang an Sicherheitsgurte in den Autos“, sagt Jacqueline Kressner. Und genau hier kommt PeaceTech ins Spiel: Technologien, die die Welt ein Stück demokratischer machen.