22.03.2023

KI ist die Zukunft, doch wo bleibt die Diversität?

Carina Zehetmaier und Olivia Pfeiler haben die internationalen Frauennetzwerke “Women in AI” und “Women in Data Science” nach Österreich geholt, um aktiv an einer Zukunft zu arbeiten, in der künstliche Intelligenz (KI) fair und gerecht eingesetzt wird. Im brutkasten-Interview erklären die beiden Botschafterinnen, warum Diversität und Inklusion in diesen Bereichen wichtig sind.

/artikel/ki-diversitaet

✨ AI Kontextualisierung

Mit dem Einsatz der künstlichen Intelligenz (KI) bildet die Menschheit eine bessere, intelligentere und rationalere Zukunft. Künstliche Intelligenz basiert auf Algorithmen. Diese brauchen Daten, um zu funktionieren. Jedoch werden Algorithmen (überwiegend) mit unbereinigten Datensätzen trainiert, die negative Diskriminierungsstrukturen zwischen Mann und Frau oder gegenüber Minderheiten aufweisen.

Nach wie vor bekommen Frauen für die gleiche Arbeit weniger bezahlt als Männer, müssen mehr Sorgearbeit leisten und werden dennoch vor, nach und während der Schwangerschaft diskriminiert. Diese Probleme prägen weiterhin unseren Alltag und spiegeln sich sowohl in den Algorithmen, als auch in den erfassten Daten wider. KI-Systeme sind voreingenommen, weil sie von Menschen entwickelt werden. Developer:innen und Team-Mitglieder, welche die Entscheidungen für Algorithmen treffen, beeinflussen deren Erkenntnis.

Die Wahrscheinlichkeit, dass zukünftige KI-Entwicklungen weiterhin das bestehende Ungleichgewicht widerspiegeln, ist groß. Laut einer Studie aus dem Jahr 2021 sind nur 22 Prozent der Beschäftigten in der KI- und Data-Science-Branche Frauen. Somit trifft eine überwiegend männliche Belegschaft die Entscheidungen für die KI-Systeme der Zukunft, was wiederum eine Herausforderung für eine geschlechtergerechte Zukunft darstellt.

Um dem entgegenzuwirken, haben die Botschafterinnen Carina Zehetmaier (Präsidentin von Women in AI Austria) und Olivia Pfeiler (Gründerin von Women in Data Science Villach) in Österreich zwei internationale Frauennetzwerke etabliert, die die Förderung von Diversität und Inklusion in der KI- und Data-Science-Branche zum Ziel haben. Der Fokus liegt darauf, Expertinnen aus diesen Bereichen vor den Vorhang zu holen und somit auf die Geschlechterkluft und Ungleichheiten aufmerksam zu machen, die in einem eintönigen System versteckt sind.

Women in AI Austria

Der gemeinnützige Verein Women in AI (WAI) ist ein internationaler Do-Tank und seit November 2020 als lokaler Verein auch in Wien, Oberösterreich und Kärnten vertreten. Unter der Leitung von Carina Zehetmaier (Präsidentin) und Gabriele Bolek-Fügl (Vize-Präsidentin) bietet Women in AI Austria diverse Veranstaltungen, Weiterbildungs- und Mitgestaltungsmöglichkeiten für gleichgesinnte Frauen und Männer an.

Mit dem breiten Angebot bestrebt das Netzwerk, mehr Mädchen und Frauen für das Thema künstliche Intelligenz zu begeistern, unabhängig davon, ob sie technisch oder nicht-technisch engagiert sind. Das von Microsoft gesponsorte globale Frauennetzwerk WAI hat über 8.000 Mitglieder in 140 Ländern. Mit dem Hauptziel, Diversität in der KI-Branche voranzutreiben, möchte der Verein sich dafür einsetzen, dass KI-Lösungen für alle Menschen geschaffen werden und funktionieren – nicht nur für eine bestimmte Bevölkerungsgruppe oder ein Geschlecht. “Es darf nicht vergessen werden, dass die Hälfte der Weltbevölkerung aus Frauen besteht”, sagt die Präsidentin von Women in AI Austria.

“Wir finden keine weiblichen Talente”- dieser Satz werde von vielen Unternehmen oftmals dafür genutzt, um All-Male-Panels oder niedrige Frauenquoten in ihrem Unternehmen zu begründen. Aus diesem Grund möchte WAI-Austria-Präsidentin Zehetmaier die Suche für viele Betriebe erleichtern, indem sie auf Anfrage Expertinnen und Sprecherinnen zu diversen AI-Themen nennt. “Wir sind sehr interdisziplinär und haben für fast alle Fachbereiche Expertinnen. Viele talentierte Frauen sind in den Bereichen Technik, Ethik und Recht tätig und wir haben die Freude, sie zu unterstützen”, erklärt Zehetmaier.

Women in Data Science Villach

Diese Absicht verfolgt auch die österreichische Botschafterin des Women in Data Science (WiDS) Vereins, Olivia Pfeiler. Seit 2020 leitet sie gemeinsam mit Anita Kloss-Brandstätter in Zusammenarbeit mit AI Carinthia den regionalen Absetzer der Stanford-Initiative Women in Data Science in Villach. Als studierte Mathematikerin arbeitet Pfeiler seit 15 Jahren im Data-Science-Bereich und hat regelmäßig bemerkt, dass sie eine von wenigen Frauen in der Branche war. Vor allem in Führungspositionen sei das auffälig. “Im Studium habe ich das nicht stark bemerkt. Aber besonders in Leitungspositionen wird die Luft für Frauen sehr dünn. Da wird die Kluft immer größer”, sagt die Botschafterin.

Vor ungefähr vier Jahren stolperte Pfeiler über die Stanford-Initiative, die von drei Professorinnen gegründet wurde, um den Gender-Gap im Data-Science-Bereich zu bekämpfen. Auch Pfeiler hat es sich zum Anliegen gemacht, mehr Role Models für junge Mädchen und Frauen sichtbar zu machen und ihnen eine Bühne zu bieten.

“Oft nehmen sich Frauen zurück, wenn es um Präsentationen in Konferenzen handelt. Wir bei Women in Data Science Villach laden alle dazu ein, über Daten und Projekte zu diskutieren. Niemand wird ausgeschlossen. Aber bei unseren Veranstaltungen haben nur Frauen die Möglichkeit, auf die Bühne zu treten”, erklärt die Datenwissenschafterin. Ziel sei es, Frauen dazu zu motivieren, selbstbewusst ihre Kompetenzen zu präsentieren.

Aktuell zählt das Frauennetzwerk WiDS in Villach 250 Mitglieder. Der globale Verein organisiert jährlich rund 200 regionale Veranstaltungen in mehr als 50 Ländern. Dazu zählen Konferenzen, Datathons, Podcasts, Programme für die nächste Generation, Workshops als Inspiration, sowie Bildungs- und Netzwerkmöglichkeiten.

Ihren Ursprung hat die Women in Data Science Initiative in Stanford, wo die jährliche WiDS Worldwide Konferenz stattfindet und Mitgliedern aus aller Welt hybrid die Teilnahme ermöglicht. Neben der jährlichen Stanford-Versammlung organisieren Pfeiler und Kloss-Brandstätter auch die regionale „Women in Data Science Villach“-Konferenz für ihre 250 Mitglieder in Österreich, welche dieses Jahr am 25. Mai stattfindet.

Künstliche Intelligenz korrigiert die Menschheit

Die Verwendung von unbereinigten Datensätzen kann zu diskriminierenden Ergebnissen führen, was einen wichtigen Diskussionspunkt in Bezug auf den Einsatz von künstlicher Intelligenz darstellt. In diesem Zusammenhang wird oft betont, dass Unternehmen, die Algorithmen entwickeln, sicherstellen müssen, dass ihre Datensätze repräsentativ sind und potenzielle Verzerrungen vermeiden.

Laut der „Women in Data Science Villach“-Botschafterin, Olivia Pfeiler, sei das vor allem dann wichtig, wenn die Entscheidung der künstlichen Intelligenz Konsequenzen für einen Menschen hat. Die Präsidentin von „Women in AI Austria“, Carina Zehetmaier, appelliert an die Gesellschaft, dass man KI-Technologien dennoch als Enabler sieht und die Angst rund um ihren Einsatz und möglichen Schäden, die dadurch eventuell verursacht werden, bewältigt. “Oft ist der Mensch für den Fehler verantwortlich, wenn eine KI-Lösung eine ethisch inkorrekte Entscheidung trifft. Oder auch die historischen Daten, die Frauen entweder benachteiligt oder nicht berücksichtigt haben. Nun haben wir eine Datenbasis, die dasselbe Problem wiedergibt. Auch dann gilt es, die Fehler als Chance zu sehen, um die Fehlentscheidungen der Vergangenheit zu korrigieren und gemeinsam eine faire Zukunft für alle zu gestalten”, erklärt Zehetmaier.

Laut Pfeiler muss man zudem darauf achten, dass die langjährige Unterrepräsentation von Frauen in den Medien, Konferenzen und Publikationen sowie das aktuelle Streben nach Gleichstellung nicht zu unrealistischen Erwartungen führen. “Wenn nur 25 Prozent der Computer-Science-Studierenden weiblich sind, darf man nicht erwarten, dass 50 Prozent der Publikationen in diesem Bereich von Frauen kommen”, erklärt die WiDS-Botschafterin.

Gerechter Einsatz von künstlicher Intelligenz durch Diversität

Nach Ansicht der Expertinnen wird die Weiterentwicklung von künstlicher Intelligenz nur mit menschlicher Interaktion, Eingriff und Korrektur gelingen. Menschen stehen sowohl bei der Entwicklung, als auch bei der Nutzung dieser Algorithmen im Vordergrund. Für den Erfolg von künstlicher Intelligenz ist eine Vielfalt an Perspektiven und Erfahrungen entscheidend.

Der angehende Diskurs über die Ungerechtigkeit zwischen den Geschlechtern ist das eine Thema. Eine weitere Herausforderung ist die Unterrepräsentation von Minderheiten. Historisch vernachlässigte oder diskriminierte Gruppen werden bei Entscheidungen, die auf Algorithmen basieren, oft nicht ausreichend berücksichtigt. Um Fairness in der Zukunft zu gewährleisten, trägt das Thema der Intersektionalität eine gleichwertige Rolle wie die Bekämpfung der Geschlechterkluft.

“Es gibt keinen perfekten Algorithmus”, sagt Zehetmaier, während Pfeiler erklärt, dass “die Vostellung, alle Bevölkerungsgruppen bei der Entwicklung der Algorithmen zu berücksichtigen, utopisch ist”. Es sollte der Fokus darauf liegen, diverse Teams zusammenzustellen, die in der Lage sind, während der Entwicklungsphase vielfältige Aspekte in ihre Entscheidungen zu integrieren und dadurch erfolgreicher zu sein. Abschließend betont Zehetmaier, dass bei Gesprächen zum Thema Geschlechtergerechtigkeit und Diskriminierung Frauen oftmals als Minderheiten beschrieben werden. “Frauen sind keine Minderheiten. Es leben mehr Frauen auf der Welt als Männer und es ist unerlässlich, dass dies verstanden wird”, sagt die Präsidentin von Women in AI Austria.

LinktippZur Website von Women in AI Austria LinktippZur Website von Women in Data Science Villach

„Kredite sind für mich schon immer ein spannendes Thema. Sie bieten auf der einen Seite große Möglichkeiten für Unternehmen und Familien, auf der anderen Seite können sie auch für viele Menschen zur Last werden“, erzählt der Wiener Omid Kafaji über den Grundgedanken von kredity.at. Das richtige Kreditwissen sei für Konsument:innen oft schwer zugänglich, der Markt undurchsichtig. Mit kredity.at will Kafaji Klarheit in das komplexe Thema bringen.

Lediglich mit Tipps von einem befreundeten Programmierer entwickelt und baut Kafaji kredity allein. Die Idee dazu entstand schon vor Jahren, seit einer Woche kann man die Plattform nutzen.

„kredity.at übernimmt das erste Denken eines Kreditprofis“

Die Plattform übersetzt Erfahrungswissen aus der Kreditvermittlung in ein digitales System. Nutzer:innen sollen besser verstehen, wie ihre finanzielle Situation aus Sicht einer Kreditprüfung eingeschätzt werden könnte. „Man beantragt einen Kredit, der wird abgelehnt. Aber man erfährt eigentlich nie wirklich genau, woran es gelegen hat“, so der Founder. Deswegen gibt es auf der Seite einen ersten kostenlosen Kreditcheck, „und das Besondere daran ist, dass hier nicht nur Kreditangebote verglichen werden, wie man es bisher kennt, sondern dass man tatsächlich anhand der eigenen Eingaben, der Haushaltsrechnung und Finanzierungsvorhaben, realistische Möglichkeiten bekommt, die zur jeweiligen Situation passen“, ergänzt Kafaji. Kredity.at übernehme damit das erste Denken eines Kreditprofis.

Digitale Plattform mit persönlicher Komponente

Nach dem ersten Kreditcheck hat man auch die Möglichkeit, sich direkt von Kafaji zu den Ergebnissen beraten zu lassen. „Es gibt manchmal auch sehr komplexe Fälle, und da ist es einfach von Vorteil, wenn erfahrene Finanzexperten für den Kunden die Situation einschätzen und analysieren.“ Der selbstständige Unternehmensberater sieht durch die Kombination von digitaler und persönlicher Beratung die beste Möglichkeit, um Fehlentscheidungen im Kreditwesen zu vermeiden. Durch seine Expertise stellt er auf kredity.at zusätzliches Insiderwissen zur Verfügung.

Erhöhte Zugriffszahlen

Die Plattform ist erst seit einer Woche online, dennoch seien die Anfragen laut Kafaji auffallend hoch. „Die Anfragen sind auf jeden Fall höher, als ich erwartet habe“, zeigt sich der Wiener überrascht. Dies zeige sich unter anderem in zahlreichen täglichen Anfragen über WhatsApp, die Nutzer:innen direkt im Anschluss an den digitalen Check stellen. Finanziert wird die Plattform durch Kooperationen mit den jeweiligen Kreditanbietern, die Kafaji durch seine Arbeit als Vermögensberater bereits gewonnen hatte. Werden Nutzer:innen an eine passende Bank weitergeleitet, entsteht hier der wirtschaftliche Wert.

Pläne für die Zukunft

„Mir ist es einfach ein Anliegen, dass Menschen nicht in die Hände von Betrügern fallen, was in der Praxis häufig passiert. Ich richte mich also immer nach dem Use Case. Ich glaube an Dinge, die den Menschen einen Mehrwert bringen. Und wenn etwas einen Wert hat, wird es auch wirtschaftlichen Wert generieren“, blickt Kafaji in die Zukunft. Der Gründer will die digitalen Möglichkeiten noch erweitern und überlegt derzeit, wie das Implementieren von KI-Systemen helfen könnte, die Ersteinschätzungen noch präziser zu machen. Ebenso geplant sind weitere Kooperationen mit Kreditanbietern, „weil ich sehe, dass österreichweit die Anfrage wächst“.