18.04.2023

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

Rania Wazir und Gertraud Leimüller haben 2022 das Wiener Startup Leiwand.ai gegründet. Seither setzt sich das Duo für Fairness in künstlicher Intelligenz ein. Im brutkasten-Interview erklären die Gründerinnen, warum Fairness in KI für alle Menschen wichtig ist.
/artikel/leiwand-ai-fairness-in-kuenstlicher-intelligenz
Rania Wazir und Gertraud Leimüller möchten mit ihrem Startup Leiwand.ai künstliche Intelligenz fairer gestalten. (c) Leiwand.ai

Wir befinden uns in einer zunehmend digitalisierten Welt, in der künstliche Intelligenz (KI) immer mehr Aspekte unseres Alltags durchdringt. Mit den jüngsten technologischen Fortschritten dringen Fragen zur Fairness und Gerechtigkeit von KI-Systemen stärker in den Vordergrund. Von Personalbeschaffung über Kreditvergabe bis hin zu medizinischer Diagnostik, künstliche Intelligenz trifft bereits schwerwiegende Entscheidungen, die ethnische und gesellschaftliche Fragestellungen aufwerfen.

Das Wiener KI-Startup Leiwand.ai hat es sich zur Aufgabe gemacht, den “Fair by Design”-Ansatz in die Entwicklung von künstlicher Intelligenz von Anfang an zu implementieren. Damit möchten die Gründerinnen Gertraud Leimüller und Rania Wazir dazu beitragen, die revolutionäre Technologie zum Wohle der Menschen einzusetzen und Diskriminierung durch KI zu reduzieren. Das im Jahr 2022 gegründete Startup arbeitet aktuell an einem Bias-Detektor, der frühzeitig unbeabsichtigte Diskriminierung durch künstliche Intelligenz aufspüren soll.

Technische und soziale Fairness in KI

“Fairness in künstlicher Intelligenz betrifft jeden, nicht nur Frauen und Minderheiten”, sagt Gertraud Leimüller, Co-Founderin von Leiwand.ai. Anhand eines Beispiels erläutert sie, dass auch ein junger, weißer Mann von künstlicher Intelligenz diskriminiert werden kann, da er beispielsweise für seine medizinische Ausbildung länger braucht, weil die KI aufgrund verzerrter Kriterien Ausbildungsplätze nur mit großen Zeitabständen vergibt. Leimüller und Wazir unterscheiden daher zwischen technischer und sozialer Fairness. Technische Fairness wird durch die Implementierung von Fairness-Maßnahmen während der Entwicklung berücksichtigt, kann aber durch den Einsatz von verzerrten Daten gefährdet werden und unbeabsichtigte Diskrimminierung hervorrufen.

Wir können nicht erwarten, dass die Algorithmen, die wir entwickeln und mit historischen Daten und Biases trainieren, faire Entscheidungen treffen

Rania Wazir

“Wenn Daten, die für KI-Training verwendet werden, kaum Frauen oder ethnische Gruppen repräsentieren, wird die KI glauben, fair zu handeln. In der Praxis sieht das aber anders aus, da die Daten die gesellschaftliche Realität nicht korrekt wiedergeben”, erklärt Leimüller. Wazir fügt hinzu, dass wir Menschen nicht fair sind. “Das müssen wir uns eingestehen. Wir können nicht erwarten, dass die Algorithmen, die wir entwickeln und mit historischen Daten und Biases trainieren, faire Entscheidungen treffen.”

Auch soziale Fairness könne keine hundertprozentige Fairness garantieren, da diese auf Kompromisse und Trade-offs basiert. “Wenn ich die KI so programmiere, dass sie Frauen auf keinen Fall diskriminieren darf, kann ich die Diskriminierung anderer dadurch kaum verhindern. Ich kann nicht alle Gruppen fair behandeln”, sagt Leimüller. Dennoch sei es möglich, das Risiko für Diskriminierung zu minimieren.

Fairness in KI ist Perspektiven-abhängig

Ein wichtiger erster Schritt für die Auseinandersetzung mit Fairness ist, zu verstehen, dass Fairness für jede einzelne Person etwas anderes bedeuten kann, da sie Perspektiven-abhängig ist. “Zum Beispiel bedeutet Fairness für einen Richter als Entscheidungsträger etwas ganz anderes als Fairness für den Angeklagten als Betroffener”, erklärt Wazir und nennt 20 unterschiedliche Metriken, um Fairness zu messen.

“Diese 20 Formeln haben mittlerweile alle mathematisch bewiesen, dass nicht alle gleichzeitig erfüllt sein können”, erklärt die Gründerin weiter. Das bedeutet, dass Entscheidungen getroffen werden müssen, welche Metriken berücksichtigt und welche Perspektiven dem KI-System vermittelt werden. Dadurch wird klar, dass Fairness in KI nicht einheitlich messbar ist und von verschiedenen Blickwinkeln und Kontexten abhängt.

KI-Landschaft als “Wilder Westen”

Während künstliche Intelligenz das Potenzial hat, unsere Lebensqualität zu verbessern, besteht auch die Gefahr, dass sie gesellschaftliche Ungleichheiten und Diskriminierungen verschärft. “Künstliche Intelligenz ist sehr mächtig. Mit dieser Macht kommt eine Verantwortung, welcher wir uns nicht entziehen sollten”, sagt Wazir. Die Gesellschaft habe die Verantwortung, dass durch den Einsatz von KI-Technologien weder Menschen noch der Umwelt ungewollten Schaden zugefügt wird. Aus diesem Grund wird dem Thema Regulierung in der KI-Branche eine umso größere Wichtigkeit zugeschrieben.

Die Gründerinnen beschreiben die KI-Landschaft als “Wilder Westen”, da aktuell Qualitätskriterien fehlen und dadurch der Auslöser für das wachsende Misstrauen und die Vorbehalte in der Gesellschaft rund um diese Technologien seien. “Wenn Fairness in KI nicht berücksichtigt wird, können Bedenken gegenüber diesen Technologien entstehen. Viele Menschen vertrauen der KI nicht. Wir sehen das teilweise jetzt schon, wenn diese Systeme am Arbeitsplatz eingesetzt werden”, sagt Leimüller.

Um zukünftige Akzeptanzprobleme aus dem Weg zu räumen und Fairness in KI-Systemen sicherzustellen, sei es daher notwendig, Mindestqualitätsstandards für künstliche Intelligenz aufzustellen. Das ist vor allem mit unterschiedlichen Soft-Laws und Zertifizierungen von KI-Unternehmen möglich. Zudem sind die KI-Expert:innen davon überzeugt, dass KI-Regulierungen und Standards das Potenzial mitbringen, Menschen Arbeit abzunehmen und die KI-Entwicklung künftig zu erleichtern. “Eine gute Qualitätsrichtlinie und Regulierung helfen uns in den Bereichen, wo es noch so viel zu entdecken gibt”, erklärt Wazir weiter.

Interdisziplinäre Zusammenarbeit fundamental für KI

Bei der Entwicklung von KI-Technologien müsse man das Hauptaugenmerk darauf legen, zu verstehen, welche Personengruppen von der Entwicklung betroffen sind, wie sich diese auf die Menschen auswirken und welche Vorteile und Bedürfnisse sich daraus für die Nutzer:innen ergeben. Dieser Aspekt ist ein wesentlicher Bestandteil im Entwicklungsprozess, um Techniker:innen frühzeitig über diese Werte zu informieren.

“Developer:innen haben keine sozialwissenschaftliche Ausbildung. Wir können die Verantwortung über Gleichberechtigung in KI nicht allein Data Engineers und Entwickler:innen überlassen”, sagt Leimüller. Die gesamte Gesellschaft müsse sich an der Diskussion um Fairness in KI beteiligen. Genau hier müsse man ansetzen und mehrere Disziplinen vereinen, um ein umfassendes Verständnis von künstlicher Intelligenz zu gewährleisten.

Als ersten Ansatz hierfür nennt Leimüller die interdisziplinäre Ausrichtung in der Ausbildung. Zudem sei es wichtig, Techniker:innen komplementäre Ausbildungen anzubieten. “Was wir jetzt brauchen, sind interdisziplinäre Teams. Wir müssen verstehen, dass man keine gute KI entwickeln kann, wenn nicht mehrere Expert:innen aus unterschiedlichen Disziplinen an einem Tisch sitzen. Das ist eine sehr wichtige Herangehensweise”, erklärt Leimüller.

Deine ungelesenen Artikel:
14.11.2024

Ideen-Sprint und eine Reise nach Berlin: Was die Innovate 2024 zu bieten hat

Die Innovate 2024 ist die Innovationskonferenz des öffentlichen Sektors. Dieses Jahr steht die Veranstaltung unter dem Thema “nextGen - Wer gestaltet die Zukunft der Verwaltung?”. Worauf sich Teilnehmer:innen der Innovate freuen dürfen, verrät Andreas Buchta-Kadanka, Gruppenleiter und Stellvertretender Sektionsleiter des BMKÖS im Interview.
/artikel/ideen-sprint-und-eine-reise-nach-berlin-was-die-innovate-2024-zu-bieten-hat
14.11.2024

Ideen-Sprint und eine Reise nach Berlin: Was die Innovate 2024 zu bieten hat

Die Innovate 2024 ist die Innovationskonferenz des öffentlichen Sektors. Dieses Jahr steht die Veranstaltung unter dem Thema “nextGen - Wer gestaltet die Zukunft der Verwaltung?”. Worauf sich Teilnehmer:innen der Innovate freuen dürfen, verrät Andreas Buchta-Kadanka, Gruppenleiter und Stellvertretender Sektionsleiter des BMKÖS im Interview.
/artikel/ideen-sprint-und-eine-reise-nach-berlin-was-die-innovate-2024-zu-bieten-hat
Andreas Buchta-Kadanka, stellvertretender Sektionsleiter in der Sektion III - öffentlicher Dienst und Verwaltungsinnovation, Leitung der Gruppe III/C (c) BMKÖS 2024

Sie ist ein Trainingslager für Innovation. Sie steht für Wertschätzung und Anerkennung und hebt die Arbeit von Innovator:innen ins Rampenlicht. Und sie zeigt, wie gut sich Innovation hands-on umsetzen lässt. Die Rede ist von der Innovate 2024 – der jährlich stattfindenden Innovationskonferenz des öffentlichen Sektors.

Am 28. November 2024 dreht sich auf der Konferenz für Verwaltungsinnovation alles um die nächste Generation: “nextGen – Wer gestaltet die Zukunft der Verwaltung?” ist das Motto, unter dem diskutiert, gebrainstormed, vernetzt und gemeinsam gestaltet wird.

Im Vorfeld dazu haben wir mit Andreas Buchta-Kadanka gesprochen – tätig in der Sektion III – öffentlicher Dienst und Verwaltungsinnovation, Leitung der Gruppe III/C, die sich unter anderem mit dem wirkungsorientierten und innovativen Verwaltungsmanagement befasst.

Im Interview mit brutkasten erwähnt er einige Aspekte, warum die “nextGen” in das Rampenlicht der Verwaltungsinnovation gehört und wie es jungen Menschen gelingen kann, den öffentlichen Sektor zu transformieren.


brutkasten: Sehr geehrter Herr Buchta-Kadanka, letztes Jahr hat die Verwaltungsinnovation ihr 100-jähriges Jubiläum gefeiert. Mit welchen Erkenntnissen startet die Verwaltung nun in das nächste Jahrhundert?

Andreas Buchta-Kadanka: Ich glaube, die vielleicht charakteristischste Entwicklung der letzten 100 Jahre war der Wandel von einem Durchsetzen der Obrigkeit hin zu einer immer stärker bürgerzentrierten Verwaltung. Der Dienstleistungsgedanke hat sich sehr stark durchgesetzt. Die Verwaltung ist Dienstleister der Bevölkerung. Und die Bevölkerung nimmt das Verwaltungshandeln nicht einfach hin, sondern verdient Transparenz, Erklärung und das proaktive Beseitigen von Widersprüchen. Diese Entwicklung ist eine entscheidende in unserer Geschichte.

Welche Herausforderungen muss sich die Verwaltung angesichts dessen stellen?

Ich glaube, eine wesentliche Challenge für die Verwaltung und das Regieren generell ist die schnellere Taktzahl, die höhere Geschwindigkeit unseres Apparates. Das beginnt schon bei der Erwartungshaltung von Bürger:innen: Wir versuchen, Transparenz und Schnelligkeit so gut es geht in unser Handeln zu integrieren. Das optimieren wir auch kontinuierlich, wie internationales Benchmarking zeigt.

Das heißt: Je schneller die Verwaltung reagiert, desto besser?

Jein. Ich würde sagen, so korrekt und schnell wie möglich. Grundsätzlich besteht die mediale Erwartungshaltung, dass zu verwaltungspolitischen Themen sehr schnell Stellung genommen wird. Sei es durch Politiker:innen oder durch die Verwaltung selbst. Diese Schnelligkeit ist zumindest meiner Meinung nach eine der größten Herausforderungen: Schnell und korrekt reagieren und bei all der Schnelligkeit Qualität zu sichern. Gerade dafür wollen wir auf innovative Lösungen der nextGen setzen.

Inwiefern könnte diese Umsetzung aussehen?

Konkret geht es darum, abzuwägen: Wie schnell müssen wir sein, was wollen wir transformieren oder digitalisieren und wie machen wir das richtig. Wir wollen schlechte Prozesse nicht einfach digital machen, sondern digitalisieren und optimieren. Wir wollen “Arbeit” anders denken und technologische Vorteile mitnehmen.

Inwiefern glauben Sie, dass Ihnen die diesjährige Innovate Antworten auf diese Fragen liefert?

Ganz klar ist es der Austausch und die Inspiration voneinander. Das physische Zusammenbringen von Innovator:innen aus Wirtschaft, Wissenschaft, der Zivilgesellschaft und Verwaltung. Das Lernen voneinander, das Bilden eines Netzwerkes. Das sind Dinge, die man nicht rein online oder bilateral macht. Dafür braucht es Veranstaltungen wie die Innovate.

Wie passieren Fortschritt und Innovation?

Ich bin davon überzeugt, Innovation passiert vor allem aufgrund des informellen Austausches. Netzwerken ist etwas Persönliches. Inspiration und das Diskutieren darüber, was funktioniert und was nicht, das hat eine ganz starke zwischenmenschliche Komponente. Und diese Art von Innovation braucht keinen Frontalvortrag und keine Jubelbroschüre, sondern persönlichen Austausch.

Der persönliche Austausch soll dieses Jahr ja vor allem mit der nextGen – also der nächsten Generation – passieren. Was will die diesjährige Innovate damit bewirken?

Für uns ist das ein sehr naheliegendes Thema. Wir stehen vor massiven demografischen Umwälzungen. In den nächsten 13 Jahren werden 44 Prozent des Personals in der Verwaltung in Pension gehen. Fachkräfte am Arbeitsmarkt sind ja ohnehin schon gefragt. Es besteht bei uns großer Rekrutierungsbedarf.

Inwiefern könnte die Verwaltung mit der Pensionswelle umgehen?

Indem wir weiterhin ein attraktiver Arbeitgeber sind und unsere Stellung kontinuierlich verbessern. Auf der Nachfrageseite, aber auch für unser bestehendes Personal. Wir wollen für den Bund begeistern und personalwirtschaftliche Themen sehr stark mit dem Innovationsaspekt verbinden. Wir schauen stark darauf, Innovation nicht nur in klassischen personellen Disziplinen wie Bezahlung, Arbeitszeit und New Work zu verankern. Wir stellen als Arbeitgeber auch sicher, unser Personal aktiv in den Innovationsprozess einzubinden und generationenübergreifende Bedürfnisse zu erfüllen. Und dafür bietet die Innovate eine hervorragende Bühne.

Das heißt, auf der Innovate können Teilnehmende die Verwaltung aktiv mitgestalten?

Ganz richtig. Innovation heißt, wir sind für alle Ideen offen und wollen das auch im Personalkontext fördern. Bei der diesjährigen Innovate geht es deshalb primär um das Thema demografischer Wandel, Wissensmanagement, Recruiting und Führung. Unser Schwerpunkt ist die nextGen – und wir befassen uns intensiv damit, wie man altes Wissen sichern, weitergeben und mit den gegenwärtig verfügbaren Mitteln (Stand der Technik) aufbereiten kann.

Das klingt nach einem sehr universellen Thema.

In der Tat. Wir decken damit nicht nur die Bedürfnisse der Verwaltungscommunity, sondern auch jene der Wissenschaft, Wirtschaft und Zivilgesellschaft. Wir wissen, dass Wissenstransfer und Modernisierung nicht nur Herausforderungen in unserem Feld sind, sondern sektorenübergreifend stattfinden müssen.

Welche Themenbereiche rücken zukünftig noch weiter ins Zentrum?

Ein ganz wichtiges Thema, mit dem wir uns dieses Jahr auch befassen, ist die Sinnhaftigkeit im Arbeiten. Diese Komponente ist gerade für die nextGen besonders wichtig. Junge Menschen wollen in ihrem Wirken die Möglichkeit haben, einen nachhaltigen Beitrag für Österreich und die Gesellschaft leisten zu können- und das tun sie bei der Verwaltung.

Wo braucht es besonderen Innovationsbedarf?

Kompetenzen und Skills ständig ändern. Wir wissen, Kompetenzorientierung ist auch auf europäischer Ebene ein großes Thema. Da gilt es, heute schon die Kompetenzfelder von morgen ausfindig zu machen und Entwicklungen bestmöglich zu antizipieren. Denn wenn wir jetzt falsch ausbilden oder schlecht rekrutieren, sind wir auch schlecht für die Zukunft aufgestellt.

So ganz Hals über Kopf darf man sich allerdings nicht ins Wasser stürzen. Gerade in der Verwaltung ist es uns sehr wichtig, das Vertrauen der Bürger:innen zu halten und nicht durch zu riskante Neuerung zu verspielen. Sei es in puncto Datenschutz, Rechtsstaatlichkeit, Rechtssicherheit, Fairness oder Gleichbehandlung. Wenn man in diesen Bereichen schlechte Produkte produziert, kann das Vertrauen der Bevölkerung erodieren.

Das heißt, lieber langsam und sicher als zu schnell und zu riskant?

Das Vertrauen in Institutionen ist ein derzeit sehr wichtiges Thema. Insofern muss man sich bei innovativen Prozessen als Staat schon etwas vorsichtiger und mit klaren Guidelines – auch aus ethischer Sicht – bewegen. Als konkretes Beispiel der Einsatz von KI: Wenn ich auf meiner Spotify-Playlist einen unpassenden Vorschlag erhalte, ist das etwas anderes, als wenn das bei einem Gerichtsurteil der Fall wäre – das hat eine ganz andere Dramatik.

Welche Highlights bietet die Innovate dieses Jahr?

Die Innovate soll ja nicht nur so heißen, sondern auch so sein, dass wir nicht nur Vorträge halten, sondern auch ein gestaltendes Element einbringen. Wir haben dafür heuer ein neues Format: Den sogenannten Innovate Sprint, einen interaktiven Workshop, der sich mit dem Thema nexGen & Verwaltung befasst.

Und beim Innovate Sprint können Teilnehmende aktiv “mit sprinten”?

Genau. Der Innovate Sprint ist ein Workshop-Format, bei dem Teilnehmer:innen in interdisziplinäre Teams aufgeteilt werden. So kommen viele unterschiedliche Hintergründe und Perspektiven zusammen. Die Teams entwickeln dann je eine Idee, die mit künstlicher Intelligenz visualisiert wird. Über die beste Idee wird dann im Zuge der Innovate und mit unserer Verwaltungs-Community abgestimmt und der Sieger wird prämiert.

Was bekommen die Sieger:innen des Innovate Sprint?

Die Siegergruppe wird die Möglichkeit haben, mit uns nächstes Jahr zum Creative Bureaucracy Festival nach Berlin zu fahren. Das ist eines der weltweit größten Veranstaltungen im Bereich der Verwaltungsinnovation.

Das klingt nach einem tollen Siegerpreis! Und nach einem großen Mehrwert für die Verwaltung Österreichs.

Die Teilnehmer:innen der Innovate Sprint können mit ihren Ideen Einiges bewirken. Wichtig ist uns dabei auch, dass wir als wertbasierte Verwaltung das Vertrauen in staatliche Strukturen aufrechterhalten. Das ist eine unserer Kernfunktionen.

Warum ist gerade die Innovate der richtige Ort, um diesen gemeinsamen Fortschritt zu erzielen?

Die Innovate ist wie ein Trainingslager: Natürlich kann ich meinen Sport alleine betreiben und ich kann darin alleine besser werden. Aber ich finde, es ist das Mindeste, einmal im Jahr gemeinsam zu “trainieren”, sich auszutauschen und sich gemeinsam auf zukünftige Challenges vorzubereiten.

Die Innovate ist also quasi ein Trainingslager für die Zukunft der Verwaltung?

Nicht nur: Die Innovate stellt alle, die über das Jahr an Innovation, Sicherheit und digitalem Fortschritt arbeiten, ins Rampenlicht. Die Innovate ist auch ein Stück weit ein Dankeschön für all die Arbeit, die geleistet wird. Und sie zeigt, dass tolle Konferenzen nicht nur etwas für die Privatwirtschaft sind, sondern dass es innovatives Denken und gemeinsames Schaffen auch im Bundeskontext gibt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: “Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten”