22.11.2022

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

Ein EU-Projekt gegen AI-Diskriminierung und für "multikriteriellen Fairness". Mit dabei: eine österreichische Forscherin des "Complexity Science Hub Vienna"
/artikel/mammoth-ki-tendenz-zur-diskriminierung-durchbrechen
(c) Stock.Adobe/ra2 studio - Science Hub entwickelt dafür sgn. "Fairness-Messungen".

Das Problem beim Einsatz Künstlicher Intelligenz ist, dass sie dazu tendiert, diskriminierende Entscheidungen zu treffen – etwa in der Bildung, bei Bewerbungsverfahren oder in der Werbung. Amazon, als Beispiel, schaffte vor vier Jahren eine KI-Software für die Bewerberauswahl wieder ab, weil die eingebaute AI Frauen benachteiligte. Microsoft nahm seinen Chatbot „Tay“ bereits zwei Jahre davor zurück, nachdem jener rassistische und extremistische Inhalte getwittert hatte. Das Projekt MAMMOth möchte dieses allgemeine Problem nun angehen.

MAMMOth = Multi-Attribute, Multimodal Bias Mitigation in AI Systemen

Denn, Unternehmen, Politik und viele andere Bereiche verlassen sich zunehmend auf Künstliche Intelligenz und treffen auf dieser Grundlage weitreichende Entscheidungen für den Einzelnen und die Gesellschaft.

„Einerseits eröffnet dies enorme Möglichkeiten für verschiedene Sektoren wie Bildung, Bankwesen oder Gesundheitswesen, aber auch auf persönlicher Ebene, zum Beispiel bei Stellenbewerbungen oder beim Targeting von Werbung. Andererseits besteht gerade bei künstlicher Intelligenz (KI) die Gefahr, dass sie die Diskriminierung von Minderheiten und Randgruppen in der Bevölkerung – basierend auf sogenannten geschützten Merkmalen wie Geschlecht, Rasse und Alter – weiter verstärkt“, erklärt Fariba Karimi, Senior Scientist bei „Computational Social Science“ am CSH in Wien.

Der „Science Hub“ entwickelt mit der Wissenschaftlerin sogenannte Fairness-Messungen, die nicht nur ein Attribut wie die Hautfarbe berücksichtigen, sondern mehrere sich überschneidende Attribute wie Geschlecht, Alter und Rasse.

„Wir wollen zum Beispiel, dass unsere Fairness-Messungen nicht nur für Frauen funktionieren, sondern auch für Frauen, die Einwanderer sind oder aus benachteiligten ethnischen Gruppen stammen“, sagt Karimi. Ihr Fokus liegt auf genau dieser „multikriteriellen Fairness“ in Netzwerkdaten – wenn beispielsweise Ungleichheiten daraus resultieren, dass Menschen im Kontext eines zugrunde liegenden Netzwerks unterschiedliche Positionen einnehmen.

Minderheiten sollten in Algorithmen nicht unsichtbar werden

Diskriminierung sei kein neues Problem, aber die Tatsache, dass die KI-Technologie sie weiterhin verstärke, habe zum Aufstieg des fairnessbewussten maschinellen Lernens (ML) als Teil der verantwortungsvollen KI geführt.

Ziel ist die Entwicklung von Modellen des maschinellen Lernens, die einerseits gute Vorhersagen machen, andererseits aber nicht nach geschützten Merkmalen wie Geschlecht oder Rasse diskriminieren.

„Es wurden viele Anstrengungen unternommen, aber bisher haben die vorgeschlagenen Methoden nur eine begrenzte Wirkung und spiegeln nicht die Komplexität und die Anforderungen der realen Anwendungen wider“, so Karimi weiter.

MAMMOth: Zwölf Institute ziehen an einem Strang

Beim EU-Projekt MAMMOth indes entwickeln Experten aus zwölf verschiedenen Institutionen eine innovative, auf Fairness ausgerichtete, datengestützte KI-Grundlage, die die notwendigen Werkzeuge zur Verfügung stellt, um Diskriminierung und Mehrfachdiskriminierung abzuschwächen und die Verantwortlichkeit von KI-Systemen zu gewährleisten.

„Durch die Entwicklung und Umsetzung von multikriteriellen Fairness-Maßnahmen und Abschwächungen wollen wir sicherstellen, dass Minderheiten in Algorithmen nicht sichtbar sind und in Bereichen, die sich bei Entscheidungsprozessen auf Maschinen verlassen, fair behandelt werden“, erklärt Karimi. „Gerechtere Algorithmen bedeuten eine bessere Repräsentation und Vielfalt in der Gesellschaft, was wiederum eine integrativere und gerechtere Gesellschaft bedeutet.“

Zu diesem Zweck wird sich das Projekt von Anfang an aktiv an zahlreiche Gemeinschaften von gefährdeten bzw. unterrepräsentierten Gruppen in der KI-Forschung wenden. Der sogenannte Co-Creation-Ansatz soll dafür sorgen, dass die tatsächlichen Bedürfnisse und Nöte der Nutzer:innen im Mittelpunkt der Forschungsagenda stehen und die Aktivitäten des Projekts leiten.

Die entwickelten Lösungen werden, laut Karimi, folglich in Pilotprojekten in drei relevanten Bereichen (Finanz-/Kreditanwendungen, Identitätsüberprüfungssysteme und akademische Bewertung) demonstriert.

Deine ungelesenen Artikel:
15.06.2026

Nina Smidt, CEO der Siemens Stiftung: „Der sozialunternehmerische Ansatz funktioniert“

Die Siemens Stiftung wurde 2008 als gemeinnützige Organisation mit einem Stiftungskapital von rund 390 Millionen Euro von der Siemens AG gegründet. Sie arbeitet international und unabhängig vom Konzern. Im Fokus in Subsahara-Afrika: Social Entrepreneurship und Bildung. Bei der ViennaUP im Mai sprach CEO Nina Smidt mit brutkasten über das Förderkonzept, das Sozialunternehmen WeTu in Kenia und die Frage, was Europa von afrikanischen Gründer:innen lernen kann.
/artikel/nina-smidt-chefin-der-siemens-stiftung-der-sozialunternehmerische-ansatz-funktioniert
15.06.2026

Nina Smidt, CEO der Siemens Stiftung: „Der sozialunternehmerische Ansatz funktioniert“

Die Siemens Stiftung wurde 2008 als gemeinnützige Organisation mit einem Stiftungskapital von rund 390 Millionen Euro von der Siemens AG gegründet. Sie arbeitet international und unabhängig vom Konzern. Im Fokus in Subsahara-Afrika: Social Entrepreneurship und Bildung. Bei der ViennaUP im Mai sprach CEO Nina Smidt mit brutkasten über das Förderkonzept, das Sozialunternehmen WeTu in Kenia und die Frage, was Europa von afrikanischen Gründer:innen lernen kann.
/artikel/nina-smidt-chefin-der-siemens-stiftung-der-sozialunternehmerische-ansatz-funktioniert
Nina Smidt, geschäftsführende Vorständin der Siemens Stiftung, bei den Impact Days 2026 im Wiener Rathaus | (c) brutkasten

Wenn über Social Entrepreneurship gesprochen wird, geht es oft um Europa und darum, was der Kontinent in den Globalen Süden tragen kann. Nina Smidt dreht die Perspektive um. Die geschäftsführende Vorständin und Sprecherin des Vorstands der Siemens Stiftung leitet die gemeinnützige Stiftung seit 2020 und plädiert für Co-Konstruktion auf Augenhöhe: Was kann Europa umgekehrt von Sozialunternehmen in Subsahara-Afrika oder Lateinamerika lernen?

Die 2008 von der Siemens AG gegründete Stiftung arbeitet operativ und international und entwickelt Programme gemeinsam mit lokalen Partner:innen. 2019 hat sie mit WeTu in Kenia ein eigenes Sozialunternehmen gegründet, das am Viktoriasee an inzwischen 16 solarbetriebenen Hubs sauberes Trinkwasser, Solarenergie und E-Mobilität anbietet.

brutkasten hat Smidt im Rahmen der ViennaUP bei den Impact Days 2026 im Wiener Rathaus getroffen. Im Gespräch geht es um Wirkungsmessung, die Rolle von KI für Sozialunternehmen und darum, was österreichische Gründer:innen im Impact-Bereich von Initiativen aus dem Globalen Süden mitnehmen können.


brutkasten: Frau Smidt, die Siemens Stiftung ist seit 2008 aktiv, Sie führen sie seit 2020. Warum gibt es diese Stiftung – und worin unterscheidet sie sich von anderen großen Stiftungen?

Die Siemens Stiftung wurde 2008 von der Siemens AG als gemeinnützige Stiftung gegründet. Von Beginn an war sie international und operativ ausgerichtet. Als Stiftung arbeiten wir heute in Deutschland, in Afrika, Lateinamerika und seit knapp drei Jahren auch in Indien. Und wir sind eine operative Stiftung. Wir vergeben also nicht nur Mittel, sondern entwickeln Programme gemeinsam mit lokalen Partnern, evaluieren sie und passen sie an. Diese Co-Konstruktion ist für uns zentral.

Sie arbeiten in den Handlungsfeldern Grundversorgung, Digitalität und Klima. Wo kommt Social Entrepreneurship ins Spiel?

Wir fokussieren auf drei Handlungsfelder – Digitalität, Grundversorgung und Klima und setzen unser Portfolio mit den Kompetenzzentren Bildung, Sozialunternehmertum und Kultur um. Im sozialunternehmerischen Bereich konzentrieren wir uns auf Subsahara-Afrika, konkret auf Kenia, Uganda, Tansania, Ghana und Nigeria. In der Bildung sind wir vor allem in Lateinamerika, Deutschland und Indien aktiv.

Wie definieren Sie ein Sozialunternehmen? In Österreich entsteht gerade ein eigenes Label, der Diskurs ist in Bewegung.

Für uns steht der Mehrwert für die lokale Community im Vordergrund: Zugang zu sauberem Trinkwasser, Hygieneprodukten, Mobilitätslösungen. Diese Unternehmen sind profitorientiert – das ist Teil unternehmerischer Verantwortung – aber mit klarem Fokus auf Social Impact. Wir setzen ganz bewusst nicht bei der Ideation an, da gibt es schon viel. Und wir gehen auch nicht in die große Skalierung, dafür sind eher Entwicklungsbanken sowie Impact und Angel Investoren da. Wir sind in dem, was wir oft Missing Middle nennen: Unternehmen, die schon Umsatz generieren, aber noch nicht aus eigener Kraft finanziell unabhängig existieren können. Wir fördern philanthropisch, also über Grants.

Sie haben 2019 mit WeTu in Kenia ein eigenes Sozialunternehmen gegründet – wie läuft das?

WeTu heißt auf Swahili „unseres“. Wir betreiben am Lake Victoria inzwischen 16 Solar and Hubs, direkt in den Fischer-Communities. Wir stellen sauberes Trinkwasser bereit, betreiben solarbasierte Ice Rooms (sog. WeIce solar driven cold room model), vermieten Solarlaternen und stellen elektrische Lastenfahrräder, die den Fang vom See zu den Märkten transportieren. Mittlerweile arbeiten dort fast 200 Menschen lokal. Zwei der drei Geschäftsfelder tragen sich finanziell, nur der Wasserbereich muss noch subventioniert werden. Damit haben wir uns auch selbst bewiesen: Der sozialunternehmerische Ansatz funktioniert. Wir reden nicht nur darüber, wir machen es.

Impact-Messung ist ein Dauerthema. Wie weisen Sie tatsächlich Wirkung nach?

Wir haben vor zwei Jahren ein neues MEAL-System aufgesetzt: Monitoring, Evaluation, Administration und Learning. Jedes Projekt im aktuellen Drei-Jahres-Zyklus wird darauf unterlegt. Wichtig ist die Kombination: Quantitative Zahlen – wie viele Lernende, wie viele Sozialunternehmen unterstützt – haben begrenzte Aussagekraft. Bei Bildung und Social Entrepreneurship greift die Veränderung systemisch und braucht Zeit, oft Jahre. Deshalb arbeiten wir auch mit Vergleichsstudien. Die Kernfrage ist immer: Was hat sich für die Zielgruppe tatsächlich zum Besseren verändert?

Sie diskutieren beim Deutschen Stiftungstag öffentlich über KI. Was bedeutet das für Sozialunternehmen?

Zwei Anwendungen sehe ich konkret. Erstens im Bildungsbereich im Bereich der Anwendung von KI-Tools für kontextegebundenes Lernen und Lehren. Zweitens im Bereich Fundraising: KI kann helfen, gezielter im Konsortium mit anderen Stiftungen und Partnern lokale Initiativen zu finanzieren. Bei vielen unserer Sozialunternehmen vor Ort – etwa im Wasserbereich – ist KI dagegen noch nicht der Hauptfokus. In E-Mobility und Circularity sehe ich es eher.

Was möchten Sie Gründer:innen in Österreich mitgeben, die im Impact-Bereich arbeiten?

Wir reden oft darüber, was Europa nach Afrika oder Lateinamerika tragen kann. Die viel spannendere Frage ist die andere Richtung: Was können wir aus diesen Regionen lernen? Ein Bildungs-Sozialunternehmer in Österreich kann sehr genau hinschauen, wie Initiativen in Subsahara-Afrika oder Lateinamerika konkret laufen, welche Lösungen dort entstehen. Co-Konstruktion heißt für mich nicht Einbahnstraße. Wo können wir voneinander lernen, wo gemeinsam etwas bewegen? Genau dafür sind wir bei der Vienna UP – um Erfahrungen zu teilen und Partner kennenzulernen. Mit österreichischen Akteur:innen sind wir bisher noch in keiner formalen Kooperation, aber das Interesse ist groß.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen