22.11.2022

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

Ein EU-Projekt gegen AI-Diskriminierung und für "multikriteriellen Fairness". Mit dabei: eine österreichische Forscherin des "Complexity Science Hub Vienna"
/artikel/mammoth-ki-tendenz-zur-diskriminierung-durchbrechen
(c) Stock.Adobe/ra2 studio - Science Hub entwickelt dafür sgn. "Fairness-Messungen".

Das Problem beim Einsatz Künstlicher Intelligenz ist, dass sie dazu tendiert, diskriminierende Entscheidungen zu treffen – etwa in der Bildung, bei Bewerbungsverfahren oder in der Werbung. Amazon, als Beispiel, schaffte vor vier Jahren eine KI-Software für die Bewerberauswahl wieder ab, weil die eingebaute AI Frauen benachteiligte. Microsoft nahm seinen Chatbot „Tay“ bereits zwei Jahre davor zurück, nachdem jener rassistische und extremistische Inhalte getwittert hatte. Das Projekt MAMMOth möchte dieses allgemeine Problem nun angehen.

MAMMOth = Multi-Attribute, Multimodal Bias Mitigation in AI Systemen

Denn, Unternehmen, Politik und viele andere Bereiche verlassen sich zunehmend auf Künstliche Intelligenz und treffen auf dieser Grundlage weitreichende Entscheidungen für den Einzelnen und die Gesellschaft.

„Einerseits eröffnet dies enorme Möglichkeiten für verschiedene Sektoren wie Bildung, Bankwesen oder Gesundheitswesen, aber auch auf persönlicher Ebene, zum Beispiel bei Stellenbewerbungen oder beim Targeting von Werbung. Andererseits besteht gerade bei künstlicher Intelligenz (KI) die Gefahr, dass sie die Diskriminierung von Minderheiten und Randgruppen in der Bevölkerung – basierend auf sogenannten geschützten Merkmalen wie Geschlecht, Rasse und Alter – weiter verstärkt“, erklärt Fariba Karimi, Senior Scientist bei „Computational Social Science“ am CSH in Wien.

Der „Science Hub“ entwickelt mit der Wissenschaftlerin sogenannte Fairness-Messungen, die nicht nur ein Attribut wie die Hautfarbe berücksichtigen, sondern mehrere sich überschneidende Attribute wie Geschlecht, Alter und Rasse.

„Wir wollen zum Beispiel, dass unsere Fairness-Messungen nicht nur für Frauen funktionieren, sondern auch für Frauen, die Einwanderer sind oder aus benachteiligten ethnischen Gruppen stammen“, sagt Karimi. Ihr Fokus liegt auf genau dieser „multikriteriellen Fairness“ in Netzwerkdaten – wenn beispielsweise Ungleichheiten daraus resultieren, dass Menschen im Kontext eines zugrunde liegenden Netzwerks unterschiedliche Positionen einnehmen.

Minderheiten sollten in Algorithmen nicht unsichtbar werden

Diskriminierung sei kein neues Problem, aber die Tatsache, dass die KI-Technologie sie weiterhin verstärke, habe zum Aufstieg des fairnessbewussten maschinellen Lernens (ML) als Teil der verantwortungsvollen KI geführt.

Ziel ist die Entwicklung von Modellen des maschinellen Lernens, die einerseits gute Vorhersagen machen, andererseits aber nicht nach geschützten Merkmalen wie Geschlecht oder Rasse diskriminieren.

„Es wurden viele Anstrengungen unternommen, aber bisher haben die vorgeschlagenen Methoden nur eine begrenzte Wirkung und spiegeln nicht die Komplexität und die Anforderungen der realen Anwendungen wider“, so Karimi weiter.

MAMMOth: Zwölf Institute ziehen an einem Strang

Beim EU-Projekt MAMMOth indes entwickeln Experten aus zwölf verschiedenen Institutionen eine innovative, auf Fairness ausgerichtete, datengestützte KI-Grundlage, die die notwendigen Werkzeuge zur Verfügung stellt, um Diskriminierung und Mehrfachdiskriminierung abzuschwächen und die Verantwortlichkeit von KI-Systemen zu gewährleisten.

„Durch die Entwicklung und Umsetzung von multikriteriellen Fairness-Maßnahmen und Abschwächungen wollen wir sicherstellen, dass Minderheiten in Algorithmen nicht sichtbar sind und in Bereichen, die sich bei Entscheidungsprozessen auf Maschinen verlassen, fair behandelt werden“, erklärt Karimi. „Gerechtere Algorithmen bedeuten eine bessere Repräsentation und Vielfalt in der Gesellschaft, was wiederum eine integrativere und gerechtere Gesellschaft bedeutet.“

Zu diesem Zweck wird sich das Projekt von Anfang an aktiv an zahlreiche Gemeinschaften von gefährdeten bzw. unterrepräsentierten Gruppen in der KI-Forschung wenden. Der sogenannte Co-Creation-Ansatz soll dafür sorgen, dass die tatsächlichen Bedürfnisse und Nöte der Nutzer:innen im Mittelpunkt der Forschungsagenda stehen und die Aktivitäten des Projekts leiten.

Die entwickelten Lösungen werden, laut Karimi, folglich in Pilotprojekten in drei relevanten Bereichen (Finanz-/Kreditanwendungen, Identitätsüberprüfungssysteme und akademische Bewertung) demonstriert.

Deine ungelesenen Artikel:
02.10.2026

Was CEOs von der Gen Z lernen können: Reverse Mentoring als Innovationsmotor der Zukunft

Die Halbwertszeit von Wissen schrumpft rasant in einer Zeit, in der Wandel schneller passiert, als Erfahrung aufgebaut wird, dreht Reverse Mentoring die klassische Lernhierarchie um. Eine Spurensuche zwischen Machtgefällen und dem Mut zum Nichtwissen.
/artikel/was-ceos-von-der-gen-z-lernen-koennen-reverse-mentoring-als-innovationsmotor-der-zukunft
02.10.2026

Was CEOs von der Gen Z lernen können: Reverse Mentoring als Innovationsmotor der Zukunft

Die Halbwertszeit von Wissen schrumpft rasant in einer Zeit, in der Wandel schneller passiert, als Erfahrung aufgebaut wird, dreht Reverse Mentoring die klassische Lernhierarchie um. Eine Spurensuche zwischen Machtgefällen und dem Mut zum Nichtwissen.
/artikel/was-ceos-von-der-gen-z-lernen-koennen-reverse-mentoring-als-innovationsmotor-der-zukunft
Mit ihrer Reverse-Mentoring-Agentur forciert Ines Hanusch Zukunftssicherheit in Wirtschaft und Politik. © brutkasten

Dieser Text ist zuerst im brutkasten-Printmagazin von August 2026 „Aufbrechen“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.


Wir leben in einer paradoxen Arbeitswelt: Führungskräfte werden für ihr über Jahrzehnte angesammeltes Wissen bezahlt doch exakt dieses Erfahrungswissen kann angesichts rasanter technologischer und kultureller Umbrüche zum blinden Fleck werden. Genau hier setzt eine Methodik an, die traditionelle Rollenbilder auf den Kopf stellt: Reverse Mentoring.

Ines Hanusch, Gründerin der Reverse-Mentoring-Agentur bond & grow, begleitet Unternehmen und Politik bei diesem Paradigmenwechsel. Für sie ist der Kerngedanke simpel, aber radikal: „Beim klassischen Mentoring lernt die Jüngere von der Erfahreneren. Beim Reverse Mentoring ist es umgekehrt: Die Führungskraft sitzt in der Lernenden-Position gezielt, strukturiert und vor allem nicht nebenbei.“

Kein Kaffeetratsch und keine Therapie

Doch was genau ist Reverse Mentoring in der Praxis? Hanusch wird nicht müde zu betonen, was es nicht ist: Es sei kein lockeres Kaffeegespräch, kein Coaching mit einer einzigen Zielvorgabe und schon gar keine Therapie. Auch der oft gehörte Einwand, man könne sich doch einfach mit den eigenen Kindern austauschen, greift für die Expertin ins Leere: „Mit den eigenen Kindern teile ich eine Sozialisation, ein Machtgefälle, ob ich will oder nicht.

Das Kind wird mir vieles nicht sagen, und ich werde vieles nicht hören wollen.“ Wahre Wirkung entstehe erst durch psychologische Sicherheit ohne persönliche Verstrickung eine Atmosphäre, in der ein junger Mensch kein Interesse daran hat, zu gefallen, sondern ehrlich zu sein.

Der Blick von innen: Reibung als Chance

In klassischen Organisationen verhindert die Hierarchie oft genau jenen Raum der psychologischen Sicherheit, in dem ungefiltert und ohne Angst vor Konsequenzen gesprochen werden kann. Ines Hanusch beschreibt das systematische Dilemma eindrücklich: Je weiter Führungskräfte auf der Karriereleiter nach oben klettern, desto mehr manifestiert sich die Angst vor Inkompetenz und Statusverlust. „Wenn Top-Entscheider:innen plötzlich von jemandem lernen, der dreißig Jahre jünger ist, entsteht unweigerlich intensive Emotion, Irritation und Reibung“ – doch exakt in diesen Momenten verankert sich laut Hanusch der größte Lerneffekt.

Wie sich dieser Rollentausch in der Realität anfühlt, schildert eine 21-jährige Mentorin, die im Rahmen von bond & grow Top-Entscheider:innen begleitet. Kristin Barnowsky sieht in ihrer Aufgabe eine enorme Verantwortung: Für sie bedeutet Reverse Mentoring, erfahrenen Führungskräften neue Perspektiven mit auf den Weg zu geben und dabei auch hin und wieder Reibung zu erzeugen“. Nervosität vor dem ersten Aufeinandertreffen ist keine Seltenheit, wie sie verrät. Ihr persönlicher mentaler Trick für das erste Meeting? „Ich stelle mir einfach vor, dass die Person mich bereits mag und ich sie auch. Dadurch gehe ich wesentlich natürlicher, authentischer und positiver in das Gespräch.“

Die größte Herausforderung im laufenden Prozess ist für sie das Gespür dafür, wie tief man in die Glaubenssätze des Mentees eindringen darf. Wenn auf Mentee-Seite Widerstand entsteht, stecke dahinter oft eine unbewusste Angst; etwa das Gefühl, nicht gehört oder gesehen zu werden. Es erfordere Empathie und präzises Timing, unangenehme Themen anzusprechen, ohne die Führungskraft emotional zu überfordern, erklärt die 21-Jährige.

Für wen das Konzept geeignet ist – und wann es scheitert

Die Zahlen sprechen für sich, doch Reverse Mentoring ist kein Selbstläufer. Laut Hanusch eignet es sich primär für Führungskräfte, die Nichtwissen als Startpunkt und nicht als Schwäche betrachten. In hierarchisch geprägten Unternehmen erfordere das immense Größe. „Statusverlust berührt das Selbstbild direkt, und das ist unbequem“, analysiert Hanusch. Viele Führungskräfte fürchten den Moment, in dem sie erkennen müssen, dass jemand, der viele Jahre jünger ist, über entscheidendes Know-how verfügt – sei es über moderne Arbeitskulturen, neue Konsumgewohnheiten oder schlicht den Umgang mit Unsicherheit in Krisenzeiten.

Wann also scheitert Reverse Mentoring? Die Expertin zieht eine klare Grenze: „Ich rate ab, wenn Unternehmen Reverse Mentoring als Imagemaßnahme einsetzen wollen, ohne wirkliche Bereitschaft, etwas zu verändern.“ Ohne intrinsische Motivation beider Seiten, einen geschützten Rahmen und professionelles Matching wird das Format zur reinen Simulation.

Innovation durch unbefangenes Denken

Wenn die Rahmenbedingungen jedoch stimmen, entpuppt sich Reverse Mentoring als machtvoller Innovationsmotor. In vielen Branchen sind junge Menschen näher an der Zielgruppe oder stellen diese gar selbst dar. Sie spüren kulturelle Trends früher und besitzen den Mut, Unbequemes auszusprechen. Kristin Barnowsky erlebt das regelmäßig in ihren Mentoring-Sessions, etwa wenn es um künstliche Intelligenz, Automatisierung von Workflows oder den Einsatz von Social Media geht. Doch der tiefere Wert liegt oft jenseits der Technologie: Es geht um das Hinterfragen erstarrter Prozesse. „Oft sehen die Dinge, die uns Sorgen machen, nur für uns so aus; aus einer anderen Perspektive sind sie plötzlich Chancen für innovative Veränderungen“, resümiert die Mentorin.

Letztlich profitiert nicht nur die Führungskraft auch die jungen Mentor:innen wachsen, bauen sich ein Netzwerk auf und erleben direkte Selbstwirksamkeit. Die wichtigste Frage für Ines Hanusch: „Was, wenn du von denen lernst, die bisher nicht gefragt wurden? Es tut manchmal weh, sich spiegeln zu lassen. Aber nur so entsteht Fortschritt.“ In einer Wirtschaft, die händeringend nach Fachkräften und neuen Wegen sucht, könnte die Bereitschaft, vom Nachwuchs zu lernen, bald über die Existenz von Unternehmen entscheiden. Oder wie Ines Hanusch sagt: „Wer heute keine Kultur des gegenseitigen Lernens etabliert, verliert morgen den Anschluss bei existenziellen Themen wie Mitarbeiterbindung und Innovation.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen