22.11.2022

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

Ein EU-Projekt gegen AI-Diskriminierung und für "multikriteriellen Fairness". Mit dabei: eine österreichische Forscherin des "Complexity Science Hub Vienna"
/artikel/mammoth-ki-tendenz-zur-diskriminierung-durchbrechen
(c) Stock.Adobe/ra2 studio - Science Hub entwickelt dafür sgn. "Fairness-Messungen".

Das Problem beim Einsatz Künstlicher Intelligenz ist, dass sie dazu tendiert, diskriminierende Entscheidungen zu treffen – etwa in der Bildung, bei Bewerbungsverfahren oder in der Werbung. Amazon, als Beispiel, schaffte vor vier Jahren eine KI-Software für die Bewerberauswahl wieder ab, weil die eingebaute AI Frauen benachteiligte. Microsoft nahm seinen Chatbot „Tay“ bereits zwei Jahre davor zurück, nachdem jener rassistische und extremistische Inhalte getwittert hatte. Das Projekt MAMMOth möchte dieses allgemeine Problem nun angehen.

MAMMOth = Multi-Attribute, Multimodal Bias Mitigation in AI Systemen

Denn, Unternehmen, Politik und viele andere Bereiche verlassen sich zunehmend auf Künstliche Intelligenz und treffen auf dieser Grundlage weitreichende Entscheidungen für den Einzelnen und die Gesellschaft.

„Einerseits eröffnet dies enorme Möglichkeiten für verschiedene Sektoren wie Bildung, Bankwesen oder Gesundheitswesen, aber auch auf persönlicher Ebene, zum Beispiel bei Stellenbewerbungen oder beim Targeting von Werbung. Andererseits besteht gerade bei künstlicher Intelligenz (KI) die Gefahr, dass sie die Diskriminierung von Minderheiten und Randgruppen in der Bevölkerung – basierend auf sogenannten geschützten Merkmalen wie Geschlecht, Rasse und Alter – weiter verstärkt“, erklärt Fariba Karimi, Senior Scientist bei „Computational Social Science“ am CSH in Wien.

Der „Science Hub“ entwickelt mit der Wissenschaftlerin sogenannte Fairness-Messungen, die nicht nur ein Attribut wie die Hautfarbe berücksichtigen, sondern mehrere sich überschneidende Attribute wie Geschlecht, Alter und Rasse.

„Wir wollen zum Beispiel, dass unsere Fairness-Messungen nicht nur für Frauen funktionieren, sondern auch für Frauen, die Einwanderer sind oder aus benachteiligten ethnischen Gruppen stammen“, sagt Karimi. Ihr Fokus liegt auf genau dieser „multikriteriellen Fairness“ in Netzwerkdaten – wenn beispielsweise Ungleichheiten daraus resultieren, dass Menschen im Kontext eines zugrunde liegenden Netzwerks unterschiedliche Positionen einnehmen.

Minderheiten sollten in Algorithmen nicht unsichtbar werden

Diskriminierung sei kein neues Problem, aber die Tatsache, dass die KI-Technologie sie weiterhin verstärke, habe zum Aufstieg des fairnessbewussten maschinellen Lernens (ML) als Teil der verantwortungsvollen KI geführt.

Ziel ist die Entwicklung von Modellen des maschinellen Lernens, die einerseits gute Vorhersagen machen, andererseits aber nicht nach geschützten Merkmalen wie Geschlecht oder Rasse diskriminieren.

„Es wurden viele Anstrengungen unternommen, aber bisher haben die vorgeschlagenen Methoden nur eine begrenzte Wirkung und spiegeln nicht die Komplexität und die Anforderungen der realen Anwendungen wider“, so Karimi weiter.

MAMMOth: Zwölf Institute ziehen an einem Strang

Beim EU-Projekt MAMMOth indes entwickeln Experten aus zwölf verschiedenen Institutionen eine innovative, auf Fairness ausgerichtete, datengestützte KI-Grundlage, die die notwendigen Werkzeuge zur Verfügung stellt, um Diskriminierung und Mehrfachdiskriminierung abzuschwächen und die Verantwortlichkeit von KI-Systemen zu gewährleisten.

„Durch die Entwicklung und Umsetzung von multikriteriellen Fairness-Maßnahmen und Abschwächungen wollen wir sicherstellen, dass Minderheiten in Algorithmen nicht sichtbar sind und in Bereichen, die sich bei Entscheidungsprozessen auf Maschinen verlassen, fair behandelt werden“, erklärt Karimi. „Gerechtere Algorithmen bedeuten eine bessere Repräsentation und Vielfalt in der Gesellschaft, was wiederum eine integrativere und gerechtere Gesellschaft bedeutet.“

Zu diesem Zweck wird sich das Projekt von Anfang an aktiv an zahlreiche Gemeinschaften von gefährdeten bzw. unterrepräsentierten Gruppen in der KI-Forschung wenden. Der sogenannte Co-Creation-Ansatz soll dafür sorgen, dass die tatsächlichen Bedürfnisse und Nöte der Nutzer:innen im Mittelpunkt der Forschungsagenda stehen und die Aktivitäten des Projekts leiten.

Die entwickelten Lösungen werden, laut Karimi, folglich in Pilotprojekten in drei relevanten Bereichen (Finanz-/Kreditanwendungen, Identitätsüberprüfungssysteme und akademische Bewertung) demonstriert.

Deine ungelesenen Artikel:
10.07.2026

Martin Ohneberg: „Wir dürfen nicht zu einem Land der Anwender werden“

HENN-Eigentümer und CEO Martin Ohneberg hielt beim World Venture Forum in Kitzbühel die Rede zum Gala-Dinner - mit einer unbequemen Botschaft an Europa. Im brutkasten-Interview spricht er über digitale Souveränität als letzte Chance, den Transformationsdruck im Automotive und den Megatrend Kühlung, von Rechenzentren bis zu humanoiden Robotern.
/artikel/martin-ohneberg-wir-duerfen-nicht-zu-einem-land-der-anwender-werden
10.07.2026

Martin Ohneberg: „Wir dürfen nicht zu einem Land der Anwender werden“

HENN-Eigentümer und CEO Martin Ohneberg hielt beim World Venture Forum in Kitzbühel die Rede zum Gala-Dinner - mit einer unbequemen Botschaft an Europa. Im brutkasten-Interview spricht er über digitale Souveränität als letzte Chance, den Transformationsdruck im Automotive und den Megatrend Kühlung, von Rechenzentren bis zu humanoiden Robotern.
/artikel/martin-ohneberg-wir-duerfen-nicht-zu-einem-land-der-anwender-werden
Martin Ohneberg am World Venture Forum in Kitzbühel | (c) brutkasten

Beim World Venture Forum in Kitzbühel hielt Martin Ohneberg auf Einladung von Initiator Berthold Baurek-Karlic die Rede zum Gala-Dinner: über Europa im globalen Kontext. Seine Botschaft, die er im brutkasten-Gespräch wiederholt: Europa hat kein Ideen-, sondern ein Umsetzungs- und Kapitalproblem. Und: „Wir reden nicht von einer Krise, sondern von einer Transformation.“ In der Transformation bringe Warten nichts.

Ohneberg weiß, wovon er spricht. Der Vorarlberger Industrielle übernahm 2011 die HENN Gruppe und baute den Verbindungstechnologie-Spezialisten zum Nischen-Weltmarktführer bei Ladeluft-Schnellkupplungen für die Automobilindustrie aus – eine Position, die das Unternehmen bis heute hält. Während die Branche mitten in einer schmerzhaften Transformation steckt, richtet er seine Gruppe nun auf einen Megatrend aus, der von KI-Rechenzentren bis zu humanoiden Robotern reicht: Kühlung.

Im Gespräch mit brutkasten erklärt Ohneberg, warum Europa beim Thema Souveränität den letzten Moment erreicht hat, weshalb das Self-driving Car der echte Game Changer wird und was passieren muss, damit der Kontinent nicht zum reinen Anwender fremder Technologien wird.


brutkasten: In deiner Rede beim World Venture Forum hast du die Formel „Europe discusses, America decides, Asia acts“ aufgegriffen. Gleichzeitig läuft gerade die Debatte um Europas digitale Souveränität. Ist da ein Momentum?

Martin Ohneberg: Wenn Europa jetzt beim Thema Souveränität nicht aufwacht, wird es ganz schwierig. Ich glaube, es ist der letzte Moment. Das wurde erkannt, der Draghi-Report hat seinen Teil dazu beigetragen. Jetzt muss gehandelt werden. Die Frage ist: Haben wir noch eine Chance, das Ruder herumzureißen? Die Gefahr ist, dass wir vom Land der Innovation und der Produktion zum Land der Anwender werden. Und leicht wird das nicht: Kapital ist der Rohstoff der Zukunft. Wenn man sich den Börsengang von SpaceX anschaut, sind das Dimensionen, da können wir in Europa nicht mit. Wir haben tolle Ideen und viele tolle Startups. Aber wenn man anschaut, wo sie skalieren und wo sie das Geld holen, ist es dann doch Amerika.

Was muss auf europäischer Ebene passieren? Sollte die öffentliche Beschaffung etwa gezielt europäische Lösungen bevorzugen?

Man kann das leicht sagen, aber es ist diffiziler, als oft geglaubt wird. Unsere Abhängigkeiten sind in vielen Technologien und bei seltenen Erden inzwischen so groß, dass es extrem schwierig ist, sich stärker gegen andere Nationen aufzustellen. Dazu fehlt die Geschlossenheit: 27 Länder, jeder agiert selbst, Frankreich anders als Deutschland. Natürlich macht es Sinn, die europäische Wirtschaft stärker zu schützen. Aber die eigentlichen Probleme liegen tiefer: Wir haben keinen einheitlichen Kapitalmarkt, weshalb das Geld, das in Europa durchaus vorhanden ist, hauptsächlich nach Amerika geht. Die Bürokratie ist überbordend. Und wir müssen wegkommen von den Überschriften, ob das jetzt Green Deal heißt oder Industrial Acceleration Act, und in die Umsetzung kommen. Europa ist prädestiniert für tolle Strategien und Visionen. Am Ende mangelt es an der konsequenten Umsetzung.

Woran scheitert die?

Wir haben tolle Universitäten, Innovationen, eine starke Industrie. Aber wir bringen es nicht auf die Straße, weil Europa ein zu komplexes Gebilde ist. Allein die Geschwindigkeit: Bis etwas durch Parlament und Kommission ist, vergehen im Schnitt rund 18 Monate. Bis es in Kraft tritt, reden wir von zwei, drei Jahren. Wir sind aber in einer Zeit angekommen, in der Speed der Key ist. Es passieren ja Dinge, aber sie passieren halt außerhalb Europas. Das ist eigentlich das Thema. Die Konsequenz: Bei uns wird gegründet und entwickelt, skaliert wird in Amerika. Und dann importieren wir die Produkte wieder, die wir selbst erfunden haben.

Du bist mit HENN Zulieferer der Automobilindustrie. Bei VW und anderen ist enormer Druck im System. Wie nimmst du die Lage wahr?

Das, was jetzt in Europa passiert, ist meiner Ansicht nach erst der Beginn. Da wird noch mehr kommen. Vor ein paar Jahren hat man für diese Zeit von 125 Millionen produzierten Autos weltweit gesprochen, wir sind jetzt bei rund 90 bis 92 Millionen. Global wird wenig Wachstum vorhanden sein, dafür kommt ein massiver Verdrängungswettbewerb zwischen den Regionen, der nach aktuellem Stand zugunsten Asiens ausgehen wird. Wichtig ist mir die Unterscheidung: Wir reden nicht von einer Krise, sondern von einer Transformation. Eine Krise geht vorbei, ob Corona, Suezkanal oder Energiepreise. Die Transformation bleibt. In der Krise kannst du durchtauchen, in der Transformation bringt Warten nichts. Du musst handeln und gestalten.

Du siehst den nächsten großen Schub bei Self-driving Cars. Warum ausgerechnet dort?

Weil sich die Mobilität damit noch einmal fundamental verändert. Beim E-Auto ist der Customer Benefit de facto der Ausstieg aus fossilen Brennstoffen. Das ist ideologisch, ob das ein riesiger Kundenvorteil ist, kann man diskutieren. Das Self-driving Car hat den echten Customer Benefit: Ich muss nicht mehr selbst fahren und kann jederzeit einsteigen. Wenn man sich anschaut, was Waymo, Huawei und andere schon auf der Straße haben und welche Datenmengen dort täglich generiert werden, kann man sich vorstellen, wie schnell das gehen wird. Für die Zulieferindustrie heißt das: extreme Standardisierung und Konsolidierung. Autos werden modular. Man kauft künftig ein „Skateboard“ mit vier Rädern, Batterie und integrierter Software, das Self-driving-Modul wird eingeschoben wie früher das erste Navi ins Auto. Und es wird die Foxconns geben, die das komplette Modul fertigen.

Wie stellt sich HENN darauf ein?

Wir kommen aus einer Nische, in der wir bis heute Weltmarktführer sind, der Ladeluft, und transformieren uns in einen Markt, der groß, aber extrem kompetitiv ist. Wir sind de facto in einem Red Ocean unterwegs. Deshalb richten wir die Gruppe stark auf den Megatrend Kühlung aus. Überall, wo verstärkt Elektrizität eingesetzt wird, braucht es Kühlung, und künftig immer öfter Wasserkühlung, weil die Leistungen so hoch sind. Die Rechenzentren, die jetzt gebaut werden, müssen alle wassergekühlt werden. Das ist unser Heimspiel: Da haben wir erste Anwendungen, Prototypen und intensive Gespräche. Dazu kommen Renewables wie Windkraft. Und humanoide Roboter, die aktuell noch luftgekühlt sind, künftig aber ebenfalls wassergekühlt werden müssen.

Stichwort Humanoide und Physical AI: Hat Europa dort überhaupt eine Chance?

Die Voraussetzungen wären da: Wir haben die Ingenieure, die klassische Industrie, hohe Innovationstätigkeit. Und die Notwendigkeit ist hundertprozentig gegeben: Demografisch müssen wir in Automatisierung und Robotik investieren, Punkt. Aber aktuell passiert wieder fast alles außerhalb Europas. Wenn Europa Souveränität ernst nimmt, muss spätestens bei den Humanoiden sichergestellt sein, dass es ein europäisches Produkt gibt, weil der Vergleich zum Menschen so nahe ist. Wenn China, die USA oder andere unsere Humanoiden in den Produktionshallen steuern, weiß ich nicht, ob das so angenehm ist. Es gibt positive Schritte wie die große Finanzierungsrunde von Neura Robotics mit Partnern wie Bosch und Schaeffler. Aber das Kapital fließt insgesamt wiederum nicht nach Europa. Die große Frage wird sein: Wie hoch ist unser Wertschöpfungsanteil? Dass wir anwenden werden, davon bin ich überzeugt. Ob wir ein eigenes Ökosystem aufbauen können, das entscheidet sich jetzt.

Zum Abschluss: Was gibst du Gründer:innen mit, die jetzt starten?

Es gibt nichts Besseres, als Unternehmer zu sein. Das ist die Champions League der Wirtschaft. Es kann jeder Unternehmer werden. Man braucht den Mut zu sagen: Jetzt mache ich den Sprung. Und dann Konsequenz. Aber es muss klar sein: Eine Unternehmerkarriere hat immer Höhen und Tiefen. Der Unternehmer ist der Einzige, der wirklich Risiko nimmt. Er ist bis zum Schluss auf dem Schiff.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen