22.11.2022

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

Ein EU-Projekt gegen AI-Diskriminierung und für "multikriteriellen Fairness". Mit dabei: eine österreichische Forscherin des "Complexity Science Hub Vienna"
/artikel/mammoth-ki-tendenz-zur-diskriminierung-durchbrechen
(c) Stock.Adobe/ra2 studio - Science Hub entwickelt dafür sgn. "Fairness-Messungen".

Das Problem beim Einsatz Künstlicher Intelligenz ist, dass sie dazu tendiert, diskriminierende Entscheidungen zu treffen – etwa in der Bildung, bei Bewerbungsverfahren oder in der Werbung. Amazon, als Beispiel, schaffte vor vier Jahren eine KI-Software für die Bewerberauswahl wieder ab, weil die eingebaute AI Frauen benachteiligte. Microsoft nahm seinen Chatbot “Tay” bereits zwei Jahre davor zurück, nachdem jener rassistische und extremistische Inhalte getwittert hatte. Das Projekt MAMMOth möchte dieses allgemeine Problem nun angehen.

MAMMOth = Multi-Attribute, Multimodal Bias Mitigation in AI Systemen

Denn, Unternehmen, Politik und viele andere Bereiche verlassen sich zunehmend auf Künstliche Intelligenz und treffen auf dieser Grundlage weitreichende Entscheidungen für den Einzelnen und die Gesellschaft.

“Einerseits eröffnet dies enorme Möglichkeiten für verschiedene Sektoren wie Bildung, Bankwesen oder Gesundheitswesen, aber auch auf persönlicher Ebene, zum Beispiel bei Stellenbewerbungen oder beim Targeting von Werbung. Andererseits besteht gerade bei künstlicher Intelligenz (KI) die Gefahr, dass sie die Diskriminierung von Minderheiten und Randgruppen in der Bevölkerung – basierend auf sogenannten geschützten Merkmalen wie Geschlecht, Rasse und Alter – weiter verstärkt”, erklärt Fariba Karimi, Senior Scientist bei “Computational Social Science” am CSH in Wien.

Der “Science Hub” entwickelt mit der Wissenschaftlerin sogenannte Fairness-Messungen, die nicht nur ein Attribut wie die Hautfarbe berücksichtigen, sondern mehrere sich überschneidende Attribute wie Geschlecht, Alter und Rasse.

“Wir wollen zum Beispiel, dass unsere Fairness-Messungen nicht nur für Frauen funktionieren, sondern auch für Frauen, die Einwanderer sind oder aus benachteiligten ethnischen Gruppen stammen”, sagt Karimi. Ihr Fokus liegt auf genau dieser “multikriteriellen Fairness” in Netzwerkdaten – wenn beispielsweise Ungleichheiten daraus resultieren, dass Menschen im Kontext eines zugrunde liegenden Netzwerks unterschiedliche Positionen einnehmen.

Minderheiten sollten in Algorithmen nicht unsichtbar werden

Diskriminierung sei kein neues Problem, aber die Tatsache, dass die KI-Technologie sie weiterhin verstärke, habe zum Aufstieg des fairnessbewussten maschinellen Lernens (ML) als Teil der verantwortungsvollen KI geführt.

Ziel ist die Entwicklung von Modellen des maschinellen Lernens, die einerseits gute Vorhersagen machen, andererseits aber nicht nach geschützten Merkmalen wie Geschlecht oder Rasse diskriminieren.

“Es wurden viele Anstrengungen unternommen, aber bisher haben die vorgeschlagenen Methoden nur eine begrenzte Wirkung und spiegeln nicht die Komplexität und die Anforderungen der realen Anwendungen wider”, so Karimi weiter.

MAMMOth: Zwölf Institute ziehen an einem Strang

Beim EU-Projekt MAMMOth indes entwickeln Experten aus zwölf verschiedenen Institutionen eine innovative, auf Fairness ausgerichtete, datengestützte KI-Grundlage, die die notwendigen Werkzeuge zur Verfügung stellt, um Diskriminierung und Mehrfachdiskriminierung abzuschwächen und die Verantwortlichkeit von KI-Systemen zu gewährleisten.

“Durch die Entwicklung und Umsetzung von multikriteriellen Fairness-Maßnahmen und Abschwächungen wollen wir sicherstellen, dass Minderheiten in Algorithmen nicht sichtbar sind und in Bereichen, die sich bei Entscheidungsprozessen auf Maschinen verlassen, fair behandelt werden”, erklärt Karimi. “Gerechtere Algorithmen bedeuten eine bessere Repräsentation und Vielfalt in der Gesellschaft, was wiederum eine integrativere und gerechtere Gesellschaft bedeutet.”

Zu diesem Zweck wird sich das Projekt von Anfang an aktiv an zahlreiche Gemeinschaften von gefährdeten bzw. unterrepräsentierten Gruppen in der KI-Forschung wenden. Der sogenannte Co-Creation-Ansatz soll dafür sorgen, dass die tatsächlichen Bedürfnisse und Nöte der Nutzer:innen im Mittelpunkt der Forschungsagenda stehen und die Aktivitäten des Projekts leiten.

Die entwickelten Lösungen werden, laut Karimi, folglich in Pilotprojekten in drei relevanten Bereichen (Finanz-/Kreditanwendungen, Identitätsüberprüfungssysteme und akademische Bewertung) demonstriert.

Deine ungelesenen Artikel:
21.06.2024

Warum die US-Börsenaufsicht ihre Ethereum-Untersuchung eingestellt hat

Crypto Weekly #145. Die US-Politik war die vergangenen Wochen das große Thema in der Kryptobranche. Diese Woche gab es wieder eine neue Entwicklung.
/artikel/crypto-weekly-145
21.06.2024

Warum die US-Börsenaufsicht ihre Ethereum-Untersuchung eingestellt hat

Crypto Weekly #145. Die US-Politik war die vergangenen Wochen das große Thema in der Kryptobranche. Diese Woche gab es wieder eine neue Entwicklung.
/artikel/crypto-weekly-145
Crypto Weekly
Abonniere unser wöchentliches Krypto-Briefing – was passiert gerade in der Branche und was bewegt den Markt?
Jeden Freitag

Die Kurstafel:

📉 Zweite schwache Woche in Folge, Bitcoin bei 63.600 Dollar

Starten wir mit einem Blick auf die Marktentwicklung. Nach der bereits schwachen Vorwoche (siehe Crypto Weekly #144) ging weiter abwärts. Bei Bitcoin blieb die zuletzt Anfang Juni überschrittene Marke von 70.000 US-Dollar somit außer Reichweite. Unter den großen Krypto-Assets verzeichneten Solana (minus elf Prozent) und Dogecoin (minus 13 Prozent) besonders starke Verluste, während sich Ethereum mit einem geringfügigen Kursabschlag von unter einem Prozent vergleichsweise fast stabil hielt - doch dazu später noch mehr.

Unter Druck geriet der Markt jedenfalls vor allem zum Wochenausklang. Unmittelbaren Auslöser dafür gab es keinen. Die Verluste dürften wieder einmal auf das allgemeine Marktumfeld zurückzuführen sein: Auch an der tech-lastigen US-Börse Nasdaq ging es am Donnerstag klar abwärts und am Freitag zeichnete sich vorbörslich ein eher schwacher Handelsstart ab. 

Die Nasdaq gilt gemeinhin als bester Vergleichsindikator für den Kryptomarkt. Denn empirisch bewegen sich Kryptowährungen weiterhin wie klassische Risk-on-Assets, zu denen auch Tech-Aktien zählen: Sie steigen, wenn die Risikolaune am Markt hoch ist - und fallen, wenn die Zeichen auf Zurückhaltung stehen. Der Aktienmarkt ist stark von den makroökonomischen Rahmenbedingungen beeinflusst, was dann indirekt auf den Kryptomarkt wirkt. 

Schon in der Vorwoche hatte sich die Zinsentscheidung der US-Notenbank - oder genauer gesagt, ihr Ausblick auf das laufende Jahr - in den Krypto-Kursen niedergeschlagen. Die Korrelation zwischen Krypto-Assets und US-Aktienmarkt ist - mit Unterbrechungen - insbesondere seit der Coronakrise stark. 

😮 US-Börsenaufsicht stellt Ethereum-Untersuchung ein…

Das größte Thema in den vergangenen Wochen in der Kryptobranche war aber nicht die Makroökonomie, sondern die US-Politik, in der sich Tauwetter abzuzeichnen begann. Zuerst genehmigte die US-Börsenaufsicht überraschend Ethereum–Spot-ETFs (siehe Crypto Weekly #141). Dann positionierte sich der republikanische Präsidentschaftskandidat Donald Trump mit einer expliziten Pro-Krypto-Message. Und schließlich gab es Medienberichte, die auch noch auf eine Neupositionierung des Lagers von Amtsinhaber Joe Biden hindeuteten (siehe Crypto Weekly #142). 

Hier gibt es also zwei Ebenen: Einerseits die Positionierung der Kandidaten im Wahlkampf, andererseits das Vorgehen der in diesem Bereich wohl wichtigsten Behörde. Und zu zweiterem Themenkreis gab es diese Woche eine weitere interessante Entwicklung: Denn die Börsenaufsicht hat offenbar eine Untersuchung zu Ethereum eingestellt. Dies gab das Blockchain-Unternehmen Consensys Mitte der Woche bekannt

Consensys hatte im April eine Klage gegen die Börsenaufsicht eingebracht. Das Ziel der Klage: Endlich Klarheit zu schaffen, ob Ethereum nach US-Recht als Wertpapier einzustufen ist oder nicht. Im Zuge dessen wurde bekannt, dass die Börsenaufsicht bereits im März 2023 eine Untersuchung zu genau dieser Frage eingeleitet hatte. Dies geschah offenbar vor dem Hintergrund der Umstellung des Ethereum-Konsensusmechanismus von “Proof of Work” auf “Proof of Stake” nach dem berühmten “Merge” im September 2022. Diese Untersuchung dürfte nun eingestellt worden sein.

"Die Entscheidung folgt auf einen Brief, den wir am 7. Juni geschickt haben, in dem wir die Börsenaufsicht gebeten haben, zu bestätigen, dass die Genehmigungen der ETH-ETFs vom Mai, die davon ausgingen, dass ETH eine Commodity (und kein Wertpapier, Anm. d. Red.) ist, bedeuten, dass die Behörde ihre Ethereum-2.0-Untersuchung einstellen wird", schreibt Consensys in einer Mitteilung. Ethereum 2.0 war eine Zeit lang der gängige Begriff für Ethereum nach dem “Merge”, also für das “Proof of Stake”-Ethereum.

🤔 Was die Entscheidung bedeutet - und was nicht

Zumindest lässt sich aus der Entscheidung wohl ableiten, dass die Argumente für eine Einstufung von Ethereum als Wertpapier nach Ansicht der Börsenaufsicht vielleicht nicht ganz so stark sind, wie Anfang 2023 gedacht. Gleichzeitig bedeutet die Einstellung der Untersuchung aber nicht, dass die Börsenaufsicht definitiv akzeptiert hat, dass Ethereum nicht als Wertpapier einzustufen ist. 

Eine interessante Einordnung dazu traf die auf Wertpapierrecht spezialisierte Jus-Professorin Carol Goforth von der University of Arkansas gegenüber Cointelegraph. Denn anders als von Consensys in der oben zitierten Mitteilung suggeriert, hat nach Einschätzung der Juristin “die  Zulassung eines ETF nichts damit zu tun, ob der Basiswert ein Wertpapier ist". Die Entscheidung der Börsenaufsicht, die Ethereum-Untersuchung einzustellen, sei aber "ein ziemlich guter Hinweis darauf, dass die Agentur nicht glaubt, ein Gericht davon überzeugen zu können, dass ETH ein Wertpapier ist." Die Behörde habe wohl eine möglicherweise peinliche Niederlage vor Gericht vermeiden wollen, vermutet die Juristin. 

Zusammenfassend gesagt: Gewissheit darüber, ob die Börsenaufsicht Ethereum als Wertpapier betrachtet, gibt es weiterhin nicht. Aber die Entscheidung ist ein weiteres Indiz dafür, dass eine solche Rechtseinschätzung in den USA zunehmend an Rückhalt verliert - auch innerhalb der Börsenaufsicht selbst.  


Disclaimer: Dieser Text sowie die Hinweise und Informationen stellen keine Steuerberatung, Anlageberatung oder Empfehlung zum Kauf oder Verkauf von Wertpapieren dar. Sie dienen lediglich der persönlichen Information. Es wird keine Empfehlung für eine bestimmte Anlagestrategie abgegeben. Die Inhalte von brutkasten.com richten sich ausschließlich an natürliche Personen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

MAMMOth: KI-Tendenz zur Diskriminierung durchbrechen