18.04.2023

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

Rania Wazir und Gertraud Leimüller haben 2022 das Wiener Startup Leiwand.ai gegründet. Seither setzt sich das Duo für Fairness in künstlicher Intelligenz ein. Im brutkasten-Interview erklären die Gründerinnen, warum Fairness in KI für alle Menschen wichtig ist.
/artikel/leiwand-ai-fairness-in-kuenstlicher-intelligenz
leiwand.ai
© leiwand.ai - Rania Wazir (l.) und Gertraud Leimüller von leiwand.ai.

Wir befinden uns in einer zunehmend digitalisierten Welt, in der künstliche Intelligenz (KI) immer mehr Aspekte unseres Alltags durchdringt. Mit den jüngsten technologischen Fortschritten dringen Fragen zur Fairness und Gerechtigkeit von KI-Systemen stärker in den Vordergrund. Von Personalbeschaffung über Kreditvergabe bis hin zu medizinischer Diagnostik, künstliche Intelligenz trifft bereits schwerwiegende Entscheidungen, die ethnische und gesellschaftliche Fragestellungen aufwerfen.

Das Wiener KI-Startup Leiwand.ai hat es sich zur Aufgabe gemacht, den “Fair by Design”-Ansatz in die Entwicklung von künstlicher Intelligenz von Anfang an zu implementieren. Damit möchten die Gründerinnen Gertraud Leimüller und Rania Wazir dazu beitragen, die revolutionäre Technologie zum Wohle der Menschen einzusetzen und Diskriminierung durch KI zu reduzieren. Das im Jahr 2022 gegründete Startup arbeitet aktuell an einem Bias-Detektor, der frühzeitig unbeabsichtigte Diskriminierung durch künstliche Intelligenz aufspüren soll.

Technische und soziale Fairness in KI

“Fairness in künstlicher Intelligenz betrifft jeden, nicht nur Frauen und Minderheiten”, sagt Gertraud Leimüller, Co-Founderin von Leiwand.ai. Anhand eines Beispiels erläutert sie, dass auch ein junger, weißer Mann von künstlicher Intelligenz diskriminiert werden kann, da er beispielsweise für seine medizinische Ausbildung länger braucht, weil die KI aufgrund verzerrter Kriterien Ausbildungsplätze nur mit großen Zeitabständen vergibt. Leimüller und Wazir unterscheiden daher zwischen technischer und sozialer Fairness. Technische Fairness wird durch die Implementierung von Fairness-Maßnahmen während der Entwicklung berücksichtigt, kann aber durch den Einsatz von verzerrten Daten gefährdet werden und unbeabsichtigte Diskrimminierung hervorrufen.

Wir können nicht erwarten, dass die Algorithmen, die wir entwickeln und mit historischen Daten und Biases trainieren, faire Entscheidungen treffen

Rania Wazir

“Wenn Daten, die für KI-Training verwendet werden, kaum Frauen oder ethnische Gruppen repräsentieren, wird die KI glauben, fair zu handeln. In der Praxis sieht das aber anders aus, da die Daten die gesellschaftliche Realität nicht korrekt wiedergeben“, erklärt Leimüller. Wazir fügt hinzu, dass wir Menschen nicht fair sind. “Das müssen wir uns eingestehen. Wir können nicht erwarten, dass die Algorithmen, die wir entwickeln und mit historischen Daten und Biases trainieren, faire Entscheidungen treffen.”

Auch soziale Fairness könne keine hundertprozentige Fairness garantieren, da diese auf Kompromisse und Trade-offs basiert. „Wenn ich die KI so programmiere, dass sie Frauen auf keinen Fall diskriminieren darf, kann ich die Diskriminierung anderer dadurch kaum verhindern. Ich kann nicht alle Gruppen fair behandeln“, sagt Leimüller. Dennoch sei es möglich, das Risiko für Diskriminierung zu minimieren.

Fairness in KI ist Perspektiven-abhängig

Ein wichtiger erster Schritt für die Auseinandersetzung mit Fairness ist, zu verstehen, dass Fairness für jede einzelne Person etwas anderes bedeuten kann, da sie Perspektiven-abhängig ist. „Zum Beispiel bedeutet Fairness für einen Richter als Entscheidungsträger etwas ganz anderes als Fairness für den Angeklagten als Betroffener“, erklärt Wazir und nennt 20 unterschiedliche Metriken, um Fairness zu messen.

„Diese 20 Formeln haben mittlerweile alle mathematisch bewiesen, dass nicht alle gleichzeitig erfüllt sein können“, erklärt die Gründerin weiter. Das bedeutet, dass Entscheidungen getroffen werden müssen, welche Metriken berücksichtigt und welche Perspektiven dem KI-System vermittelt werden. Dadurch wird klar, dass Fairness in KI nicht einheitlich messbar ist und von verschiedenen Blickwinkeln und Kontexten abhängt.

KI-Landschaft als “Wilder Westen”

Während künstliche Intelligenz das Potenzial hat, unsere Lebensqualität zu verbessern, besteht auch die Gefahr, dass sie gesellschaftliche Ungleichheiten und Diskriminierungen verschärft. „Künstliche Intelligenz ist sehr mächtig. Mit dieser Macht kommt eine Verantwortung, welcher wir uns nicht entziehen sollten“, sagt Wazir. Die Gesellschaft habe die Verantwortung, dass durch den Einsatz von KI-Technologien weder Menschen noch der Umwelt ungewollten Schaden zugefügt wird. Aus diesem Grund wird dem Thema Regulierung in der KI-Branche eine umso größere Wichtigkeit zugeschrieben.

Die Gründerinnen beschreiben die KI-Landschaft als “Wilder Westen”, da aktuell Qualitätskriterien fehlen und dadurch der Auslöser für das wachsende Misstrauen und die Vorbehalte in der Gesellschaft rund um diese Technologien seien. “Wenn Fairness in KI nicht berücksichtigt wird, können Bedenken gegenüber diesen Technologien entstehen. Viele Menschen vertrauen der KI nicht. Wir sehen das teilweise jetzt schon, wenn diese Systeme am Arbeitsplatz eingesetzt werden”, sagt Leimüller.

Um zukünftige Akzeptanzprobleme aus dem Weg zu räumen und Fairness in KI-Systemen sicherzustellen, sei es daher notwendig, Mindestqualitätsstandards für künstliche Intelligenz aufzustellen. Das ist vor allem mit unterschiedlichen Soft-Laws und Zertifizierungen von KI-Unternehmen möglich. Zudem sind die KI-Expert:innen davon überzeugt, dass KI-Regulierungen und Standards das Potenzial mitbringen, Menschen Arbeit abzunehmen und die KI-Entwicklung künftig zu erleichtern. “Eine gute Qualitätsrichtlinie und Regulierung helfen uns in den Bereichen, wo es noch so viel zu entdecken gibt”, erklärt Wazir weiter.

Interdisziplinäre Zusammenarbeit fundamental für KI

Bei der Entwicklung von KI-Technologien müsse man das Hauptaugenmerk darauf legen, zu verstehen, welche Personengruppen von der Entwicklung betroffen sind, wie sich diese auf die Menschen auswirken und welche Vorteile und Bedürfnisse sich daraus für die Nutzer:innen ergeben. Dieser Aspekt ist ein wesentlicher Bestandteil im Entwicklungsprozess, um Techniker:innen frühzeitig über diese Werte zu informieren.

“Developer:innen haben keine sozialwissenschaftliche Ausbildung. Wir können die Verantwortung über Gleichberechtigung in KI nicht allein Data Engineers und Entwickler:innen überlassen”, sagt Leimüller. Die gesamte Gesellschaft müsse sich an der Diskussion um Fairness in KI beteiligen. Genau hier müsse man ansetzen und mehrere Disziplinen vereinen, um ein umfassendes Verständnis von künstlicher Intelligenz zu gewährleisten.

Als ersten Ansatz hierfür nennt Leimüller die interdisziplinäre Ausrichtung in der Ausbildung. Zudem sei es wichtig, Techniker:innen komplementäre Ausbildungen anzubieten. “Was wir jetzt brauchen, sind interdisziplinäre Teams. Wir müssen verstehen, dass man keine gute KI entwickeln kann, wenn nicht mehrere Expert:innen aus unterschiedlichen Disziplinen an einem Tisch sitzen. Das ist eine sehr wichtige Herangehensweise”, erklärt Leimüller.

Deine ungelesenen Artikel:
16.11.2026

Vom Autoleasing zur Wärmepumpe: Das Wiener Startup PlusMarie will Heimprojekte auf Raten möglich machen

Zwei ehemalige WU-Absolventen wollen eine Lücke im österreichischen Finanzierungsmarkt schließen: Mit PlusMarie bringen Michael Bayer und Matthias Hausberger Banken und Leasinganbieter direkt mit Handwerksbetrieben zusammen. Das Startup setzt dabei auf individuelle Finanzierungslösungen für Projekte rund ums Eigenheim.
/artikel/vom-autoleasing-zur-waermepumpe-das-wiener-startup-plusmarie-will-heimprojekte-auf-raten-moeglich-machen
16.11.2026

Vom Autoleasing zur Wärmepumpe: Das Wiener Startup PlusMarie will Heimprojekte auf Raten möglich machen

Zwei ehemalige WU-Absolventen wollen eine Lücke im österreichischen Finanzierungsmarkt schließen: Mit PlusMarie bringen Michael Bayer und Matthias Hausberger Banken und Leasinganbieter direkt mit Handwerksbetrieben zusammen. Das Startup setzt dabei auf individuelle Finanzierungslösungen für Projekte rund ums Eigenheim.
/artikel/vom-autoleasing-zur-waermepumpe-das-wiener-startup-plusmarie-will-heimprojekte-auf-raten-moeglich-machen
PlusMarie
Michael Bayer (l.) und Matthias Hausberger von PlusMarie. I © PlusMarie

Beim Autokauf ist Finanzierung (Leasing) selbstverständlich, bei Heizung, Photovoltaikanlage oder neuem Bad wird sie in Österreich kaum angeboten. Das Startup PlusMarie will das mit seiner Plattform ändern. Gegründet haben es Michael Bayer und Matthias Hausberger, die sich seit 2017 vom Studium an der WU kennen.

Kein Point-of-Sale-Angebot in Österreich

Bayer arbeitete zuletzt im Aktienteam von Morgan Stanley in London. Hausberger war nach dem Master vier Jahre in Berlin, zuerst bei Ninetailed, dann bei Contentful, wo er an Personalisierung und Automatisierung arbeitete. Die Idee zum Startup kam über einen Bekannten Bayers in den USA, der dort Kredite für Home-Improvement-Projekte vermittelt. „In Amerika werden circa 30 Prozent dieses Heimverbesserungsmarktes finanziert, in Österreich fast nichts, PV-Anlagen vielleicht, aber Badezimmer, Swimming Pool und Klimaanlagen kaum.“, sagt Bayer. Den Grund sieht er im Verkaufsprozess: „Beim Auto wird es am Point of Sale angeboten, beim Handwerk nicht.“

PlusMarie setzt deshalb bei den Betrieben an. Diese können die Finanzierung direkt in ihre Angebote einbinden und erhalten im Gegenzug Statusinfos zu den Anfragen, eine Website-Einbindung und Werbematerial. Verdient wird über eine Vermittlungsprovision von Banken und Leasinggesellschaften. Für Endkunden soll die Finanzierung nicht teurer sein, „eher gleich kosten oder etwas günstiger sein“, wie die Founder betonen. PlusMarie führt hierzu eine Bonitätsvorprüfung durch und bereitet die Anfragen für die Banken auf.

PlusMarie mit mehreren Angeboten

Für Endkunden liegt der Vorteil laut Bayer darin, dass sie nicht selbst zur Hausbank gehen und dort ein einzelnes Angebot einholen müssen. Über PlusMarie bekommen sie mehrere Angebote und können das günstigste und das am besten passende auswählen.

Von bestehenden Vergleichsplattformen will sich PlusMarie vor allem bei komplexeren Fällen abheben. Andere Plattformen fragen laut Hausberger die Selbstauskunft ab und liefern ein Ja oder Nein. Eine Finanzierungsanfrage sei aber oft wesentlich komplizierter, weil es um Einzelfälle gehe, für die ein Formular nicht ausreiche. Das gelte etwa für Leasing, bei dem auch Projektdaten nötig sind. „Leasing kann man auch für Gegenstände, wie zum Beispiel eine Wärmepumpe, eine PV-Anlage, teilweise auch Pools oder Einbauküchen verwenden“, erklärt Hausberger.

Auf der anderen Seite gibt es dem Founder zufolge technisch versierte Lösungen, die sich auf einen speziellen Bereich wie die Energiewende konzentrieren, aber nicht den gesamten Heimverbesserungsmarkt abdecken. Diese Anbieter würden zudem nicht mit traditionellen Banken zusammenarbeiten. PlusMarie verbinde indes beides: Als Partner nennt das Startup etablierte große Banken und neu auch Uniqa Leasing.

Das Blackbox-Problem

Ohne diese Einbindung sei den Gründern nach der ganze Prozess eine „Blackbox“. Sie könnten weder mit Ratenzahlung werben, noch wüssten sie, ob der Kunde zurückkommt. „Mit PlusMarie kann er hingegen Instagram-Werbung schalten oder Flyer im Verkaufsraum auflegen“, erklärt Bayer.

Novelle des Verbraucherkreditgesetzes

Finanzierung sei ein heikles Geschäft mit sensiblen Daten und vielen Vorschriften, sagt Hausberger. Mit der Novelle des Verbraucherkreditgesetzes am 20. November 2026 werde es noch komplexer. „Ich glaub, viele Betriebe wissen noch gar nicht, was auf sie zukommt“, sagt Bayer.

Er erklärt das Risiko an einem Beispiel: Ein Betrieb bietet Ratenzahlung an, die letzte Rate liegt mehr als 50 Tage nach der Leistung, der Betrieb prüft nicht die Bonität und weist nicht auf die Kosten der Kreditaufnahme hin, auch wenn sie zinsfrei ist. Dann kann der Kunde zurücktreten. „Theoretisch kann man sich eine Klimaanlage für den Sommer holen, auf Raten kaufen und im Nachhinein, wenn der Sommer vorbei ist, sagen: Bitte Geld zurück“, so Bayer. PlusMarie will Betriebe über solche Risiken informieren.

PlusMarie plant DACH-Expansion

Das Wiener Startup operiert seit dem 20. August und konnte die Zahl der Partnerbetriebe von rund 30 auf 43 steigern, mit Stand Ende Oktober. Neue Betriebe erreicht das Startup über Messen, Cold Calls, LinkedIn, Medien und einen Blog. Gefunden werde es auch über KI-Suche oder Mundpropaganda.

Als nächsten Schritt will PlusMarie den österreichischen Markt so weit wie möglich erschließen, die Markenbekanntheit steigern und Finanzierung zum Standard machen. Danach soll die Expansion in den DACH-Raum folgen. Außerdem will das Startup das Angebot bei Hypothekarkrediten ausbauen. Es habe bereits Fälle gegeben, in denen Kunden etwa Wärmepumpen, PV- und Klimaanlagen einbauen ließen und PlusMarie Hypotheken abgewickelt hat, weil es eigenen Angaben nach günstiger war, die bestehende Hypothek aufzustocken. Dieses Produkt will das Gründerduo „perfektionieren“.

Beim Personal setzen die Gründer weiter stark auf Technologie. Ausgebaut werden soll vor allem die Kundenabwicklung, wo individuelle Beratung nötig ist. PlusMarie ist eigenfinanziert. Investoren seien vor allem als Partner für Netzwerk und Know-how interessant, Kapital brauche man aktuell nicht.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“