18.04.2023

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

Rania Wazir und Gertraud Leimüller haben 2022 das Wiener Startup Leiwand.ai gegründet. Seither setzt sich das Duo für Fairness in künstlicher Intelligenz ein. Im brutkasten-Interview erklären die Gründerinnen, warum Fairness in KI für alle Menschen wichtig ist.
/artikel/leiwand-ai-fairness-in-kuenstlicher-intelligenz
leiwand.ai
© leiwand.ai - Rania Wazir (l.) und Gertraud Leimüller von leiwand.ai.

Wir befinden uns in einer zunehmend digitalisierten Welt, in der künstliche Intelligenz (KI) immer mehr Aspekte unseres Alltags durchdringt. Mit den jüngsten technologischen Fortschritten dringen Fragen zur Fairness und Gerechtigkeit von KI-Systemen stärker in den Vordergrund. Von Personalbeschaffung über Kreditvergabe bis hin zu medizinischer Diagnostik, künstliche Intelligenz trifft bereits schwerwiegende Entscheidungen, die ethnische und gesellschaftliche Fragestellungen aufwerfen.

Das Wiener KI-Startup Leiwand.ai hat es sich zur Aufgabe gemacht, den “Fair by Design”-Ansatz in die Entwicklung von künstlicher Intelligenz von Anfang an zu implementieren. Damit möchten die Gründerinnen Gertraud Leimüller und Rania Wazir dazu beitragen, die revolutionäre Technologie zum Wohle der Menschen einzusetzen und Diskriminierung durch KI zu reduzieren. Das im Jahr 2022 gegründete Startup arbeitet aktuell an einem Bias-Detektor, der frühzeitig unbeabsichtigte Diskriminierung durch künstliche Intelligenz aufspüren soll.

Technische und soziale Fairness in KI

“Fairness in künstlicher Intelligenz betrifft jeden, nicht nur Frauen und Minderheiten”, sagt Gertraud Leimüller, Co-Founderin von Leiwand.ai. Anhand eines Beispiels erläutert sie, dass auch ein junger, weißer Mann von künstlicher Intelligenz diskriminiert werden kann, da er beispielsweise für seine medizinische Ausbildung länger braucht, weil die KI aufgrund verzerrter Kriterien Ausbildungsplätze nur mit großen Zeitabständen vergibt. Leimüller und Wazir unterscheiden daher zwischen technischer und sozialer Fairness. Technische Fairness wird durch die Implementierung von Fairness-Maßnahmen während der Entwicklung berücksichtigt, kann aber durch den Einsatz von verzerrten Daten gefährdet werden und unbeabsichtigte Diskrimminierung hervorrufen.

Wir können nicht erwarten, dass die Algorithmen, die wir entwickeln und mit historischen Daten und Biases trainieren, faire Entscheidungen treffen

Rania Wazir

“Wenn Daten, die für KI-Training verwendet werden, kaum Frauen oder ethnische Gruppen repräsentieren, wird die KI glauben, fair zu handeln. In der Praxis sieht das aber anders aus, da die Daten die gesellschaftliche Realität nicht korrekt wiedergeben“, erklärt Leimüller. Wazir fügt hinzu, dass wir Menschen nicht fair sind. “Das müssen wir uns eingestehen. Wir können nicht erwarten, dass die Algorithmen, die wir entwickeln und mit historischen Daten und Biases trainieren, faire Entscheidungen treffen.”

Auch soziale Fairness könne keine hundertprozentige Fairness garantieren, da diese auf Kompromisse und Trade-offs basiert. „Wenn ich die KI so programmiere, dass sie Frauen auf keinen Fall diskriminieren darf, kann ich die Diskriminierung anderer dadurch kaum verhindern. Ich kann nicht alle Gruppen fair behandeln“, sagt Leimüller. Dennoch sei es möglich, das Risiko für Diskriminierung zu minimieren.

Fairness in KI ist Perspektiven-abhängig

Ein wichtiger erster Schritt für die Auseinandersetzung mit Fairness ist, zu verstehen, dass Fairness für jede einzelne Person etwas anderes bedeuten kann, da sie Perspektiven-abhängig ist. „Zum Beispiel bedeutet Fairness für einen Richter als Entscheidungsträger etwas ganz anderes als Fairness für den Angeklagten als Betroffener“, erklärt Wazir und nennt 20 unterschiedliche Metriken, um Fairness zu messen.

„Diese 20 Formeln haben mittlerweile alle mathematisch bewiesen, dass nicht alle gleichzeitig erfüllt sein können“, erklärt die Gründerin weiter. Das bedeutet, dass Entscheidungen getroffen werden müssen, welche Metriken berücksichtigt und welche Perspektiven dem KI-System vermittelt werden. Dadurch wird klar, dass Fairness in KI nicht einheitlich messbar ist und von verschiedenen Blickwinkeln und Kontexten abhängt.

KI-Landschaft als “Wilder Westen”

Während künstliche Intelligenz das Potenzial hat, unsere Lebensqualität zu verbessern, besteht auch die Gefahr, dass sie gesellschaftliche Ungleichheiten und Diskriminierungen verschärft. „Künstliche Intelligenz ist sehr mächtig. Mit dieser Macht kommt eine Verantwortung, welcher wir uns nicht entziehen sollten“, sagt Wazir. Die Gesellschaft habe die Verantwortung, dass durch den Einsatz von KI-Technologien weder Menschen noch der Umwelt ungewollten Schaden zugefügt wird. Aus diesem Grund wird dem Thema Regulierung in der KI-Branche eine umso größere Wichtigkeit zugeschrieben.

Die Gründerinnen beschreiben die KI-Landschaft als “Wilder Westen”, da aktuell Qualitätskriterien fehlen und dadurch der Auslöser für das wachsende Misstrauen und die Vorbehalte in der Gesellschaft rund um diese Technologien seien. “Wenn Fairness in KI nicht berücksichtigt wird, können Bedenken gegenüber diesen Technologien entstehen. Viele Menschen vertrauen der KI nicht. Wir sehen das teilweise jetzt schon, wenn diese Systeme am Arbeitsplatz eingesetzt werden”, sagt Leimüller.

Um zukünftige Akzeptanzprobleme aus dem Weg zu räumen und Fairness in KI-Systemen sicherzustellen, sei es daher notwendig, Mindestqualitätsstandards für künstliche Intelligenz aufzustellen. Das ist vor allem mit unterschiedlichen Soft-Laws und Zertifizierungen von KI-Unternehmen möglich. Zudem sind die KI-Expert:innen davon überzeugt, dass KI-Regulierungen und Standards das Potenzial mitbringen, Menschen Arbeit abzunehmen und die KI-Entwicklung künftig zu erleichtern. “Eine gute Qualitätsrichtlinie und Regulierung helfen uns in den Bereichen, wo es noch so viel zu entdecken gibt”, erklärt Wazir weiter.

Interdisziplinäre Zusammenarbeit fundamental für KI

Bei der Entwicklung von KI-Technologien müsse man das Hauptaugenmerk darauf legen, zu verstehen, welche Personengruppen von der Entwicklung betroffen sind, wie sich diese auf die Menschen auswirken und welche Vorteile und Bedürfnisse sich daraus für die Nutzer:innen ergeben. Dieser Aspekt ist ein wesentlicher Bestandteil im Entwicklungsprozess, um Techniker:innen frühzeitig über diese Werte zu informieren.

“Developer:innen haben keine sozialwissenschaftliche Ausbildung. Wir können die Verantwortung über Gleichberechtigung in KI nicht allein Data Engineers und Entwickler:innen überlassen”, sagt Leimüller. Die gesamte Gesellschaft müsse sich an der Diskussion um Fairness in KI beteiligen. Genau hier müsse man ansetzen und mehrere Disziplinen vereinen, um ein umfassendes Verständnis von künstlicher Intelligenz zu gewährleisten.

Als ersten Ansatz hierfür nennt Leimüller die interdisziplinäre Ausrichtung in der Ausbildung. Zudem sei es wichtig, Techniker:innen komplementäre Ausbildungen anzubieten. “Was wir jetzt brauchen, sind interdisziplinäre Teams. Wir müssen verstehen, dass man keine gute KI entwickeln kann, wenn nicht mehrere Expert:innen aus unterschiedlichen Disziplinen an einem Tisch sitzen. Das ist eine sehr wichtige Herangehensweise”, erklärt Leimüller.

Deine ungelesenen Artikel:
01.06.2026

mySugr-Mitgründer Gerald Stangl bringt mit Roots Energy die urbane Wärmewende in Serie

Roots Energy hat aus einem mehrfach ausgezeichneten Wiener Pilotprojekt ein industrielles Wärmesystem für ganze Stadtquartiere gemacht. Jetzt startet die Serienfertigung in Österreich – und parallel die erste externe Finanzierungsrunde, geplant für das dritte Quartal 2026. Wir haben mit Gründer Gerald Stangl über Marktversagen, den Ukraine-Krieg als Wendepunkt und seine Lehren aus dem mySugr-Exit gesprochen.
/artikel/roots-energy
01.06.2026

mySugr-Mitgründer Gerald Stangl bringt mit Roots Energy die urbane Wärmewende in Serie

Roots Energy hat aus einem mehrfach ausgezeichneten Wiener Pilotprojekt ein industrielles Wärmesystem für ganze Stadtquartiere gemacht. Jetzt startet die Serienfertigung in Österreich – und parallel die erste externe Finanzierungsrunde, geplant für das dritte Quartal 2026. Wir haben mit Gründer Gerald Stangl über Marktversagen, den Ukraine-Krieg als Wendepunkt und seine Lehren aus dem mySugr-Exit gesprochen.
/artikel/roots-energy
Die Gründer Wieland Moser, Gerald Stangl und Florian Hackl-Kohlweiß sowie Co-CEO Katharina Steppan und CEO Hüseyin Özcelik (v. l.). Foto: Nicky Webb

Es ist eine Wette darauf, dass sich die Wärmeversorgung europäischer Städte in den nächsten Jahren grundlegend verändert. Den Beweis, dass der Markt dafür bereit ist, hat Roots Energy nach eigener Darstellung bereits erbracht. „Wir haben bewiesen, dass Menschen dafür bezahlen“, sagt Gründer Gerald Stangl. Das Wiener Unternehmen hat eine vorgefertigte Nahwärme-Plattform aus Hardware und Software entwickelt, die die heute übliche Einzelplanung jedes Heizraums durch ein industriell gefertigtes System ersetzen soll – und damit europäische Städte unabhängig von fossilen Energie-Importen machen will. Die Investitionskosten sinken laut Unternehmen gegenüber konventionell geplanten Anlagen um bis zu 50 Prozent.

Die erste Anlage – das mehrfach ausgezeichnete Wiener Pilotprojekt SmartBlock Geblergasse, technisch geplant von Roots-Mitgründer Wieland Moser, unter anderem Träger des Österreichischen Staatspreises 2021 – läuft seit 2017. Mehr als 20 weitere Standorte in der DACH-Region befinden sich im aktiven Rollout. Seit dem zweiten Quartal 2026 fertigt Roots Energy die zentralen Komponenten gemeinsam mit einem österreichischen Industriepartner in Serie. Womit das Unternehmen die jahrelange Pilotphase hinter sich lässt – und in die Skalierung eintritt.

Vom Co-Living-Projekt zum Wärme-Standard

Die Geschichte beginnt nicht mit Energie, sondern mit Wohnen. Hinter Roots steht mit Gerald Stangl ein Gründer, der bereits eine der bekanntesten österreichischen Health-Tech-Erfolgsgeschichten mitgebaut hat: Das von ihm mitgegründete Unternehmen mySugr, eine App zum Diabetes-Management, wurde 2017 an den Pharmakonzern Roche verkauft. Die Parallele zieht Stangl selbst – mySugr sei erfolgreich gewesen, weil das Team sein eigenes Problem gelöst habe. Bei Roots ist es dasselbe Muster: Die Wärmelösung entstand aus dem konkreten Bedarf eines eigenen Bauprojekts. 2021 gründete er gemeinsam mit Dr. Hüseyin Özcelik und Florian Hackl-Kohlweiß die Roots Urban Villages GmbH, ein Co-Living-Konzept für die Stadt. Bei der Suche nach einer Wärmelösung für ein rund 20.000 Quadratmeter großes Areal stieß das Team auf ein grundsätzliches Problem: „Wir haben gemerkt, es gibt nichts. Entweder man geht auf Fossil oder auf Fernwärme, wo man extreme Preisabhängigkeit hat“, erinnert sich Stangl. 

(c) Nicky Webb

Den Ausschlag gab schließlich der russische Einmarsch in die Ukraine 2022. Die Energiepreise schossen nach oben, die Immobilienpreise nach unten – und damit verschob sich die Logik des gesamten Vorhabens. Erst in diesem Moment, so Stangl, sei dem Team das eigentliche Marktversagen aufgefallen – und damit der Moment gekommen, „all in“ zu gehen: „Wenn nicht jetzt, wann dann?“ Das Team ließ das große Immobilienprojekt fallen, holte Energietechnik-Pionier Wieland Moser ins Gründer-Team, kaufte ein Gebäude als Forschungszentrum und entschied sich bewusst gegen frühes Investorenkapital: Ausschlaggebend war für Stangl der Zeitpunkt: Mit Kriegsbeginn sei die Stimmung unter Investoren schlecht gewesen, ein schneller Start mit hohem Tempo damals kaum finanzierbar. „Da haben wir gesagt, wir bootstrappen das.” 2023 wurde aus Roots Urban Villages die Roots Energy GmbH.

(c) Nicky Webb

Das Marktversagen: zwischen Fernwärme und Sackgasse

Warum es für dichte Städte bisher keine industrielle Wärmelösung gibt, lässt sich an drei Optionen festmachen, die alle nicht skalieren. Klassische Fernwärme erreicht nur profitable Kernzonen; bestehende Hochtemperatur-Netze (80 bis 135 Grad Vorlauf) sind faktisch nicht erweiterbar und verlieren über 30 Prozent ihrer Energie auf dem Transportweg. Wer dennoch ausbaut, riskiert hohe tote Investitionen, wenn die Anschlussquoten zu gering bleiben. Luftwärmepumpen und Heizcontainer wiederum scheitern im dichten Bestand an Platz, Schallschutz und Genehmigungen. Und individuell von Ingenieurbüros geplante Erdwärme-Anlagen funktionieren zwar technisch, bleiben aber teure Einzelstücke.

(c) Nicky Webb

Genau hier setzt die zentrale These vom „CapEx at Risk“ an. Das klassische Modell baut ein großes, zentrales Werk und steckt vorab viel Kapital hinein – in der Hoffnung, damit Tausende Haushalte zu versorgen. Bleiben die Anschlüsse aus, ist das Geld verloren. „Bei uns gibt’s dieses CapEx at Risk nicht“, sagt Stangl. „Die Energiequelle entsteht in diesen Netzen Schritt für Schritt.“ Statt eines Großkraftwerks liegen viele kleine Module vor; das System wächst mit der Nachfrage, nicht auf Verdacht.

Als Vorbild dient ausgerechnet Wien selbst. Nach den Ölpreisschocks Ende der 1970er-Jahre stellte die Stadt die dezentrale Ölheizung auf Gas um – und zwar, indem man günstig nur die Gasleitungen bis vor die Wohnungen legte. Ab da konnte jeder Haushalt frei entscheiden, wann er von Öl auf die überlegene Gastherme wechselt. „In weniger als einer Generation war das abgeschlossen“, erzählt Stangl. „Und wir machen genau das Gleiche.“ Roots verlegt schlanke, kostengünstige Soleleitungen – im Kern eine kalte Wasserleitung mit Alkohol-Wasser-Gemisch –, und jede Wohnung tauscht ihre Gastherme nach Bereitschaft gegen eine Soletherme.

(c) Nicky Webb

Komplexität von der Baustelle ins Werk

Technisch baut Roots auf sogenannter kalter Nahwärme – im Fachjargon 5th Generation District Heating and Cooling. Über die Soleleitungen wird Umgebungswärme aus Erdwärme, Grundwasser, Außenluft oder Abwasser vor Ort gewonnen und nahezu verlustfrei an die Gebäude geliefert. Die Plattform besteht aus drei Bausteinen: dem vorgefertigten Hydraulik- und Steuerungsmodul Roots·Hub, dem Betriebssystem Roots·OS, das das thermische Netz steuert, sowie standardisierten Kompressoren, die Wärme oder Kälte beim Endabnehmer erzeugen – inklusive der Option, im Sommer zu kühlen.

(c) Martin Holzner

Der Kerngedanke: Roots verlagert die Komplexität von der Baustelle ins Werk. Aus aufwändigen Sonderprojekten werden standardisierte, einfach einzusetzende Systemlösungen – und damit eine skalierbare Infrastruktur. Wichtig ist Stangl dabei die Abgrenzung – ein Punkt, mit dem das Unternehmen lange gerungen hat: „Wir liefern die Anlagensysteme, damit Firmen ihren Job machen können. Wir sind in keiner Konkurrenz.“ Roots sei weder Wärmepumpenfirma noch Projektierer, sondern Systemtechnik-Lieferant für Energieversorger, institutionelle Eigentümer und Contractors.

Markt mit hohem regulatorischem Druck

Der Zeitpunkt ist kein Zufall. Drei EU-Rechtsakte definieren bis 2040 das Ende fossiler Wärme im Gebäudebestand: Der EPBD-Recast schreibt den Ausstieg aus fossilen Heizkesseln bis 2040 vor, der EED-Recast verpflichtet jede Kommune ab 45.000 Einwohnern zu einem Wärmeplan, und ab 2028 greift mit ETS 2 eine CO₂-Bepreisung auf Gebäudewärme. Rund die Hälfte des EU-Endenergieverbrauchs entfällt auf Heizen und Kühlen – größtenteils noch fossil.

(c) Nicky Webb

Als Zielkunden hat Roots Energy Europas größte institutionelle Wohnungsanbieter im Blick. Allein die 30 größten kontrollieren nach eigener Auswertung ein Wärme-Dekarbonisierungs-Volumen von rund 65 Milliarden Euro – darunter die größten Bestandshalter aus Österreich und Deutschland. Gespräche zu ersten gemeinsamen Piloten sind in Vorbereitung.

Fünf Jahre bootstrapped, jetzt die erste Runde

Seit 2021 hat Roots Energy rund zehn Millionen Euro aus Eigen- ,Fördermitteln und geförderten Darlehen eingesetzt – je etwa fünf Millionen in Forschung und Produktentwicklung sowie in das 900 Quadratmeter große Forschungszentrum „Roots·House“ in Wien-Penzing, das der Klimafonds als „Leuchtturm der Wärmewende“ auszeichnete. Die Forschungsförderungsgesellschaft FFG steuerte 2,4 Millionen Euro bei. Das Patent ist erteilt.

Nun geht das Unternehmen erstmals an externes Kapital: Eine erste Finanzierungsrunde soll im dritten Quartal 2026 abgeschlossen werden. Gespräche laufen mit europäischen Fonds aus den Bereichen Klima-, Resilienz- und Industrietechnologie. Das Kapital fließt in technische Kundenbetreuung, den Ausbau des Vertriebs und die Serienproduktion. Operativ geführt wird Roots Energy von Hüseyin Özcelik und Katharina Steppan; Stangl verantwortet als Gründer das Fundraising.

Das erklärte Ziel: Die Wärmeversorgung europäischer Städte soll künftig industriell organisiert sein – so wie Strom oder Telekommunikation heute. Den Hebel dorthin sieht Stangl weniger im Klimaargument als in handfesten Vorteilen für die Bewohner. „Wir müssen das Narrativ ändern“, sagt er. „Klima zieht in der aktuellen politischen Lage bei den Menschen wenig – dafür stehen Resilienz, Unabhängigkeit und Wirtschaftlichkeit im Vordergrund.“


Mehr über Roots Energy könnt ihr auch hier erfahren.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Leiwand.ai: „Fairness in KI betrifft jeden, nicht nur Frauen und Minderheiten“