21.08.2023

Sind selbstfahrende Autos rassistisch?

Glosse. Eine Studie von Forscher:innen des Londoner King's College, wonach autonome Fahrzeugsysteme "racially biased" sind, macht derzeit in den internationalen Medien die Runde.
/artikel/sind-selbstfahrende-autos-rassistisch
Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
Screenshot: Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
kommentar

Die Statistik ist nicht von der Hand zu weisen und definitiv problematisch: Die Chance, von bildbasierten Systemen selbstfahrender Autos nicht erkannt zu werden, ist bei dunkelhäutigen Personen um 7,52 Prozent höher als bei hellhäutigen. Das fand ein Forscher:innen-Team am renommierten Londoner King’s College in einer Studie heraus. Das Ergebnis macht gerade international in Medien die Runde.

Für die Studie wurden Open Source-Algorithmen, die auch von den Autoherstellern genutzt werden (diese gaben ihre eigenen Systeme nicht für die Studie frei), auf mehr als 8.000 Bildern angewendet. Die Personen auf diesen Bildern wurden von den Wissenschaftler:innen nach Geschlecht, Alter und Hautfarbe gelabelt.

Noch größeres Problem mit nicht erkannten Kindern

Noch stärker als der Unterschied zwischen hellhäutigen und dunkelhäutigen Personen ist jener zwischen Erwachsenen und Kindern, die um ganze 19,67 Prozent häufiger nicht von den Systemen erkannt werden. Zwischen den Geschlechtern ist der Unterschied mit 1,1 Prozent dagegen relativ gering.

Sind selbstfahrende Autos also rassistische Kinderhasser? Oder etwas weniger überspitzt gesagt: Waren die Programmierer:innen der Algorithmen (mal wieder) zu wenig für das Thema sensibilisiert und haben den “racial bias” und den “age bias” auf fahrlässige Art und Weise verursacht?

Dunkelhäutige Personen werden im Dunkeln schlechter erkannt

Eine weitere Angabe des Forscher:innen-Teams legt nahe, dass man mit derartigen Vorwürfen vorsichtig sein sollte. Im Abstract zur Studie heißt es: “Darüber hinaus untersuchten wir gängige Szenarien, die in der Literatur zu Tests des autonomen Fahrens erforscht wurden, und stellen fest, dass der Bias gegenüber dunkelhäutigen Fußgängern in Szenarien mit geringem Kontrast und geringer Helligkeit deutlich zunimmt”.

Sprich: dunkelhäutige Personen sind für die optischen Systeme in erster Linie in der Dunkelheit schwerer zu erkennen als hellhäutige. Und Kinder werden generell – wie auch von menschlichen Fahrer:innen – deutlich leichter übersehen. Mit Rassismus oder Kinderfeindlichkeit hat das wohl sehr wenig zu tun.

Wohl kein Rassismus, aber sehr wohl ein Problem

Ein Problem ist dies natürlich trotzdem. Wenn die bildbasierten Systeme selbstfahrender Autos hier nicht sattelfest sind, sind sie noch nicht ausgereift genug und daher eigentlich nicht bereit für die Straße. Derartige Systeme dürften übrigens generell nicht der Weisheit letzter Schluss sein. Auch Tesla, das bis vor einiger Zeit klar auf KI-Bildanalyse setzte, steigt mittlerweile auf laserbasierte Umgebungs-Abtastung (Lidar) um.

Deine ungelesenen Artikel:
29.02.2024

Erst Anyline, dann Finabro – jetzt startet Andreas Greilhuber bei EnliteAI

Nach 14 Jahren bei IBM startete Andreas Greilhuber 2017 beim Wiener Scaleup- damals Startup- Anyline. Seitdem lässt ihn die heimische Startup-Szene nicht los. Nun beginnt er bei EnliteAI.
/artikel/nach-anyline-finabro-andreas-greilhuber-bei-enliteai
29.02.2024

Erst Anyline, dann Finabro – jetzt startet Andreas Greilhuber bei EnliteAI

Nach 14 Jahren bei IBM startete Andreas Greilhuber 2017 beim Wiener Scaleup- damals Startup- Anyline. Seitdem lässt ihn die heimische Startup-Szene nicht los. Nun beginnt er bei EnliteAI.
/artikel/nach-anyline-finabro-andreas-greilhuber-bei-enliteai
Andreas Greilhuber startet bei EnliteAI | (c) Finabro
Andreas Greilhuber | (c) Finabro

1997 beginnt er bei PwC, wo er bis 2002 bleibt. Danach ist er ganze 14-einhalb Jahre bei IBM, davon die letzten fünf Jahre als “Partner Global Business Services”. Andreas Greilhuber hätte seine Karriere wohl problemlos weiter im Corporate-Bereich fortführen können. Doch es zog ihn in die Startup-Welt. 2017 startet er beim Wiener (mittlerweile) Scaleup Anyline. Ab 2018 ist er dort COO. Das damals noch junge Startup holt sich nämlich erfahrene Leute an Bord, um das Wachstum voranzutreiben – mit Erfolg, wie sich zeigen sollte.

Von 2022 bis zum Konkurs bei Finabro

2022 suchte sich Greilhuber dann eine neue Herausforderung. Er startete – wieder als COO – beim Wiener Altersvorsorge-Startup Finabro. Die Aufgabenstellung war ähnlich wie fünf Jahre zuvor bei Anyline. Die ambitionierten Wachstumspläne des InsurTechs gingen aber nicht auf gleiche Weise auf – vor Kurzem musste es Konkurs anmelden, wie brutkasten berichtete.

Andreas Greilhuber soll bei EnliteAI Wachstum vorantreiben

Womit Andreas Greilhuber wieder einen neuen Job brauchte. Den hat er nun beim Wiener KI-Startup EnliteAI von Clemens Wasner, Johannes Stumtner und Marcel Wasserer gefunden. “Meine Rolle bei EnliteAI wird sich darauf konzentrieren, das Wachstum voranzutreiben und sicherzustellen, dass EnliteAI sein Potenzial nicht nur erreicht, sondern übertrifft”, kommentiert der Manager auf LinkedIn.

Unterstützung auf dem Weg zum Venture Studio

EnliteAI gibt es bereits seit 2017. Erst seit kurzem hat das Startup aber das neue Produkt Detekt am Markt, mit dem es skalieren will. Dazu schloss es kürzlich eine Finanzierungsrunde über zwei Millionen Euro ab – mit Breeze Invest, Speedinvest und floud ventures. Mit der Zeit will das Startup zum Venture Studio werden. Genau dabei soll die Wachstumsexpertise von Andreas Greilhuber dem Unternehmen helfen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?