21.08.2023

Sind selbstfahrende Autos rassistisch?

Glosse. Eine Studie von Forscher:innen des Londoner King's College, wonach autonome Fahrzeugsysteme "racially biased" sind, macht derzeit in den internationalen Medien die Runde.
/artikel/sind-selbstfahrende-autos-rassistisch
Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
Screenshot: Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
kommentar

Die Statistik ist nicht von der Hand zu weisen und definitiv problematisch: Die Chance, von bildbasierten Systemen selbstfahrender Autos nicht erkannt zu werden, ist bei dunkelhäutigen Personen um 7,52 Prozent höher als bei hellhäutigen. Das fand ein Forscher:innen-Team am renommierten Londoner King’s College in einer Studie heraus. Das Ergebnis macht gerade international in Medien die Runde.

Für die Studie wurden Open Source-Algorithmen, die auch von den Autoherstellern genutzt werden (diese gaben ihre eigenen Systeme nicht für die Studie frei), auf mehr als 8.000 Bildern angewendet. Die Personen auf diesen Bildern wurden von den Wissenschaftler:innen nach Geschlecht, Alter und Hautfarbe gelabelt.

Noch größeres Problem mit nicht erkannten Kindern

Noch stärker als der Unterschied zwischen hellhäutigen und dunkelhäutigen Personen ist jener zwischen Erwachsenen und Kindern, die um ganze 19,67 Prozent häufiger nicht von den Systemen erkannt werden. Zwischen den Geschlechtern ist der Unterschied mit 1,1 Prozent dagegen relativ gering.

Sind selbstfahrende Autos also rassistische Kinderhasser? Oder etwas weniger überspitzt gesagt: Waren die Programmierer:innen der Algorithmen (mal wieder) zu wenig für das Thema sensibilisiert und haben den „racial bias“ und den „age bias“ auf fahrlässige Art und Weise verursacht?

Dunkelhäutige Personen werden im Dunkeln schlechter erkannt

Eine weitere Angabe des Forscher:innen-Teams legt nahe, dass man mit derartigen Vorwürfen vorsichtig sein sollte. Im Abstract zur Studie heißt es: „Darüber hinaus untersuchten wir gängige Szenarien, die in der Literatur zu Tests des autonomen Fahrens erforscht wurden, und stellen fest, dass der Bias gegenüber dunkelhäutigen Fußgängern in Szenarien mit geringem Kontrast und geringer Helligkeit deutlich zunimmt“.

Sprich: dunkelhäutige Personen sind für die optischen Systeme in erster Linie in der Dunkelheit schwerer zu erkennen als hellhäutige. Und Kinder werden generell – wie auch von menschlichen Fahrer:innen – deutlich leichter übersehen. Mit Rassismus oder Kinderfeindlichkeit hat das wohl sehr wenig zu tun.

Wohl kein Rassismus, aber sehr wohl ein Problem

Ein Problem ist dies natürlich trotzdem. Wenn die bildbasierten Systeme selbstfahrender Autos hier nicht sattelfest sind, sind sie noch nicht ausgereift genug und daher eigentlich nicht bereit für die Straße. Derartige Systeme dürften übrigens generell nicht der Weisheit letzter Schluss sein. Auch Tesla, das bis vor einiger Zeit klar auf KI-Bildanalyse setzte, steigt mittlerweile auf laserbasierte Umgebungs-Abtastung (Lidar) um.

Deine ungelesenen Artikel:
03.06.2026

fixed: Erste Doku von refurbed zeigt die Vielschichtigkeit von E-Waste

Im April 2026 machte sich refurbed Co-Founder Kilian Kaminski mit einem Team auf, um den Umgang mit E-Waste in Ghana in einer Dokumentation festzuhalten. Der bislang erste Film des Wiener Scaleups hinterfragt außerdem Europas Verständnis von globalem Elektroschrott. Gestern präsentierte Kaminski die Dokumentation in den Breitenseer Lichtspielen, wo brutkasten vor Ort war.
/artikel/fixed-erste-doku-von-refurbed-zeigt-die-vielschichtigkeit-von-e-waste
03.06.2026

fixed: Erste Doku von refurbed zeigt die Vielschichtigkeit von E-Waste

Im April 2026 machte sich refurbed Co-Founder Kilian Kaminski mit einem Team auf, um den Umgang mit E-Waste in Ghana in einer Dokumentation festzuhalten. Der bislang erste Film des Wiener Scaleups hinterfragt außerdem Europas Verständnis von globalem Elektroschrott. Gestern präsentierte Kaminski die Dokumentation in den Breitenseer Lichtspielen, wo brutkasten vor Ort war.
/artikel/fixed-erste-doku-von-refurbed-zeigt-die-vielschichtigkeit-von-e-waste
Ein Mann in Accra sitzt in einer Garage und repariert einen alten Computer (c) refurbed
Schrotthändler Fuseini Yakubu arbeitet im informellen Sektor von Accra. (c) refurbed

Ein Blick auf Ghanas Hauptstadt Accra. Im sogenannten „informellen Sektor“ der E-Waste-Verarbeitung liegt Agbogbloshie, eine der größten Elektromüllhalden der Welt. Hier werden Berge an Elektroteilen gesammelt, sortiert, repariert und weiterverarbeitet. Das ist die Einstiegszene der neuen refurbed-Doku „fixed“.

Brennende Müllberge im globalen Süden sind Bilder, die uns in Europa bekannt sind und unser Narrativ über Elektroschrott prägen. Während kaputte Geräte in Europa sehr schnell als Müll betrachtet werden, was die Wegwerfgesellschaft ankurbelt, hat sich in Ghana durch den E-Müll eine formelle wie auch informelle Reparatur- und Recyclingwirtschaft entwickelt.

Um die unterschiedliche Wahrnehmung von E-Waste aufzuzeigen, hat ein Team rund um refurbed-Co-Founder Kilian Kaminski im April die erste eigene Doku „fixed – Accras Antwort auf Europas Elektroschrott“ vor Ort in Ghana gedreht.

Elektroschrott als Krise, aber auch als Ressource

„In den letzten Jahren drehten sich Gespräche rund um Nachhaltigkeit oft um CO2-Emissionen, und das ist auch wichtig. Aber im Hintergrund brodelt eine weitere Krise, die ständig wächst: der Elektroschrott. Dazu gehören Berge von ausrangiertem Elektroschrott, giftige Umgebungen und Gemeinschaften, die für Konsumgewohnheiten bezahlen müssen, die sie selbst gar nicht verursacht haben“, hält Kaminski in seinen Begrüßungsworten bei der Präsentation der Dokumentation fest.

Gleichzeitig hat der E-Schrott eine innovative Reparaturkultur in Ghana entwickelt. Dr. Michael Osei Asibey, Experte für Umweltpolitik an der ghanaischen KNUST-Universität, forscht seit Jahren intensiv zum Recyclingsektor und plädiert im Film für ein radikales Umdenken. Seine prägnante Formel „Waste is a resource in the wrong place“ (Abfall ist eine Ressource am falschen Ort) bringt das Kernanliegen der Dokumentation auf den Punkt: Elektronik darf kein kurzlebiges Wegwerfprodukt sein. Vielmehr müssen wir ausgediente Geräte als wertvolle Materiallager begreifen, die dauerhaft in einem Kreislaufsystem gehalten werden.

Co-Founder von refurbed Kilian Kaminski (r.) bei den Dreharbeiten in Ghana. (c) refurbed

Vielschichtige Blockaden der Kreislaufwirtschaft

Politische, wirtschaftliche, aber auch gesellschaftliche Blockaden verhindern in Europa die Umsetzung von flächendeckenden Kreislaufwirtschaften. Kaminski sieht Blockaden in der Politik vor allem darin, dass der Fokus meist auf kurzfristigen Themen liegt. „Man konnte das gut im März 2020 beobachten, als Covid kam. Plötzlich waren Nachhaltigkeit und die Kreislaufwirtschaft nicht mehr die wichtigen Themen. Das Thema Nachhaltigkeit wird immer als ein Zukunftsproblem behandelt, obwohl es eigentlich ein aktuelles Problem ist, weil wir jetzt dagegen vorgehen müssen“, so der Co-Founder von refurbed.

Unternehmen seien gefragt, auf langlebige Produkte zu setzen. Die Praxis der künstlichen Obsoleszenz – also das bewusste Kaputtgehen von Geräten für schnellere Upgrades – sollte nicht weiter gefördert werden.

„Und als Privatpersonen sollten wir wirklich überdenken: Was und wie konsumieren wir? Behalten wir vielleicht ein Produkt länger? Geben wir alte Produkte weiter? Also einfach ein Verständnis zu entwickeln, dass der Wert des Gerätes viel höher ist, als wir eigentlich denken. Es geht nicht nur um den finanziellen Wert. Die Rohstoffe, die in den Produkten sind, haben einen sehr langen Lebenszyklus und kommen oftmals aus der gesamten Welt zurück zu einem Ort.“

Durch die Dokumentation soll ein differenzierteres Bild von E-Waste geschaffen werden. (c) refurbed

Kreislaufwirtschaft als Thema für Startups

Im Thema Kreislaufwirtschaft stecke für Startups und Jungunternehmen laut Kaminski gerade sehr viel Potenzial. Es sei nur eine Frage der Zeit, wann die Wirtschaft den Fokus auf diese Themen lege. „Wir stehen mit der Kreislaufwirtschaft ganz am Anfang. Und ich glaube, jetzt kann man vor allem die großen Unternehmen speziell mit Geschäftsmodellen, die die Kreislaufwirtschaft im Herzen haben, viel mehr challengen, als mit Geschäftsmodellen, die einfach dasselbe machen, wie es seit 100 Jahren gemacht wurde. Und das beinhaltet ja am Ende des Tages ganz viele Nachhaltigkeitsthemen, egal ob es Energie oder Rohstoffe sind.“

Auf die Frage, welches Problem Kaminski heute als Startup lösen würde, antwortet er: „Ich würde nach wie vor den E-Waste bekämpfen.“

Über refurbed

Ziel des 2017 von Peter Windischhofer, Kilian Kaminski und Jürgen Riedl in Wien gegründeten Unternehmens refurbed ist es, den Konsum in ganz Europa dauerhaft zu verändern. Mittlerweile ist das Scaleup in 24 europäischen Ländern aktiv und zählt zu den führenden Online-Marktplätzen für generalüberholte Produkte.

Die ganze Dokumentation von refurbed wurde gestern auf YouTube veröffentlicht und vorab präsentiert.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?