21.08.2023

Sind selbstfahrende Autos rassistisch?

Glosse. Eine Studie von Forscher:innen des Londoner King's College, wonach autonome Fahrzeugsysteme "racially biased" sind, macht derzeit in den internationalen Medien die Runde.
/artikel/sind-selbstfahrende-autos-rassistisch
Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
Screenshot: Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
kommentar

Die Statistik ist nicht von der Hand zu weisen und definitiv problematisch: Die Chance, von bildbasierten Systemen selbstfahrender Autos nicht erkannt zu werden, ist bei dunkelhäutigen Personen um 7,52 Prozent höher als bei hellhäutigen. Das fand ein Forscher:innen-Team am renommierten Londoner King’s College in einer Studie heraus. Das Ergebnis macht gerade international in Medien die Runde.

Für die Studie wurden Open Source-Algorithmen, die auch von den Autoherstellern genutzt werden (diese gaben ihre eigenen Systeme nicht für die Studie frei), auf mehr als 8.000 Bildern angewendet. Die Personen auf diesen Bildern wurden von den Wissenschaftler:innen nach Geschlecht, Alter und Hautfarbe gelabelt.

Noch größeres Problem mit nicht erkannten Kindern

Noch stärker als der Unterschied zwischen hellhäutigen und dunkelhäutigen Personen ist jener zwischen Erwachsenen und Kindern, die um ganze 19,67 Prozent häufiger nicht von den Systemen erkannt werden. Zwischen den Geschlechtern ist der Unterschied mit 1,1 Prozent dagegen relativ gering.

Sind selbstfahrende Autos also rassistische Kinderhasser? Oder etwas weniger überspitzt gesagt: Waren die Programmierer:innen der Algorithmen (mal wieder) zu wenig für das Thema sensibilisiert und haben den „racial bias“ und den „age bias“ auf fahrlässige Art und Weise verursacht?

Dunkelhäutige Personen werden im Dunkeln schlechter erkannt

Eine weitere Angabe des Forscher:innen-Teams legt nahe, dass man mit derartigen Vorwürfen vorsichtig sein sollte. Im Abstract zur Studie heißt es: „Darüber hinaus untersuchten wir gängige Szenarien, die in der Literatur zu Tests des autonomen Fahrens erforscht wurden, und stellen fest, dass der Bias gegenüber dunkelhäutigen Fußgängern in Szenarien mit geringem Kontrast und geringer Helligkeit deutlich zunimmt“.

Sprich: dunkelhäutige Personen sind für die optischen Systeme in erster Linie in der Dunkelheit schwerer zu erkennen als hellhäutige. Und Kinder werden generell – wie auch von menschlichen Fahrer:innen – deutlich leichter übersehen. Mit Rassismus oder Kinderfeindlichkeit hat das wohl sehr wenig zu tun.

Wohl kein Rassismus, aber sehr wohl ein Problem

Ein Problem ist dies natürlich trotzdem. Wenn die bildbasierten Systeme selbstfahrender Autos hier nicht sattelfest sind, sind sie noch nicht ausgereift genug und daher eigentlich nicht bereit für die Straße. Derartige Systeme dürften übrigens generell nicht der Weisheit letzter Schluss sein. Auch Tesla, das bis vor einiger Zeit klar auf KI-Bildanalyse setzte, steigt mittlerweile auf laserbasierte Umgebungs-Abtastung (Lidar) um.

Deine ungelesenen Artikel:
01.10.2026

Maßanzug für Roboter: Wie Cybershell mit einer Außenschicht Humanoide salonfähig machen will

Humanoide Roboter werden laut Gründer Mario Curvelo Carvalho durch Cybershell Einzug in die Industrie erhalten. Die vom Startup entwickelte Außenhaut soll vor Einflüssen wie Hitze, Chemikalien oder Schlägen schützen.
/artikel/massanzug-fuer-roboter-wie-cybershell-mit-einer-aussenschicht-humanoide-salonfaehig-machen-will
01.10.2026

Maßanzug für Roboter: Wie Cybershell mit einer Außenschicht Humanoide salonfähig machen will

Humanoide Roboter werden laut Gründer Mario Curvelo Carvalho durch Cybershell Einzug in die Industrie erhalten. Die vom Startup entwickelte Außenhaut soll vor Einflüssen wie Hitze, Chemikalien oder Schlägen schützen.
/artikel/massanzug-fuer-roboter-wie-cybershell-mit-einer-aussenschicht-humanoide-salonfaehig-machen-will
Cyberhsell-CEO Mario Curvelo Carvalho | (c) Cybershell Technologies

Es ist das Zukunftsszenario schlechthin: Menschenleere Produktionshallen, gefüllt mit humanoiden Robotern, die unermüdlich arbeiten. Cybershell arbeitet daran, dass diese Vision einmal Realität wird. Das Deeptech-Startup entwickelt eine Außenschicht für humanoide Industrieroboter, die sie im Arbeitsalltag vor externen Einflüssen wie extremer Hitze, Stößen oder Chemikalien schützen soll. „Aktuell schauen die Roboter nicht so aus, als könnten sie z. B. neben einem Hochofen arbeiten“, sagt Gründer Mario Curvelo Carvalho. Cybershell soll das nun ändern. Die Idee wurde zuletzt beim Riz-up-Preis des Landes Niederösterreich in der Kategorie „Innovativ genial“ mit dem ersten Platz ausgezeichnet (brutkasten berichtete).

Cybershell ist ein „First of a kind“

Laut Curvelo Carvalho gibt es ein Produkt wie Cybershell noch nicht auf dem Markt. „Cybershell ist ein First of a Kind. Es gibt Hersteller, die Abdeckungen und so für Roboter machen. Aber es gibt unseres Wissens nach noch keinen Hersteller, der das im humanoiden Bereich macht“, sagt der Niederösterreicher. Dementsprechend schwierig seien manche Schritte für Cybershell, da es noch keine Referenzbeispiele gebe. „Ich komme mir manchmal vor wie wenn ich vor einem Dschungel mit einer Planierraupe stehe und mir dort erst meinen Weg ebnen muss“, sagt Curvelo Carvalho.

Erstmalige Versicherung einer Flotte

Laut dem Gründer ergibt sich durch seine Technik ein entscheidender Vorteil: Durch Schadensreduktion, Austauschbarkeit und standardisierte Betriebs- und Wartungsdaten gebe es eine bessere Grundlage für die Versicherbarkeit von humanoiden Robotern. „Die Versicherung hat das erste Mal die Möglichkeit, auf Daten zurückzugreifen und damit zu arbeiten. Damit können Versicherer Risiken, Schadenwahrscheinlichkeiten und mögliche Prämiengrundlagen besser bewerten“, erklärt der Founder und ergänzt: „Die Versicherungen sagen aktuell ‚Wir haben keine Werte, wir können hier nicht berechnen, wie hoch die Ausfallsrate ist und wie viel Schaden da wirklich auf uns zukommt.“ Doch bevor eine Flotte versichert werden kann, braucht Cybershell die notwendigen Zertifikate. An diesen werde gerade gearbeitet.

Modularer Aufbau

Das Startup setzt auf einen modularen Aufbau. Die Protektoren für z. B. Schultern, Arme und Beine sind getrennt abnehmbar und greifen nicht in Antrieb, Steuerungssoftware oder Sicherheitslogistik ein. „Es geht darum, die Downtime zu reduzieren. Wenn ein Roboter beschädigt wurde, dann wollen wir nicht, dass der ganze Roboter getauscht wird. Es soll einfach das beschädigte Modul werkzeuglos abgenommen werden und das neue Modul eingesetzt werden und nach 20 Minuten soll die Downtime vorbei sein“, erklärt Curvelo Carvalho. Die Außenschicht besteht aus fünf Layern, wobei jeder eine eigene Funktion hat und unterschiedlich anpassbar ist, je nachdem, wo der Roboter zum Einsatz kommt.

Das Patent als nächster Milestone

Das Unternehmen befindet sich aktuell noch vor der Gründungsphase und ist gebootstrappt. Gründen und die Suche nach Investoren machen laut Curvelo Carvalho erst dann Sinn, wenn die Firma das entsprechende Patent habe. Dafür müsse zuvor noch die Firma gegründet werden. Es läuft somit alles auf das Patent hinaus, noch im Herbst soll der Antrag gestellt werden. Förderungen hat Cybershell noch keine erhalten, jedoch hat das Startup bereits einen FFG-Patenscheck, also einen ersten Schritt in Richtung FFG-Förderung.

Eine Auswanderung in die USA stellt für Curvelo Carvalho aktuell keine Option dar. In Europa dauert zwar der Aufbau eines Unternehmens länger als in den USA, doch Cybershell habe hierzulande alles, was es für den Aufbau benötige. „Wir können hier vom Ökosystem, von den Inkubatoren und von den Förderungen profitieren. Cybershell muss ein niederösterreichisches Unternehmen werden. Das steht ganz groß auf unserer Flagge drauf“, sagt Curvelo Carvalho.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?