21.08.2023

Sind selbstfahrende Autos rassistisch?

Glosse. Eine Studie von Forscher:innen des Londoner King's College, wonach autonome Fahrzeugsysteme "racially biased" sind, macht derzeit in den internationalen Medien die Runde.
/artikel/sind-selbstfahrende-autos-rassistisch
Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
Screenshot: Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
kommentar

Die Statistik ist nicht von der Hand zu weisen und definitiv problematisch: Die Chance, von bildbasierten Systemen selbstfahrender Autos nicht erkannt zu werden, ist bei dunkelhäutigen Personen um 7,52 Prozent höher als bei hellhäutigen. Das fand ein Forscher:innen-Team am renommierten Londoner King’s College in einer Studie heraus. Das Ergebnis macht gerade international in Medien die Runde.

Für die Studie wurden Open Source-Algorithmen, die auch von den Autoherstellern genutzt werden (diese gaben ihre eigenen Systeme nicht für die Studie frei), auf mehr als 8.000 Bildern angewendet. Die Personen auf diesen Bildern wurden von den Wissenschaftler:innen nach Geschlecht, Alter und Hautfarbe gelabelt.

Noch größeres Problem mit nicht erkannten Kindern

Noch stärker als der Unterschied zwischen hellhäutigen und dunkelhäutigen Personen ist jener zwischen Erwachsenen und Kindern, die um ganze 19,67 Prozent häufiger nicht von den Systemen erkannt werden. Zwischen den Geschlechtern ist der Unterschied mit 1,1 Prozent dagegen relativ gering.

Sind selbstfahrende Autos also rassistische Kinderhasser? Oder etwas weniger überspitzt gesagt: Waren die Programmierer:innen der Algorithmen (mal wieder) zu wenig für das Thema sensibilisiert und haben den “racial bias” und den “age bias” auf fahrlässige Art und Weise verursacht?

Dunkelhäutige Personen werden im Dunkeln schlechter erkannt

Eine weitere Angabe des Forscher:innen-Teams legt nahe, dass man mit derartigen Vorwürfen vorsichtig sein sollte. Im Abstract zur Studie heißt es: “Darüber hinaus untersuchten wir gängige Szenarien, die in der Literatur zu Tests des autonomen Fahrens erforscht wurden, und stellen fest, dass der Bias gegenüber dunkelhäutigen Fußgängern in Szenarien mit geringem Kontrast und geringer Helligkeit deutlich zunimmt”.

Sprich: dunkelhäutige Personen sind für die optischen Systeme in erster Linie in der Dunkelheit schwerer zu erkennen als hellhäutige. Und Kinder werden generell – wie auch von menschlichen Fahrer:innen – deutlich leichter übersehen. Mit Rassismus oder Kinderfeindlichkeit hat das wohl sehr wenig zu tun.

Wohl kein Rassismus, aber sehr wohl ein Problem

Ein Problem ist dies natürlich trotzdem. Wenn die bildbasierten Systeme selbstfahrender Autos hier nicht sattelfest sind, sind sie noch nicht ausgereift genug und daher eigentlich nicht bereit für die Straße. Derartige Systeme dürften übrigens generell nicht der Weisheit letzter Schluss sein. Auch Tesla, das bis vor einiger Zeit klar auf KI-Bildanalyse setzte, steigt mittlerweile auf laserbasierte Umgebungs-Abtastung (Lidar) um.

Deine ungelesenen Artikel:
25.07.2024

Pandocs: Neustart und neuer Großkunde für OÖ-Startup nach Konkurs im Herbst

Im vergangenen November musste Pandocs Insolvenz anmelden. Doch Gründer Christoph Huber startete eine neue Gesellschaft, mit der er Marke und Produkt weiterführt.
/artikel/pandocs-neustart-nach-konkurs
25.07.2024

Pandocs: Neustart und neuer Großkunde für OÖ-Startup nach Konkurs im Herbst

Im vergangenen November musste Pandocs Insolvenz anmelden. Doch Gründer Christoph Huber startete eine neue Gesellschaft, mit der er Marke und Produkt weiterführt.
/artikel/pandocs-neustart-nach-konkurs
Pandocs-Gründer Christoph Huber | (c) bildstadt GmbH
Pandocs-Gründer Christoph Huber | (c) bildstadt GmbH

Es ist ein Satz, wie er in den vergangenen Monaten sehr häufig fiel: “Wirklich gebrochen haben uns kurzfristig gescheiterte Investorengespräche”, schrieb Christoph Huber, Gründer des oberösterreichischen Startups Pandocs, in einem Statement gegenüber brutkasten Ende November 2023. Kurz zuvor hatte das Unternehmen Konkurs anmelden müssen. Man sei vielleicht zu optimistisch gewesen und sei letztlich mit dem Thema Gesundheit für Mitarbeiter:innen gescheitert, so Huber damals.

Mit der Pandocs-App, die das Startup über ein B2B-Modell in Betrieben verankern wollte, sollten gesunde Aktivitäten wie Gehen, Wandern, Yoga, Pilates, Stretching und Krafttraining auf spielerische Weise in den Alltag integriert und damit bewusst gefördert werden. Dazu sollten Quizzes und Wellness-Herausforderungen dafür sorgen, Schlafgewohnheiten zu verbessern und das Bewusstsein für eine gesunde Ernährung zu steigern.

“Wir entschieden uns, selbst ein Angebot abzugeben und erhielten dann auch den Zuschlag”

Ende November 2023 blieb nach finanziellen Problemen nur mehr der Insolvenzantrag. Doch das Ende der App war damit nicht besiegelt, wie Christoph Huber heute erzählt: “Während des Insolvenzverfahrens wurde klar, dass Pandocs in der bisherigen Form nicht weitergeführt werden konnte und das Unternehmen versteigert werden würde. Wir entschieden uns, selbst ein Angebot abzugeben und erhielten dann auch den Zuschlag. Diese Chance ermöglichte es uns damals, vielleicht irgendwann wieder an unserer ursprünglichen Idee weiterzuarbeiten.”

Konkret gründete Huber dazu gemeinsam mit Clemens Mitter, der bereits in der Pandocs GmbH als Investor an Bord gewesen war, im Jänner dieses Jahrs die dccx GmbH, die Produkt und Marke erwarb. Die ehemaligen Pandocs-Co-Founder waren bereits vor dem Konkurs im Herbst operativ ausgestiegen und sind an der neuen Gesellschaft nicht beteiligt.

Nach Neustart: Bundesbeschaffung wird neuer Pandocs-Großkunde

Ein erster großer Schritt, Pandocs wiederzubeleben ergab sich schließlich mit einer Ausschreibung der Bundesbeschaffung GmbH (BBG), wie Huber erzählt: “Unsere Freude war groß, als die BBG eine Lösung wie unsere ausgeschrieben hatte und Staatsbetriebe Interesse an einer Anwendung wie Pandocs zeigten. Die Chance war also schneller da als gedacht da.” Mit dem Erhalt des entsprechenden Rahmenvertrags sei dann endgültig der Aufschwung gekommen. “Heute arbeiten wir wieder aktiv an der Weiterentwicklung der App und freuen uns über den Neustart”, so Huber.

Das Thema Mitarbeitergesundheit habe zuletzt auch in der breiten Bevölkerung an Bedeutung gewonnen. “Die Insolvenzrichterin meinte sogar: ‘Geniale Idee, aber ihr wart eurer Zeit einfach etwas voraus”, erzählt der Pandocs-Gründer.

Huber über seine Learnings

Aus dem Konkurs habe er letztlich einiges gelernt, sagt Huber. Dabei spricht er auch auf seine ehemaligen Co-Founder an. “Als Startup-Gründer sieht man überall Chancen und ist ein kompletter Optimist, sonst wäre man wahrscheinlich nicht so naiv zu starten und zu versuchen, die Welt zu verbessern. Aber man sollte nicht davon ausgehen, dass es andere genauso sehen, oder hoffen, dass sie das, was man für sie getan hat, auch für einen selbst tun würden”, sagt der Pandocs-Founder.

“Es gibt Gründer:innen, die voll dabei sind und versuchen, das Unternehmen weiterzubringen und solche, die halt ab einem gewissen Punkt primär auf dem Papier dabei sind, vor allem dann, wenn es anstrengend wird und die ersten Herausforderungen kommen”, so Huber weiter. Er empfiehlt: “Kläre solche Konflikte immer gleich.”

Letztlich habe ihm aber ein unterstützendes Umfeld durch “ein tiefes Loch” nach der Insolvenz geholfen und dazu motiviert, nicht aufzugeben. “Ein Konkurs muss nicht das Ende der Idee bedeuten. Zwar sollte man eine Insolvenz nicht schönreden, aber man kann daraus viel lernen und gestärkt hervorgehen”, sagt Huber heute. Eines seiner zentralen Learnings: “Versuche nicht, es allen recht zu machen.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?