21.08.2023

Sind selbstfahrende Autos rassistisch?

Glosse. Eine Studie von Forscher:innen des Londoner King's College, wonach autonome Fahrzeugsysteme "racially biased" sind, macht derzeit in den internationalen Medien die Runde.
/artikel/sind-selbstfahrende-autos-rassistisch
Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
Screenshot: Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
kommentar

Die Statistik ist nicht von der Hand zu weisen und definitiv problematisch: Die Chance, von bildbasierten Systemen selbstfahrender Autos nicht erkannt zu werden, ist bei dunkelhäutigen Personen um 7,52 Prozent höher als bei hellhäutigen. Das fand ein Forscher:innen-Team am renommierten Londoner King’s College in einer Studie heraus. Das Ergebnis macht gerade international in Medien die Runde.

Für die Studie wurden Open Source-Algorithmen, die auch von den Autoherstellern genutzt werden (diese gaben ihre eigenen Systeme nicht für die Studie frei), auf mehr als 8.000 Bildern angewendet. Die Personen auf diesen Bildern wurden von den Wissenschaftler:innen nach Geschlecht, Alter und Hautfarbe gelabelt.

Noch größeres Problem mit nicht erkannten Kindern

Noch stärker als der Unterschied zwischen hellhäutigen und dunkelhäutigen Personen ist jener zwischen Erwachsenen und Kindern, die um ganze 19,67 Prozent häufiger nicht von den Systemen erkannt werden. Zwischen den Geschlechtern ist der Unterschied mit 1,1 Prozent dagegen relativ gering.

Sind selbstfahrende Autos also rassistische Kinderhasser? Oder etwas weniger überspitzt gesagt: Waren die Programmierer:innen der Algorithmen (mal wieder) zu wenig für das Thema sensibilisiert und haben den “racial bias” und den “age bias” auf fahrlässige Art und Weise verursacht?

Dunkelhäutige Personen werden im Dunkeln schlechter erkannt

Eine weitere Angabe des Forscher:innen-Teams legt nahe, dass man mit derartigen Vorwürfen vorsichtig sein sollte. Im Abstract zur Studie heißt es: “Darüber hinaus untersuchten wir gängige Szenarien, die in der Literatur zu Tests des autonomen Fahrens erforscht wurden, und stellen fest, dass der Bias gegenüber dunkelhäutigen Fußgängern in Szenarien mit geringem Kontrast und geringer Helligkeit deutlich zunimmt”.

Sprich: dunkelhäutige Personen sind für die optischen Systeme in erster Linie in der Dunkelheit schwerer zu erkennen als hellhäutige. Und Kinder werden generell – wie auch von menschlichen Fahrer:innen – deutlich leichter übersehen. Mit Rassismus oder Kinderfeindlichkeit hat das wohl sehr wenig zu tun.

Wohl kein Rassismus, aber sehr wohl ein Problem

Ein Problem ist dies natürlich trotzdem. Wenn die bildbasierten Systeme selbstfahrender Autos hier nicht sattelfest sind, sind sie noch nicht ausgereift genug und daher eigentlich nicht bereit für die Straße. Derartige Systeme dürften übrigens generell nicht der Weisheit letzter Schluss sein. Auch Tesla, das bis vor einiger Zeit klar auf KI-Bildanalyse setzte, steigt mittlerweile auf laserbasierte Umgebungs-Abtastung (Lidar) um.

Deine ungelesenen Artikel:
vor 23 Stunden

KI-Startup FiveSquare: Raiffeisen investiert in Linzer Epilepsie-Projekt

Das Linzer Startup FiveSquare arbeitet mit dem Kepler Uni-Klinikum an einem KI-basierten Vorhersagetool für Epilepsie. Auch Raiffeisen investiert nun.
/artikel/ki-startup-fivesquare-raiffeisen-investiert-in-linzer-epilepsie-projekt
vor 23 Stunden

KI-Startup FiveSquare: Raiffeisen investiert in Linzer Epilepsie-Projekt

Das Linzer Startup FiveSquare arbeitet mit dem Kepler Uni-Klinikum an einem KI-basierten Vorhersagetool für Epilepsie. Auch Raiffeisen investiert nun.
/artikel/ki-startup-fivesquare-raiffeisen-investiert-in-linzer-epilepsie-projekt
FIveSquare Vorhersage von Epilepsie Raiffeisen Oberösterreich Johannes Kepler Klinikum Linz
v.l.n.r.: FiveSquare-CTO Patrick Haidinger, RLB OÖ-Aufsichtsratspräsident Volkmar Angermeier, RLB OÖ-Vorstandsdirektorin und CGO Sigrid Burkowski, FiveSquare-CEO Hans-Peter Pichler (c) RLB OÖ

Das Linzer Startup FiveSquare arbeitet gemeinsam mit der Johannes Kepler Universität Linz und der Universitätsklinik für Neurologie am Kepler Universitätsklinikum an einem Verfahren, mit dem epileptische Anfälle vorhergesagt werden sollen. Finanziert wird das Projekt “Epilepsia” nun auch vom Sozialfonds der Raiffeisenlandesbank Oberösterreich und den oberösterreichischen Raiffeisenbanken.

FiveSquare kooperiert mit Uni-Klinikum

Das Startup FiveSquare um die beiden Gründer Hans-Peter Pichler und Patrick Haidinger hat sich auf KI-Anwendungen spezialisiert und zum Beispiel den KI-Chatbot “Karli” für Unternehmen entwickelt. Im Gegensatz zu anderen Anbietern läuft “Karli” nur auf österreichischer, vom Startup gehosteter Serverinfrastruktur.

Gemeinsam mit der Johannes Kepler Universität Linz und der Universitätsklinik für Neurologie am Kepler Universitätsklinikum Linz forscht das Startup nun an einem Verfahren, mit dem epileptische Anfälle vorhergesagt werden sollen. Ziel des Projekts “Epilepsia” ist die Entwicklung einer mobilen Applikation und eines Wearables (z.B. eine Uhr) für die Vorhersage und Erkennung solcher Anfälle. Allein in Österreich sind rund 65.000 Menschen von Epilepsie betroffen.

Mit KI zu Vorwarnsystem

Derzeit läuft dafür an der Universitätsklinik eine klinische Studie, “bei der ein aus verschiedenen Sensoren bestehendes Netzwerk getestet und zur Datenerfassung verwendet wird”, wie FiveSquare erklärt. Mithilfe dieser Daten und Künstlicher Intelligenz sollen bestimmte Muster identifiziert werden, die einen bevorstehenden epileptischen Anfall ankündigen. So könnte ein Vorwarnsystem für Epilepsie geschaffen werden.

Mit der Finanzierung der Raiffeisenlandesbank OÖ wird weitere Hardware für die klinische Studie angeschafft: „Mit einer zusätzlichen Ausstattung an Sensoren können in der Studie noch mehr Einflussfaktoren von Patienten erfasst werden, was wiederum zu mehr Daten und einer Erhöhung der Datenqualität führt. Mit zusätzlicher neuer, leistungsstarker Processing-Hardware können noch aufwendigere Machine-Learning-Modelle für die Epilepsie-Vorhersage trainiert werden“, erklärt Hans-Peter Pichler, CEO von FiveSquare.

Markteinführung 2025 geplant

Für Sigrid Burkowski, Vorstandsdirektorin der Raiffeisenlandesbank OÖ, ist “Epilepsia” ein wichtiges Projekt: “Wir sind stolz darauf, Teil eines solch zukunftsweisenden Projektes zu sein, das neue Wege in der Behandlung von Epilepsie eröffnet. Mit unserer Unterstützung wollen wir helfen, epilepsiekranken Menschen ein Stück Lebensqualität zurückzubringen.”

Derzeit strebt FiveSquare die Markteinführung von “Epilepsia” mit Ende 2025 an. Weitere Fördergeber sind das Land Oberösterreich und die Österreichische Forschungsförderungsgesellschaft FFG mit der Förderinitiative “Digital Health – The Digital Patient Journey”.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?