21.08.2023

Sind selbstfahrende Autos rassistisch?

Glosse. Eine Studie von Forscher:innen des Londoner King's College, wonach autonome Fahrzeugsysteme "racially biased" sind, macht derzeit in den internationalen Medien die Runde.
/artikel/sind-selbstfahrende-autos-rassistisch
Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
Screenshot: Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
kommentar

Die Statistik ist nicht von der Hand zu weisen und definitiv problematisch: Die Chance, von bildbasierten Systemen selbstfahrender Autos nicht erkannt zu werden, ist bei dunkelhäutigen Personen um 7,52 Prozent höher als bei hellhäutigen. Das fand ein Forscher:innen-Team am renommierten Londoner King’s College in einer Studie heraus. Das Ergebnis macht gerade international in Medien die Runde.

Für die Studie wurden Open Source-Algorithmen, die auch von den Autoherstellern genutzt werden (diese gaben ihre eigenen Systeme nicht für die Studie frei), auf mehr als 8.000 Bildern angewendet. Die Personen auf diesen Bildern wurden von den Wissenschaftler:innen nach Geschlecht, Alter und Hautfarbe gelabelt.

Noch größeres Problem mit nicht erkannten Kindern

Noch stärker als der Unterschied zwischen hellhäutigen und dunkelhäutigen Personen ist jener zwischen Erwachsenen und Kindern, die um ganze 19,67 Prozent häufiger nicht von den Systemen erkannt werden. Zwischen den Geschlechtern ist der Unterschied mit 1,1 Prozent dagegen relativ gering.

Sind selbstfahrende Autos also rassistische Kinderhasser? Oder etwas weniger überspitzt gesagt: Waren die Programmierer:innen der Algorithmen (mal wieder) zu wenig für das Thema sensibilisiert und haben den “racial bias” und den “age bias” auf fahrlässige Art und Weise verursacht?

Dunkelhäutige Personen werden im Dunkeln schlechter erkannt

Eine weitere Angabe des Forscher:innen-Teams legt nahe, dass man mit derartigen Vorwürfen vorsichtig sein sollte. Im Abstract zur Studie heißt es: “Darüber hinaus untersuchten wir gängige Szenarien, die in der Literatur zu Tests des autonomen Fahrens erforscht wurden, und stellen fest, dass der Bias gegenüber dunkelhäutigen Fußgängern in Szenarien mit geringem Kontrast und geringer Helligkeit deutlich zunimmt”.

Sprich: dunkelhäutige Personen sind für die optischen Systeme in erster Linie in der Dunkelheit schwerer zu erkennen als hellhäutige. Und Kinder werden generell – wie auch von menschlichen Fahrer:innen – deutlich leichter übersehen. Mit Rassismus oder Kinderfeindlichkeit hat das wohl sehr wenig zu tun.

Wohl kein Rassismus, aber sehr wohl ein Problem

Ein Problem ist dies natürlich trotzdem. Wenn die bildbasierten Systeme selbstfahrender Autos hier nicht sattelfest sind, sind sie noch nicht ausgereift genug und daher eigentlich nicht bereit für die Straße. Derartige Systeme dürften übrigens generell nicht der Weisheit letzter Schluss sein. Auch Tesla, das bis vor einiger Zeit klar auf KI-Bildanalyse setzte, steigt mittlerweile auf laserbasierte Umgebungs-Abtastung (Lidar) um.

Deine ungelesenen Artikel:
08.01.2025

“Zusammenspiel aus Technologie und Menschlichkeit Grundlage für Erfolg”

Employee Experience, KI und mentale Gesundheit - das sind die Job-Trends für 2025, geht es nach Markus Zink, Head of Jobs bei willhaben. Er erklärt.
/artikel/zusammenspiel-aus-technologie-und-menschlichkeit-grundlage-fuer-erfolg
08.01.2025

“Zusammenspiel aus Technologie und Menschlichkeit Grundlage für Erfolg”

Employee Experience, KI und mentale Gesundheit - das sind die Job-Trends für 2025, geht es nach Markus Zink, Head of Jobs bei willhaben. Er erklärt.
/artikel/zusammenspiel-aus-technologie-und-menschlichkeit-grundlage-fuer-erfolg
Mental Health, mentale Gesundheit, willhaben
(c) willhaben - Markus Zink, Head of Jobs bei willhaben.

Für Markus Zink, Head of Jobs bei willhaben, markiert das Jahr 2025 in mancherlei Hinsicht einen Wendepunkt am österreichischen Arbeitsmarkt. Die Integration von Künstlicher Intelligenz in Human Resources-Prozesse eröffne neue Möglichkeiten für Effizienz und Innovation, bringe jedoch auch Herausforderungen mit sich. Der anhaltende Fachkräftemangel erfordere zudem nachhaltige Strategien in der Personalplanung, im Employer Branding und im Bereich der Diversität.

Attraktive Arbeitgeber:innen

Gleichzeitig würden die Bedürfnisse der Mitarbeitenden stärker in den Fokus rücken: Employee Experience, mentale Gesundheit und hybride Arbeitsmodelle spielen eine zentrale Rolle, um Unternehmen als attraktive Arbeitgeber:innen zu positionieren, heißt es.

Künstliche Intelligenz schaffte außerdem sukzessive immer mehr Möglichkeiten, um Routineaufgaben wie die Anwesenheitserfassung oder die Gehaltsabrechnung effizienter zu gestalten. KI-gestützte Tools, darunter Chatbots und Systeme für das Bewerber:innen-Management, sollen Zeit und Ressourcen sparen, die in strategische Aufgaben und den Aufbau zwischenmenschlicher Beziehungen investiert werden könnten.

Und das sei von maßgeblicher Bedeutung, denn: “Nur Unternehmen, die ethische Aspekte, Datenschutz und vor allem den Menschen in den Fokus rücken, können langfristig von diesen Entwicklungen profitieren”, sagt er.

Das Zeitalter der KI verlange allen neue Fähigkeiten ab. Führungskräfte stünden dabei in der Pflicht, Mitarbeitende gezielt zu fördern, kreative Fähigkeiten zu stärken und klare Grenzen zwischen menschlicher und maschineller Arbeit zu ziehen.

“Es gilt, Vertrauen aufzubauen, indem Unternehmen KI transparent und verantwortungsvoll einsetzen, um das Potenzial ihrer Teams bestmöglich auszuschöpfen. Dieses Zusammenspiel aus Technologie und Menschlichkeit wird 2025 die Grundlage für nachhaltigen Erfolg sein”, sagt Zink weiters.

Langfristige Personalplanung gegen Fachkräftemangel

Der vielzitierte Fachkräftemangel stellt auch 2025 eine der größten Herausforderungen am Arbeitsmarkt dar. Besonders stark betroffen sind dabei weiterhin Bereiche wie die öffentliche Sicherheit, Energiewirtschaft, das Gesundheitswesen und die Pflege, wobei in manchen Bundesländern – etwa Vorarlberg, Tirol und Salzburg – besonders händeringend nach Personal gesucht wird. Befeuert wird diese Entwicklung durch den demografischen Wandel, unzureichende Umschulungsangebote und die eher geringe Mobilität am österreichischen Arbeitsmarkt; aber auch durch fehlende Strategien, um nachhaltige Lösungen zu etablieren.

Essenziell sei hierbei unter anderem eine langfristige Personalplanung, wie Zink skizziert: “Wenn Unternehmen vorausschauend planen, statt überstürzt Stellen auszuschreiben, können sie Engpässe frühzeitig eindämmen bzw. vermeiden. Wesentlich sind außerdem Employer Branding, um das Unternehmen als attraktiven Arbeitgeber zu positionieren, zielgruppenorientierte Stellenanzeigen und die Förderung von Diversität und von Quereinsteiger:innen.”

“Nicht von der Hand zu weisen ist letztlich auch die Tatsache, dass gewisse Branchen aufgrund herausfordernder Arbeitsbedingungen und vergleichsweise niedriger Gehälter mit einem Fachkräftemangel zu kämpfen haben. Weil höhere Löhne aufgrund der schwächelnden Konjunktur oftmals schwer zu implementieren sind, plädieren Expert:innen hier für gezielte Weiterbildungsmaßnahmen im Sinne von Höherqualifizierung”, heißt es laut Aussendung.

Employee Experience

Der Begriff Employee Experience indes umfasst alle Interaktionen, Erlebnisse und Eindrücke, die Mitarbeiter:innen während ihrer Zeit im Unternehmen sammeln – von der Einstellung bis zum Austritt. Dabei handele es sich nicht nur um ein fancy Buzzword, so Zink, sondern um ein Konzept, das über kurzfristige Maßnahmen hinausgehe. Vielmehr geht es darum, langfristig ein Arbeitsumfeld zu schaffen, in dem Mitarbeitende engagiert und möglichst selbstbestimmt zur Unternehmenskultur und dem Unternehmenserfolg beitragen.

“Eine positive Employee Experience basiert auf individueller Wertschätzung und gezielten Entwicklungsmöglichkeiten. Unternehmen können dies unter anderem durch flexible Arbeitsmodelle, die Förderung von Work-Life-Balance sowie durch Programme für mentale Gesundheit priorisieren. Ein wesentlicher, jedoch oftmals vernachlässigter Baustein ist in diesem Zusammenhang vor allem eine gesunde und gelebte Feedbackkultur, in der der Austausch von konstruktivem Feedback zwischen Führungskräften, Mitarbeiter:innen und Kolleg:innen selbstverständlich ist”, gibt Zink zu bedenken.

Auch Krisen von außen – wie beispielsweise politische Konflikte, Kriege und das Stagnieren der Wirtschaft – erzeugen Druck. In Kombination mit privaten Herausforderungen, aber auch Stress, Überlastung und fehlender Wertschätzung im Beruf können die mentale Gesundheit erheblich beeinträchtigt werden. Lange galt es als Tabu, darüber am Arbeitsplatz – also ausgerechnet an jenem Ort, an dem man einen Großteil seiner Zeit verbringt – zu sprechen. Heute ist immer mehr die Rede davon, dass der Umgang mit dem Thema “Mental Health” im Berufsleben offener geworden ist.

“Das Wohlbefinden der Mitarbeiter:innen, oftmals auch als ‚Employee well-being‘ bezeichnet, umfasst drei Dimensionen: Die physische, die mentale und die finanzielle Dimension. Wie heimische Arbeitgeber:innen das Thema Mental Health handhaben, haben wir kürzlich im Rahmen einer repräsentativen Studie in Zusammenarbeit mit marketagent erörtert”, sagt Zink und ergänzt: “Dabei zeigt sich, dass mentale Gesundheit am Arbeitsplatz in Österreich zunehmend enttabuisiert wird. 68,2 Prozent der Befragten geben an, dass das Thema bei ihrem aktuellen oder letzten Arbeitgeber einen sehr hohen (28,3 Prozent) oder eher hohen Stellenwert (39,9 Prozent) hat.

2024 haben viele Unternehmen angekündigt, ihre Home-Office-Regeln zu verschärfen oder das Home-Office gar gänzlich abzuschaffen. Nichtsdestotrotz haben sich hybride Arbeitsmodelle, die Heimarbeit und Büropräsenz kombinieren, vielerorts als Norm etabliert, weiß Zink. Durch die fortschreitende Digitalisierung und das neue Telearbeitsgesetz, das in Österreich am 1.1. 2025 in Kraft getreten ist, werde die Flexibilität noch weiter ausgebaut: Mitarbeitende könnten ortsungebunden arbeiten – sei es im Co-Working-Space, bei Angehörigen oder in einer Berghütte.

“Damit einhergeht jedoch unter anderem, dass Unternehmen Maßnahmen zur Förderung des Teambuildings priorisieren müssen”, sagt Zink abschließend. “Denn diese sind in Zeiten des hybriden Arbeitens wichtiger denn je.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?