21.08.2023

Sind selbstfahrende Autos rassistisch?

Glosse. Eine Studie von Forscher:innen des Londoner King's College, wonach autonome Fahrzeugsysteme "racially biased" sind, macht derzeit in den internationalen Medien die Runde.
/artikel/sind-selbstfahrende-autos-rassistisch
Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
Screenshot: Der Tesla Model Y knapp vor dem Aufprall mit der Kinder-Schaufensterpuppe
kommentar

Die Statistik ist nicht von der Hand zu weisen und definitiv problematisch: Die Chance, von bildbasierten Systemen selbstfahrender Autos nicht erkannt zu werden, ist bei dunkelhäutigen Personen um 7,52 Prozent höher als bei hellhäutigen. Das fand ein Forscher:innen-Team am renommierten Londoner King’s College in einer Studie heraus. Das Ergebnis macht gerade international in Medien die Runde.

Für die Studie wurden Open Source-Algorithmen, die auch von den Autoherstellern genutzt werden (diese gaben ihre eigenen Systeme nicht für die Studie frei), auf mehr als 8.000 Bildern angewendet. Die Personen auf diesen Bildern wurden von den Wissenschaftler:innen nach Geschlecht, Alter und Hautfarbe gelabelt.

Noch größeres Problem mit nicht erkannten Kindern

Noch stärker als der Unterschied zwischen hellhäutigen und dunkelhäutigen Personen ist jener zwischen Erwachsenen und Kindern, die um ganze 19,67 Prozent häufiger nicht von den Systemen erkannt werden. Zwischen den Geschlechtern ist der Unterschied mit 1,1 Prozent dagegen relativ gering.

Sind selbstfahrende Autos also rassistische Kinderhasser? Oder etwas weniger überspitzt gesagt: Waren die Programmierer:innen der Algorithmen (mal wieder) zu wenig für das Thema sensibilisiert und haben den „racial bias“ und den „age bias“ auf fahrlässige Art und Weise verursacht?

Dunkelhäutige Personen werden im Dunkeln schlechter erkannt

Eine weitere Angabe des Forscher:innen-Teams legt nahe, dass man mit derartigen Vorwürfen vorsichtig sein sollte. Im Abstract zur Studie heißt es: „Darüber hinaus untersuchten wir gängige Szenarien, die in der Literatur zu Tests des autonomen Fahrens erforscht wurden, und stellen fest, dass der Bias gegenüber dunkelhäutigen Fußgängern in Szenarien mit geringem Kontrast und geringer Helligkeit deutlich zunimmt“.

Sprich: dunkelhäutige Personen sind für die optischen Systeme in erster Linie in der Dunkelheit schwerer zu erkennen als hellhäutige. Und Kinder werden generell – wie auch von menschlichen Fahrer:innen – deutlich leichter übersehen. Mit Rassismus oder Kinderfeindlichkeit hat das wohl sehr wenig zu tun.

Wohl kein Rassismus, aber sehr wohl ein Problem

Ein Problem ist dies natürlich trotzdem. Wenn die bildbasierten Systeme selbstfahrender Autos hier nicht sattelfest sind, sind sie noch nicht ausgereift genug und daher eigentlich nicht bereit für die Straße. Derartige Systeme dürften übrigens generell nicht der Weisheit letzter Schluss sein. Auch Tesla, das bis vor einiger Zeit klar auf KI-Bildanalyse setzte, steigt mittlerweile auf laserbasierte Umgebungs-Abtastung (Lidar) um.

Deine ungelesenen Artikel:
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
(c) SecurITe

Manchmal beginnt eine Gründungsgeschichte mit einem Satz, der wie eine Drohung klingt. „Alles, was wir in der Cybersecurity haben, kannst du wegschmeißen. Es wird in ganz kurzer Zeit nicht mehr funktionieren.“ Das soll Manuel Nedbal im Herbst 2024 zu Herbert Stöger gesagt haben – als das Schlagwort „agentic AI“ noch kaum jemand kannte. Rund anderthalb Jahre später, sagen beide, sei genau das eingetreten. Und aus der Ansage ist ein Unternehmen geworden, das nun eine bemerkenswerte Finanzierungsrunde vermeldet.

SecurITe hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich (Euro) abgeschlossen – für eine Frühphasenfinanzierung im österreichischen Kontext eine außergewöhnliche Größenordnung. Sie reicht laut Unternehmen, um die Produktentwicklung über rund 24 Monate durchzufinanzieren. Strukturiert wurde die Runde bewusst über einen europäischen Finanzpartner aus dem Family-Office-Umfeld, der vorerst nicht genannt werden möchte. Auch die bestehenden Gesellschafter zogen mit.

Herbert Stöger, Managing Director x-tention | (c) Thomsen Photography

Hinter SecurITe stehen zwei Akteure, die sich ergänzen: Nedbal, der zwölf Jahre im Silicon Valley Cybersecurity gebaut hat, und Stöger, Gründer und Eigentümer der österreichischen Health-IT-Gruppe x-tention. Das Startup ist aus dieser Partnerschaft entstanden – x-tention brachte den Zugang zum Gesundheitsmarkt und das Problemverständnis ein, Nedbal die Technologie. Eine klassische Ausgründung sei es nicht; x-tention zählt heute zu den bestehenden Gesellschaftern.

Eine Begegnung im Bezirk Amstetten

Die Geschichte dahinter ist die zweier Welten, die im Mostviertel zusammenfanden. Nedbals Stationen im Valley: McAfee (später von Intel übernommen), dann das eigene Startup ShieldX, das nach fünf Jahren an Fortinet verkauft wurde, wo er als VP of Engineering arbeitete. Zuletzt verantwortete er bei Google die Architektur der Cloud-Firewall. Im Zuge der Pandemie kehrte er nach Österreich zurück – ein Muster, das man damals bei einigen heimischen Tech-Talenten beobachten konnte. Dort wurde er über einen gemeinsamen Freund Stöger vorgestellt.

Manuel Nedbal – CEO SecurITe (links) und Bernhard Aigenbauer – COO SecurITe | (c) SecurITe

Dieser hatte x-tention 2001 mit sechs Mitarbeitern gegründet; heute zählt die Gruppe rund 850 Beschäftigte in Österreich, der Schweiz, Deutschland und England sowie ein Office im Silicon Valley. Tief im Bereich Gesundheits-IT verankert, deckt x-tention Datenmanagement, ELGA, Konnektivität und Managed Services ab und betreut nach eigenen Angaben mehr als 1.000 Kunden im Gesundheitswesen. Marktbedingungen, großes Problem, Marktzugang und Technologie seien „auf einmal zusammengekommen“ – Nedbal nennt es eine „Textbuchvorlage für ein Startup“. Heute verteilt sich das rund 50-köpfige Team auf Österreich, Silicon Valley und Bangalore.

Krankenhäuser als verwundbarster Punkt

Warum ausgerechnet Healthcare? Der Sektor sei von der Cybersecurity-Industrie „vergessen“ worden, argumentiert Nedbal – weil dort andere Regeln gelten. Klassische Schutzmechanismen ließen sich auf medizinischen Geräten und in klinischen Netzen nicht so einsetzen wie in der Enterprise-IT. Hinzu komme, dass während der Pandemie eine Hemmschwelle gefallen sei: Krankenhäuser würden heute ohne Schonung attackiert – rund um die Uhr.

Hier setzt das Resilienz-Argument der Gründer an: Krankenhäuser seien ein Paradebeispiel für kritische Infrastruktur, deren Absicherung längst keine rein technische Frage mehr sei, sondern eine der europäischen Souveränität. Die Sorge: Erkenntnisse über neue, KI-getriebene Angriffsmuster zirkulierten oft nur in einem begrenzten Kreis großer US-Anbieter – Krankenhaussoftware-Hersteller und europäische Institutionen seien dabei selten am Tisch. Eine eigenständige europäische Antwort, die nicht aus den USA, Israel oder China komme, sieht das Team daher als Chance. Konsequenterweise habe man auch die Finanzierung „aus Europa und für für das globale Wachstum“ gestemmt – die IP bleibe aber in Europa.

Die nächste Bedrohungsstufe sieht SecurITe in autonomen Agenten: Setzen Kliniken selbst KI-Agenten ein, könnten diese sich fehlverhalten; ein Angriff durch autonome Agenten sei zudem um ein Vielfaches gefährlicher als von einem menschlichen Akteur. Genau hier setzt das Produkt agentis360 an: Statt auf eine zentrale Instanz setzt es auf eigene Sensoren und kleine KI-Modelle, die direkt in der Infrastruktur sitzen und das Verhalten von Systemen und Agenten laufend auf Auffälligkeiten profilieren. Mit dem frischen Kapital will das Unternehmen die Produktentwicklung vorantreiben und parallel internationalen Vertrieb sowie Partnerschaften aufbauen – mit Europa als Ausgangspunkt und dem globalen Rollout für kritische Infrastruktur als nächstes Ziel.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sind selbstfahrende Autos rassistisch?