19.03.2018

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

Mit Chris Boos trat ein Vordenker der Robotik und des maschinellen Lernens in Wien beim jährlichen "ÖAMTC Future Talk" auf. Er sprach über die Befreiung des Menschen durch die Automatisierung und die Notwendigkeit für die Automobilindustrie, sich mit innovativen Produkten und Services neu zu erfinden.
/artikel/chris-boos
Chris Boos
(c) ÖAMTC/APA-Fotoservice/Hörmandinger

Werden uns Roboter in puncto Denkleistung bald überholen? Sind Elon Musks Befürchtungen, wonach diese künstliche Intelligenz der Maschinen eine Bedrohung für die Menschheit darstelle, ernst zu nehmen? Oder wird der Gründer von u.a. Tesla und SpaceX, dem Millionen für die Umsetzung von technologischen Visionen zujubeln, unerhört bleiben – ein Kassandrarufer im schlimmsten Fall? Geht es nach Chris Boos, dürfen wir aufatmen. Der CEO der 1995 von ihm gegründeten Arago GmbH mit Sitz in Frankfurt, New York und dem Silicon Valley meint, dass ein tatsächliches Selbstbewusstsein der künstlichen Intelligenz derzeit nicht absehbar ist. Zwar werde immer wieder vor einer KI gewarnt, die uns alle (vorsätzlich) umbringt. Dem stelle er gerne ein anderes Beispiel gegenüber: „Den Roboter, der sagt: ‚Ich liebe dich‘ – und der es auch so meint“. Beides ist laut Boos Fiktion: „Vielleicht ist das möglich – aber niemand weiß, wie“.

+++ Interview: “Wir werden die KI-Dividende ernten können” +++

Es gibt nicht die eine KI

Am 16. März 2018 sprach Boos, bevor er eine Keynote bei der Gala zum Automobilpreis „Marcus“ hielt, im Rahmen des jährlichen „ÖAMTC Future Talk“ darüber, wie künstliche Intelligenz die Mobilität verändern wird. Dabei stellte er u.a. klar, dass in der Diskussion drei Arten von Artificial Intelligence (AI) vermischt werden: die „Narrow AI“, die „General AI“ und die „Super AI“.

„Wenn Sie statt der Tomaten Stangenbohnen setzen, wird diese Künstliche Intelligenz scheitern.“

Narrow AI umfasse das, was viele Startups machen: Die Entwicklung einer Insellösung zur Optimierung technologischer Abläufe. Etwa die Effizienz steigernde Überwachung und Steuerung einer Tomaten-Zucht im Glashaus: „Das mag recht gut funktionieren. Aber wenn Sie statt der Tomaten Stangenbohnen setzen, wird diese Künstliche Intelligenz scheitern, weil die Dinger einfach nicht rot werden“.

Die General AI kann sich selbst weiterentwickeln: „Je öfter sie angewandt wird, desto schneller lernt sie dazu“, führt Boos in die Grundlagen des „Machine Learning“ ein. Und er legt damit auch Grenzen dar. Zwar können Computer Rechenleistungen weit über der Kapazität des menschlichen Gehirns bewältigen; abstraktes Problemlösen verlangt aber nach mehr: Es sind all die biochemischen Einflüsse, die auf das Gehirn wirken, die unser Denken mit ausmachen. Boos schließt daraus: „Eine wirklich funktionierende, umfassende KI benötigt eine Kombination aus vielen Technologien“. Auch wenn es von der General zur Super AI nur ein verhältnismäßig kurzer Weg wäre – weil dabei eine exponentielle, sich beschleunigende Entwicklung entstehen würde, sei aktuell nicht absehbar, ob und wann wir diesen Weg überhaupt finden.

Chris Boos beim ÖAMTC Future Talk:

Chris Boos
(c) ÖAMTC/APA-Fotoservice/Hörmandinger

Was automatisierbar ist, wird intelligent

In diesem Sinn beschränke sich die Ausbreitung der KI auf all jene Bereiche, in denen Abläufe automatisiert werden können. Womit selbstfahrende Autos ein logisches Anwendungsfeld darstellen. Gaspedal, Bremse, Schaltung und Lenkrad, motorische Kraftübertragung auf die Räder, dazu eine Reihe von Sensoren und Kommunikationsschnittstellen, gesteuert von einem Computer: Elon Musk nannte es Tesla und hat die Welt damit in Serie begeistert.

„Ein autonomes Fahrzeug sein Eigen zu nennen, wäre nicht zweckmäßig“

Chris Boos, der mit der Arago GmbH die Software HIRO entwickelt hat – das steht für „Human Intelligence Robotically Optimized“, denkt aber auf einer anderen Ebene: Es sei nicht primär das autonome Fahren, mit dem die krisengeschüttelte Automobilindustrie sich in die Zukunft rettet, sondern der Gedanke des „Sharing“ und ihrer damit verbundenen Neuerfindung. Ein Auto zu besitzen sei ja eigentlich wenig effizient: Man hat verhältnismäßig lange Stehzeiten und einen raschen Wertverlust. Ein autonomes Fahrzeug sein Eigen zu nennen, wäre darum nicht zweckmäßig. Für den Konsumenten ergebe sich durch durch Miet- und Sharing-Konzepte sogar eine Ersparnis von bis zu 90 Prozent.

Die Zukunft des Autos heißt Vielfalt

Allein schon aufgrund der unterschiedlichen Ansprüche für verschiedene Fahrten entstehe künftig ein erhöhter Bedarf zum Modellwechsel, aber auch für neue Dienstleistungen. Wer über Nacht schlafend zu einem Businesstermin kutschiert werden will, um im Unterschied zum frühmorgendlichen Flug stressfrei und ausgeruht anzukommen, hat einen anderen Anspruch als eine Familie, die einen Ausflug in die Berge angeht. Diese Bedürfnisse zu erkennen und das eigene Geschäftsmodell mit neuen Produkten und Dienstleistungen anzupassen sei zugleich die Herausforderung und die Chance der klassischen Automobilproduzenten.

Nicht zielführend ist laut Chris Boos die Strategie, dass jedes Unternehmen von Grund auf sein eigenes selbstfahrendes Auto entwickeln will. Man sehe am Beispiel von Tesla, aber auch bei Google, dass Quereinsteiger das effizienter machen, und man habe es auch an der Einführung und Akzeptanz der Navi-Systeme gesehen: Nachdem Autohersteller teure Eigenentwicklungen etablieren wollten, waren sie ab einem gewissen Zeitpunkt gezwungen, günstige Lösungen von Google, Apple & Co. zu implementieren bzw. Schnittstellen zu schaffen – weil diese besser waren und die Kunden es verlangten.

Freiheit nutzen, oder „Idiocracy“? – „Wir können das selbst entscheiden“

Befreiung für neue Aufgaben

Der vielfach geäußerten Befürchtung, künstliche Intelligenzen könnten mit der weiteren Automatisierung viele Menschen den Job kosten, hält Boos entgegen: Jene Firmen, die in der Vergangenheit Personal gehalten statt zur kurzfristigen Kosteneinsparung abgebaut haben, hätten damit die Nase vorn. Wer auf neue Herausforderungen rasch reagieren muss, brauche einfach erfahrene Fachkräfte.

Tatsächlich wäre die Übernahme menschlicher Arbeit durch künstliche Intelligenzen allerdings eine Befreiung. Wenn die Gesellschaft bestimmte Aufgaben an Maschinen auslagert, werden Ressourcen frei, um ganz neue Problemstellungen anzugehen. Am Ende werde der Mensch sich entscheiden müssen, so Chris Boos: Wollen wir die neue Freiheit nutzen um uns darum zu bemühen, das in vielen Gegenden der Welt bestehende Elend zu verringern? Oder lehnen wir uns zurück, weil die Maschinen unsere Grundversorgung übernehmen, und entwickeln uns unter zunehmender Medienberieselung zur gut unterhaltenen „Idiocracy“? – „Wir können das selbst entscheiden“.

+++ Österreichische Artificial Intelligence Kompetenzträger im Überblick +++


⇒ Zur Page von Boos‘ Unternehmen Arago

Deine ungelesenen Artikel:
20.08.2026

Teslakee: Österreichischer Sicherheitsforscher baute App um Tesla-Schwachstellen entgegenzuwirken

Die toothR new media GmbH, ein österreichisches IT-Sicherheitsunternehmen im Wissenspark Urstein bei Salzburg, das unter der Marke IT Wachdienst.com kleine und mittlere Unternehmen berät, veröffentlicht die Android-App TeslaKee. Sie entschärft eigenen Angaben nach zwei dokumentierte Schwachstellen des Bluetooth-Autoschlüssels von Tesla.
/artikel/teslakee-oesterreichischer-sicherheitsforscher-baute-app-um-tesla-schwachstellen-entgegenzuwirken
20.08.2026

Teslakee: Österreichischer Sicherheitsforscher baute App um Tesla-Schwachstellen entgegenzuwirken

Die toothR new media GmbH, ein österreichisches IT-Sicherheitsunternehmen im Wissenspark Urstein bei Salzburg, das unter der Marke IT Wachdienst.com kleine und mittlere Unternehmen berät, veröffentlicht die Android-App TeslaKee. Sie entschärft eigenen Angaben nach zwei dokumentierte Schwachstellen des Bluetooth-Autoschlüssels von Tesla.
/artikel/teslakee-oesterreichischer-sicherheitsforscher-baute-app-um-tesla-schwachstellen-entgegenzuwirken
Tesla
(c) Tesla

Der österreichische Sicherheitsforscher Martin Herfurt hat bereits vor Jahren eine Sicherheitslücke bei Tesla entdeckt, wie er damals auf der Videoplattform YouTube demonstrierte: Der digitale Autoschlüssel am Smartphone sei zwar bequem, jedoch bei allen Tesla-Fahrzeugen ohne Ultra-Breitband-Technik (UWB) grundsätzlich angreifbar. ToothR new media bzw. IT-Wachdienst.com veröffentlicht nun mit TeslaKee eine Smartphone-App, die dokumentierte Schwachstellen des Bluetooth-PhoneKey-Protokolls entschärfen soll: den Relay-Angriff, der zum Fahrzeugdiebstahl in Sekunden führt, und die sogenannte BlueBait-Attacke, mit der sich Fahrerinnen und Fahrer über gefälschte Fahrzeug-Signale orten lassen — selbst dann, wenn das eigene Auto kilometerweit entfernt steht.

Teslakee-Founder: „App beantwortet jede Authentifizierungsanfrage“

„Tesla-Fahrzeuge entriegeln, sobald sich das gekoppelte Smartphone in Bluetooth-Reichweite meldet. Die eingesetzte Kryptografie ist solide. Die Schwachstelle liegt eine Ebene darüber, in der Logik: Die offizielle App beantwortet jede Authentifizierungsanfrage — bedingungslos, ohne zu prüfen, ob die Situation überhaupt plausibel ist. Genau das macht zwei Angriffe möglich“, beschreibt Herfurt per Aussendung das Tesla-Problem.

Bei einem Relay-Angriff arbeiten zwei Täter mit zwei handelsüblichen Funkmodulen zusammen. Einer folgt Fahrzeughaltern ins Einkaufszentrum, der zweite steht am Auto auf dem Parkplatz. Die Funkstrecke zwischen beiden verlängert die Bluetooth-Reichweite künstlich um beliebige Distanzen. Für das Fahrzeug sieht es so aus, als stünden Besitzer direkt daneben. Das Auto entriegelt, lässt sich starten und wegfahren — während das Handy unberührt in der Jackentasche steckt.

Der Angriff wurde von Herfurt im Rahmen des Projekts TEMPA auf Sicherheitskonferenzen live demonstriert und als Video dokumentiert. Er benötige keine Kenntnis von Passwörtern, keinen Tesla-Account und hinterlasse keine Einbruchsspuren — ein Umstand, der in der Schadensregulierung regelmäßig zu Problemen mit Versicherungen führt, wie der Sicherheitsforscher sagt.

Das Bluetooth-Problem

Neuere Fahrzeuge begegnen diesem Problem mit UWB-Distanzmessung: Das Auto misst hierbei physikalisch, wie weit das Telefon tatsächlich entfernt ist, und ein weitergeleitetes Signal fliegt auf. Diesen Schutz hat die große Mehrheit der Fahrzeuge jedoch nicht. Die weltweite Tesla-Flotte mit Bluetooth-PhoneKey wird derzeit auf rund acht Millionen Fahrzeuge geschätzt. Davon sind jedoch nur etwa 20 Prozent mit UWB ausgestattet.

Der zusätzliche Schutz kam erst mit den jüngsten Modellgenerationen – für rund sechs Millionen Fahrzeuge bleibt Bluetooth damit die Grundlage des Zugangs. Beim Model S und Model X wurde UWB ab 2021 (Palladium) eingeführt, beim Model 3 ab 2024 (Highland) und beim Model Y ab 2025 (Juniper). Betroffen sind damit alle älteren Modelle der jeweiligen Baureihen.

Erschwerend komme hinzu: UWB schütze nur, wenn Fahrzeug und Smartphone die Technik beherrschen. Ein Großteil der verbreiteten Android-Geräte hat, Herfurt zufolge, keinen UWB-Chip. Selbst Besitzer eines neuen Fahrzeugs würden damit still auf die ungeschützte Bluetooth-Ebene zurückfallen.

BlueBait-Attacke

Weniger bekannt, aus Sicht des Datenschutzes aber gravierender, sei ein Angriff, den die Forschung als BlueBait-Attacke bezeichnet — nach dem Köder, mit dem gearbeitet wird: Die offizielle App antwortet auch auf gefälschte Fahrzeuge. Wer einen nachgebauten Tesla-Beacon betreibt — ein Gerät für wenige Euro, wie Herfurt betont — bekommt von jedem vorbeigehenden Tesla-Fahrer eine Antwort des Smartphones. Damit lässt sich zuverlässig feststellen: Diese konkrete Person war zu dieser Uhrzeit an diesem Ort.

„BlueBait funktioniert vollkommen unabhängig davon, wo das Auto steht. Die Halterin muss nicht in der Nähe ihres Fahrzeugs sein — es genügt, dass sie ihr Telefon dabei hat. Mehrere solcher Beacons, verteilt über eine Stadt, ergeben ein Bewegungsprofil“, beschreibt Herfurt diese Gefahr. „Die Anwendungsfälle sind unangenehm konkret: Stalking, häusliche Gewalt und Nachstellung, verdeckte Beobachtung durch Dritte, kommerzielles Kunden-Tracking im Einzelhandel, das Ausspähen von Fahrzeugen als Vorbereitung eines Diebstahls. Betroffene bemerken davon nichts — es gibt keine Anzeige, keinen Hinweis, kein Protokoll.“

Entscheidend dabei ist, dass UWB nicht gegen BlueBait helfe. Die Distanzmessung greife erst, wenn das Fahrzeug die Nähe des Telefons überprüft — sie verhindert den Diebstahl. Die Ortung entstehe jedoch schon eine Stufe davor, allein dadurch, dass das Telefon auf eine Anfrage überhaupt reagiere. Von der Ortbarkeit sind deshalb auch Halterinnen und Halter brandneuer Fahrzeuge mit UWB betroffen. Solange die Entscheidung, ob geantwortet wird, nicht auf dem Telefon selbst getroffen wird, bleibe das Problem bestehen. Hier kommt die App von Herfurt ins Spiel.

Die Idee hinter TeslaKee

Die zentrale Idee hinter TeslaKee besteht nicht darin, die offizielle Tesla-App zu ersetzen, sondern eine ganz konkrete Schwachstelle in Teslas eigener Umsetzung zu schließen: den Bluetooth-basierten digitalen Schlüssel, mit dem sich das Smartphone am Fahrzeug authentifiziert.

Eine Policy-Engine prüft jede Authentifizierungsanfrage gegen einen selbst definierten Regelsatz, bevor eine Antwort erfolgt. Passt der Gerätekontext nicht zu einer plausiblen Annäherung, bleibt die Reaktion aus, das Angreifersignal läuft ins Leere, das Fahrzeug bleibt verschlossen, und auch ein BlueBait-Köder erhält keine verwertbare Antwort. Fahrzeug- und Privatsphärenschutz laufen so über denselben Mechanismus, so der Claim.

Alle internetbasierten Funktionen der Tesla-App, etwa Navigationsziele, Updates, Supercharger-Planung oder der Fernzugriff über hunderte Kilometer, bleiben eigenen Angaben nach unverändert erhalten, da sie über Teslas Server laufen. „Beide Apps sind parallel nutzbar: TeslaKee übernimmt nur den Bluetooth-Nahbereich, in dem die Schwachstellen liegen, und dafür wird der offiziellen App lediglich die Berechtigung „Geräte in der Nähe“ entzogen, ihr Schlüssel bleibt im Fahrzeug hinterlegt“, liest man in der Aussendung.

Kern des Tesla-Schutzes

Den Kern des Tesla-Schutzes bildet ein Baukasten aus zehn konfigurierbaren Kontextregeln (Pflicht- oder optionale Regel mit Quorum), etwa Bewegungserkennung, GPS-Geofence, Abgleich mit dem letzten Parkplatz samt Mobilfunkzellen, bekanntes WLAN, Zeitfenster, Signalstärke, Schrittzähler, barometrische Höhe, Bildschirmstatus und erlaubte Funkzellen. Für Ausnahmen wie Fahrzeugübergabe oder Werkstattbesuch gibt es eine befristete manuelle Übersteuerung (15/30/60 Minuten), und ein Live-Policy-Test zeige jederzeit nachvollziehbar, welche Regel gerade greift.

„Die Verschlüsselung von Tesla ist in Ordnung — das Problem ist, dass das Telefon jede Frage beantwortet, ohne sich zu fragen, wer da eigentlich fragt. Ein Auto, das aufgeht, weil jemand mein Signal aus dem Supermarkt auf den Parkplatz verlängert hat, ist die eine Hälfte. Die andere Hälfte ist, dass ein zwanzig Euro teures Bastelgerät am Straßenrand mitschreiben kann, wann ich vorbeigegangen bin — dafür muss mein Auto nicht einmal in der Nähe sein“ präzisiert Herfurt. „Gegen den Diebstahl hilft UWB tatsächlich, aber nur bei neuen Fahrzeugen mit passendem Telefon. Gegen das Mitschreiben hilft es überhaupt nicht: Das Telefon antwortet dem gefälschten Beacon weiterhin, auch im nagelneuen Auto. Deshalb muss die Entscheidung, ob überhaupt geantwortet wird, auf das Telefon — und genau das macht TeslaKee.“

TeslaKee ist ab sofort für alle Interessierten öffentlich verfügbar — für Android ab Version 10, vorausgesetzt wird ein Gerät mit StrongBox-Sicherheitschip (verbreitet ab Baujahr 2019). Parallel läuft weiterhin ein internes Testprogramm, dessen Rückmeldungen in die Weiterentwicklung einfließen. Kompatibel sind Tesla Model 3, Y, S und X mit Bluetooth-PhoneKey. Für die einmalige Schlüsselanmeldung wird die NFC-Keycard des Fahrzeugs benötigt. An einer TeslaKee-App für das iPhone wird bereits gearbeitet.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chris Boos: Mit AI zur besseren Zukunft oder zur „Idiocracy“?