02.06.2023

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

Gastbeitrag. Georg Hanschitz, Product & Market Specialist bei Payone, erläutert, welche Chancen eine verpflichtende Quellenangabe bei der KI-Regulierung bieten würde.
/artikel/ki-regulierung-gastbeitrag-georg-hanschitz
(c) der brutkasten / schauer-burkart

Der Ruf nach Regulierung von Künstlicher Intelligenz (KI) ist unüberhörbar und wird mitunter von jenen Unternehmen propagiert, die selbst hoch erfolgreich KI-Anwendungen am globalen Markt platziert haben und betreiben. KI hat die generelle Marktreife für Anwendungen in allen Bereichen des Lebens erlangt, nun sei die Politik gefordert den Einsatz von KI zu regulieren, um Missbrauch zu verhindern, lautet der Tenor.

Herausforderungen einer KI-Regulierung

Übersehen wird dabei, dass kein Regulator alle denkmöglichen Anwendungsfälle auf Zulässigkeit von KI-Integration prüfen wird können und schon gar nicht deren Integrationstiefe – also wie stark KI in einem (einzelnen) Einsatzbereich zur Anwendung kommt. Darüber hinaus werden ethische Fragen zum Resultat von KI-gestützten Ergebnissen gestellt. Inwieweit ein Regulator, dessen Entscheidungen im Rahmen einer länderspezifischen Verwaltungsgerichtsbarkeit zu verantworten sind, sich einer solchen Aufgabe überhaupt stellen kann, ist fraglich. Gerade weil das Regulieren der Anwendbarkeit von KI so diffizil ist, nehmen KI Unternehmen die Politik in die Pflicht – Selbstbeschränkungen oder Regulierung bergen sowohl wirtschaftlich als auch rechtlich sehr hohe Risiken; zu starke Selbstregulierung kostet Marktanteile (da man womöglich freiwillig auf Geschäft verzichtet), zu geringe Selbstregulierung führen womöglich zu Zivilrechts- bzw. Schadensersatzklagen (etwa bei Verletzung der Privatsphäre, Eigentumsrechte, Intellectual Property etc).

Das Dilemma

Die Politik kämpft unterdessen mit der Herausforderung unterschiedlicher Standards. So könnten KI-Oasen entstehen, in denen es so gut wie keine Regulierung gibt, die errechneten Ergebnisse aber in den regulierten Markt Eingang finden. Die Einschränkung und Regulierung von KI Anwendungsfällen ist eine enorme Herausforderung – so wird etwa seit 2014 in der UNO ergebnislos über den Einsatz autonomer Algorithmus gesteuerter Waffen (etwa militärischer Drohnenschwärme) debattiert. Ein Verbot oder verbindliche Regeln, könnten einen militärisch-strategischen Nachteil bedeuten, so der die Kritiker der UNO-Initiative.

Ein möglicher Ausweg

Der vielversprechendste Ansatz einer Regulierung ist eine verpflichtende Quellenangabe. Was beinahe klingt, als wäre es zu einfach um wahr zu sein, kann tatsächlich der beste Ausweg aus dem derzeitigen Regulierungsdilemma sein.

Selbsterklärtes Ziel der KI-Forschung ist es eine sich selbst erklärende, nachvollziehbare und verlässliche Künstliche Intelligenz zu schaffen. Dabei gilt, je mehr verifizierte Daten- und IoT Quellen dem Ergebnis zu Grunde liegen, desto belastbarer ist das Resultat. Source und Type of Source könnten während des Abfrageprozesses in einem eigenen Datenstream erfasst werden, welcher unmöglich als Quellenangabe händisch zu überprüfen wäre; sehr wohl könnte der generierte Quellen-Datenstream aber maschinenlesbar gemacht werden, um ausgewertet zu werden.

Ein praktisches Beispiel:

Angefragt wird, welche Tomatensorte die weltweit beste ist. Neben der Antwort besteht die Möglichkeit den Prozentsatz „verifizierter Quellen“, „der Hauptquelle“ etc. auszulesen. Beziehen sich etwa 70 Prozent des Resultats auf einen oftmals verwendeten bezahlten Artikel eines Tomatenzüchters, so wäre das in der Auswertung sichtbar. Ähnlich wäre es mit so genannten „Fake News“ oder bei „Framing“. Quellen mit fragwürdigem Hintergrund könnten bei der Abfrage angezeigt werden, ähnlich wie es bei Dateien ist, die ein Anti-Virus Programm erkennt.

Welche Chancen dadurch entstehen

KI Unternehmen würden dazu verpflichtet werden, ein entsprechendes Protokoll auszusetzen und die Maschinenlesbarkeit der Quellenangabe zu gewährleisten, wie bei der Einführung der Geodaten-Nutzung am Beginn der 2000er Jahre, könnte dadurch nicht nur ein transparentes Prüfsystem geschaffen werden, sondern auch neue Geschäftsmodelle entstehen. Verletzungen und Missbrauch  im Bereich Datenschutz, Copyright, Datendiebstahl etc. könnten somit sichtbar gemacht und nach kurzer Zeit verhindert werden. Zudem wäre eine solche Regulatorik sowohl seitens der Politik als auch der Unternehmen umsetzbar und für Anwender praktikabel. Ebenso würde eine sie den Anspruch der Universalität erfüllen, da sie unabhängig von Ländergesetzgebungen, Schlupflöchern und Sprachbarrieren eingeführt werden könnte.

Dabei geht es nicht darum den Ball der Regulierung von KI an die Unternehmen zurückzuspielen, es wäre mehr ein Doppelpass zwischen Politik und Wirtschaft um die Anwendbarkeit von KI und das Vertrauen in neue Technologien voranzutreiben. Schlussendlich wäre die Verpflichtung zur maschinenlesbaren Quellenangabe auch ein wichtiger Schritt in Richtung der Vision der KI-Community: Eine sich selbst erklärbare, nachvollziehbare und verlässliche KI zu verwirklichen.

Deine ungelesenen Artikel:
20.08.2026

Teslakee: Österreichischer Sicherheitsforscher baute App um Tesla-Schwachstellen entgegenzuwirken

Die toothR new media GmbH, ein österreichisches IT-Sicherheitsunternehmen im Wissenspark Urstein bei Salzburg, das unter der Marke IT Wachdienst.com kleine und mittlere Unternehmen berät, veröffentlicht die Android-App TeslaKee. Sie entschärft eigenen Angaben nach zwei dokumentierte Schwachstellen des Bluetooth-Autoschlüssels von Tesla.
/artikel/teslakee-oesterreichischer-sicherheitsforscher-baute-app-um-tesla-schwachstellen-entgegenzuwirken
20.08.2026

Teslakee: Österreichischer Sicherheitsforscher baute App um Tesla-Schwachstellen entgegenzuwirken

Die toothR new media GmbH, ein österreichisches IT-Sicherheitsunternehmen im Wissenspark Urstein bei Salzburg, das unter der Marke IT Wachdienst.com kleine und mittlere Unternehmen berät, veröffentlicht die Android-App TeslaKee. Sie entschärft eigenen Angaben nach zwei dokumentierte Schwachstellen des Bluetooth-Autoschlüssels von Tesla.
/artikel/teslakee-oesterreichischer-sicherheitsforscher-baute-app-um-tesla-schwachstellen-entgegenzuwirken
Tesla
(c) Tesla

Der österreichische Sicherheitsforscher Martin Herfurt hat bereits vor Jahren eine Sicherheitslücke bei Tesla entdeckt, wie er damals auf der Videoplattform YouTube demonstrierte: Der digitale Autoschlüssel am Smartphone sei zwar bequem, jedoch bei allen Tesla-Fahrzeugen ohne Ultra-Breitband-Technik (UWB) grundsätzlich angreifbar. ToothR new media bzw. IT-Wachdienst.com veröffentlicht nun mit TeslaKee eine Smartphone-App, die dokumentierte Schwachstellen des Bluetooth-PhoneKey-Protokolls entschärfen soll: den Relay-Angriff, der zum Fahrzeugdiebstahl in Sekunden führt, und die sogenannte BlueBait-Attacke, mit der sich Fahrerinnen und Fahrer über gefälschte Fahrzeug-Signale orten lassen — selbst dann, wenn das eigene Auto kilometerweit entfernt steht.

Teslakee-Founder: „App beantwortet jede Authentifizierungsanfrage“

„Tesla-Fahrzeuge entriegeln, sobald sich das gekoppelte Smartphone in Bluetooth-Reichweite meldet. Die eingesetzte Kryptografie ist solide. Die Schwachstelle liegt eine Ebene darüber, in der Logik: Die offizielle App beantwortet jede Authentifizierungsanfrage — bedingungslos, ohne zu prüfen, ob die Situation überhaupt plausibel ist. Genau das macht zwei Angriffe möglich“, beschreibt Herfurt per Aussendung das Tesla-Problem.

Bei einem Relay-Angriff arbeiten zwei Täter mit zwei handelsüblichen Funkmodulen zusammen. Einer folgt Fahrzeughaltern ins Einkaufszentrum, der zweite steht am Auto auf dem Parkplatz. Die Funkstrecke zwischen beiden verlängert die Bluetooth-Reichweite künstlich um beliebige Distanzen. Für das Fahrzeug sieht es so aus, als stünden Besitzer direkt daneben. Das Auto entriegelt, lässt sich starten und wegfahren — während das Handy unberührt in der Jackentasche steckt.

Der Angriff wurde von Herfurt im Rahmen des Projekts TEMPA auf Sicherheitskonferenzen live demonstriert und als Video dokumentiert. Er benötige keine Kenntnis von Passwörtern, keinen Tesla-Account und hinterlasse keine Einbruchsspuren — ein Umstand, der in der Schadensregulierung regelmäßig zu Problemen mit Versicherungen führt, wie der Sicherheitsforscher sagt.

Das Bluetooth-Problem

Neuere Fahrzeuge begegnen diesem Problem mit UWB-Distanzmessung: Das Auto misst hierbei physikalisch, wie weit das Telefon tatsächlich entfernt ist, und ein weitergeleitetes Signal fliegt auf. Diesen Schutz hat die große Mehrheit der Fahrzeuge jedoch nicht. Die weltweite Tesla-Flotte mit Bluetooth-PhoneKey wird derzeit auf rund acht Millionen Fahrzeuge geschätzt. Davon sind jedoch nur etwa 20 Prozent mit UWB ausgestattet.

Der zusätzliche Schutz kam erst mit den jüngsten Modellgenerationen – für rund sechs Millionen Fahrzeuge bleibt Bluetooth damit die Grundlage des Zugangs. Beim Model S und Model X wurde UWB ab 2021 (Palladium) eingeführt, beim Model 3 ab 2024 (Highland) und beim Model Y ab 2025 (Juniper). Betroffen sind damit alle älteren Modelle der jeweiligen Baureihen.

Erschwerend komme hinzu: UWB schütze nur, wenn Fahrzeug und Smartphone die Technik beherrschen. Ein Großteil der verbreiteten Android-Geräte hat, Herfurt zufolge, keinen UWB-Chip. Selbst Besitzer eines neuen Fahrzeugs würden damit still auf die ungeschützte Bluetooth-Ebene zurückfallen.

BlueBait-Attacke

Weniger bekannt, aus Sicht des Datenschutzes aber gravierender, sei ein Angriff, den die Forschung als BlueBait-Attacke bezeichnet — nach dem Köder, mit dem gearbeitet wird: Die offizielle App antwortet auch auf gefälschte Fahrzeuge. Wer einen nachgebauten Tesla-Beacon betreibt — ein Gerät für wenige Euro, wie Herfurt betont — bekommt von jedem vorbeigehenden Tesla-Fahrer eine Antwort des Smartphones. Damit lässt sich zuverlässig feststellen: Diese konkrete Person war zu dieser Uhrzeit an diesem Ort.

„BlueBait funktioniert vollkommen unabhängig davon, wo das Auto steht. Die Halterin muss nicht in der Nähe ihres Fahrzeugs sein — es genügt, dass sie ihr Telefon dabei hat. Mehrere solcher Beacons, verteilt über eine Stadt, ergeben ein Bewegungsprofil“, beschreibt Herfurt diese Gefahr. „Die Anwendungsfälle sind unangenehm konkret: Stalking, häusliche Gewalt und Nachstellung, verdeckte Beobachtung durch Dritte, kommerzielles Kunden-Tracking im Einzelhandel, das Ausspähen von Fahrzeugen als Vorbereitung eines Diebstahls. Betroffene bemerken davon nichts — es gibt keine Anzeige, keinen Hinweis, kein Protokoll.“

Entscheidend dabei ist, dass UWB nicht gegen BlueBait helfe. Die Distanzmessung greife erst, wenn das Fahrzeug die Nähe des Telefons überprüft — sie verhindert den Diebstahl. Die Ortung entstehe jedoch schon eine Stufe davor, allein dadurch, dass das Telefon auf eine Anfrage überhaupt reagiere. Von der Ortbarkeit sind deshalb auch Halterinnen und Halter brandneuer Fahrzeuge mit UWB betroffen. Solange die Entscheidung, ob geantwortet wird, nicht auf dem Telefon selbst getroffen wird, bleibe das Problem bestehen. Hier kommt die App von Herfurt ins Spiel.

Die Idee hinter TeslaKee

Die zentrale Idee hinter TeslaKee besteht nicht darin, die offizielle Tesla-App zu ersetzen, sondern eine ganz konkrete Schwachstelle in Teslas eigener Umsetzung zu schließen: den Bluetooth-basierten digitalen Schlüssel, mit dem sich das Smartphone am Fahrzeug authentifiziert.

Eine Policy-Engine prüft jede Authentifizierungsanfrage gegen einen selbst definierten Regelsatz, bevor eine Antwort erfolgt. Passt der Gerätekontext nicht zu einer plausiblen Annäherung, bleibt die Reaktion aus, das Angreifersignal läuft ins Leere, das Fahrzeug bleibt verschlossen, und auch ein BlueBait-Köder erhält keine verwertbare Antwort. Fahrzeug- und Privatsphärenschutz laufen so über denselben Mechanismus, so der Claim.

Alle internetbasierten Funktionen der Tesla-App, etwa Navigationsziele, Updates, Supercharger-Planung oder der Fernzugriff über hunderte Kilometer, bleiben eigenen Angaben nach unverändert erhalten, da sie über Teslas Server laufen. „Beide Apps sind parallel nutzbar: TeslaKee übernimmt nur den Bluetooth-Nahbereich, in dem die Schwachstellen liegen, und dafür wird der offiziellen App lediglich die Berechtigung „Geräte in der Nähe“ entzogen, ihr Schlüssel bleibt im Fahrzeug hinterlegt“, liest man in der Aussendung.

Kern des Tesla-Schutzes

Den Kern des Tesla-Schutzes bildet ein Baukasten aus zehn konfigurierbaren Kontextregeln (Pflicht- oder optionale Regel mit Quorum), etwa Bewegungserkennung, GPS-Geofence, Abgleich mit dem letzten Parkplatz samt Mobilfunkzellen, bekanntes WLAN, Zeitfenster, Signalstärke, Schrittzähler, barometrische Höhe, Bildschirmstatus und erlaubte Funkzellen. Für Ausnahmen wie Fahrzeugübergabe oder Werkstattbesuch gibt es eine befristete manuelle Übersteuerung (15/30/60 Minuten), und ein Live-Policy-Test zeige jederzeit nachvollziehbar, welche Regel gerade greift.

„Die Verschlüsselung von Tesla ist in Ordnung — das Problem ist, dass das Telefon jede Frage beantwortet, ohne sich zu fragen, wer da eigentlich fragt. Ein Auto, das aufgeht, weil jemand mein Signal aus dem Supermarkt auf den Parkplatz verlängert hat, ist die eine Hälfte. Die andere Hälfte ist, dass ein zwanzig Euro teures Bastelgerät am Straßenrand mitschreiben kann, wann ich vorbeigegangen bin — dafür muss mein Auto nicht einmal in der Nähe sein“ präzisiert Herfurt. „Gegen den Diebstahl hilft UWB tatsächlich, aber nur bei neuen Fahrzeugen mit passendem Telefon. Gegen das Mitschreiben hilft es überhaupt nicht: Das Telefon antwortet dem gefälschten Beacon weiterhin, auch im nagelneuen Auto. Deshalb muss die Entscheidung, ob überhaupt geantwortet wird, auf das Telefon — und genau das macht TeslaKee.“

TeslaKee ist ab sofort für alle Interessierten öffentlich verfügbar — für Android ab Version 10, vorausgesetzt wird ein Gerät mit StrongBox-Sicherheitschip (verbreitet ab Baujahr 2019). Parallel läuft weiterhin ein internes Testprogramm, dessen Rückmeldungen in die Weiterentwicklung einfließen. Kompatibel sind Tesla Model 3, Y, S und X mit Bluetooth-PhoneKey. Für die einmalige Schlüsselanmeldung wird die NFC-Keycard des Fahrzeugs benötigt. An einer TeslaKee-App für das iPhone wird bereits gearbeitet.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen