31.10.2019

Google Duplex: KI täuscht Gesprächspartner am Telefon

Google hat im Vorjahr ein Service namens Google Duplex vorgestellt. Das Besondere an dieser Künstlichen Intelligenz: Sie imitiert menschenähnliche Gesprächsweisen, wie kaum eine KI vor ihr. Zwei Beispiele ihrer Funktionsweise zeigen einen faszinierenden wie auch erschreckenden Ausblick, was bald möglich sein wird.
/artikel/google-duplex-ai-taeuscht-gespraechspartner
Google, Google Duplex, Ai, KI, Artificial Intelligence, Künstliche Intelligenz, Android, Apple, Smartphone,
© Aleksei/ stock.adobe.com

Nachdem Google mit seinem Quantencomputer-Experiment vor wenigen Wochen die Welt überrascht hat, setzt der Tech-Gigant aus den USA seinen Weg fort, weltweit Menschen in Erstaunen und Schock zugleich zu versetzen. Google Duplex ist ein Projekt, bei dem User  Reservierungen per Smartphone tätigen können, ohne direkt mit Angestellten des Restaurants oder Friseurs zu reden. Dies übernimmt eine AI, die mit menschlicher Stimme die Aufgabe vollführt. Nun startet die Internationalisierung des Google-Tools.

+++ Wie Googles Investment das Business von StreamUnlimited veränderte +++

Duplex als Feature vom Assistant

Dabei geht die Künstliche Intelligenz erschreckend realistisch vor, wie der Konzern bereits 2018 mit zwei Audioaufnahmen bei der Entwicklerkonferenz Google I/O bewies. Duplex ist als Zusatz-Tech hinter einem ausgebauten Google-Assistant zu betrachten. Bei der Vorführung im Vorjahr zeigte Google CEO Sundar Pichai, wie das Service mittels einer AI-basierten Stimme funktioniert.

In der Demo hörte man, dass die KI nicht bloß die Person auf der anderen Seite der Leitung verstehen, sondern auch auf deren Fragen mit korrekten Antworten aufwarten konnte. Sogar kleine, menschentypische Gesten wie eine kurze „Nachdenkpause“ zwischen gesprochen Sätzen oder ein „ähm“ waren Teil des Repertoires der KI.

Google Assistant reserviert einen Tisch im Restaurant

Google Assistant bucht einen Friseur-Termin

Internationaler Start von Google Duplex in Neuseeland

Seit März 2019 ist die Nutzung von Google Duplex in 48 US-Staaten möglich – einzig Kentucky und Louisiana sind von diesem Service ausgenommen. Nun lief in Neuseeland ein Pilotprojekt, das den Start der internationalen Ausweitung von Duplex darstellte. Dort hat die AI lokale Geschäfte angerufen, um die Öffnungszeiten am „Labour Day“ herauszufinden. Die Ergebnisse sind nun auf Google Maps aktualisiert aufzufinden.

Google hat Duplex zuerst auf seinen Pixel-Phones gelauncht, mittlerweile aber auch den Rollout auf anderen Android-Geräten – Version 5.0 oder neuer – und auf iPhones, die den Google Assistant installiert haben, gestartet.

Duplex-Support benötigt

Und so funktioniert es: Der User muss zuerst den Google Assistant am Smartphone aktivieren und ihn dann bitten, zum Beispiel eine „lunch, breakfast oder dinner-„Reservierung zu machen. Dies aktiviert den Duplex-Dienst. Einmal erwacht, erhält man eine Liste von allen Restaurants in der Umgebung. Google betont an dieser Stelle, dass nicht alle Zielorte das KI-Feature supporten. Deshalb sei es wichtig, das passende Lokal zu bestimmen. Danach fragt der Google Assistant nach der Anzahl der Leute und einem alternativen Zeitrahmen, sollte der gewünschte Termin nicht verfügbar sein. Erst dann ruft die KI im Restaurant an.

KI kann auch canceln

Innerhalb von 15 Minuten erhalte man folglich eine Reservierungs-Bestätigung. Sollte es nicht geklappt haben, weil es keinen Platz gab oder niemand erreichbar war, informiere der Assistant auch hierbei den Smartphone-Besitzer.

Überlegt man es sich anders oder findet doch keine Zeit zum Essen gehen, so kann die KI auch Termine canceln. In Zukunft soll Google Duplex auch Autos reservieren können, so der Plan.

KI ohne Kontrolle

Ein großer Kritikpunkt – der bei allem Erstaunen über die Menschen-mimende AI auftaucht – ist, dass man als User keine Chance hat, der Aufzeichnung des Gesprächs zwischen Duplex und Zielpersonen zu lauschen. Auch ein Transkript davon ist nicht möglich. Der Konzern schweigt bezüglich solcher Anfragen.

Abschließend ist zu erwähnen, dass Google bei seinem Duplex-Service eine Art „Spam-Schutz“ eingebaut hat: Wer aus Spaß an der Freude bei mehreren Restaurants über die KI Termine bucht und sie dann storniert, der verliert Google Duplex. Der Tech-Gigant sperrt den Dienst für einen gewissen Zeitraum, um Duplex daran zu hindern, Lokale und andere Dienstleister mit „Cancel-Calls“ vollzuspammen.


⇒ Neuseeland Google Blog

⇒ Google Blog

Redaktionstipps
Deine ungelesenen Artikel:
vor 4 Stunden

„Wir töten Drohnen, nicht Menschen“: Wie der weltbekannte Virenjäger Mikko Hyppönen jetzt Drohnen jagt

70 bis 80 Prozent der Verluste im Ukraine-Krieg gehen auf Drohnen zurück, in die Abwehr fließt aber nur rund ein Prozent der Verteidigungsausgaben, sagt Cybersecurity-Veteran Mikko Hyppönen. Im brutkasten-Interview erklärt er, warum Panzer keinen Sinn mehr ergeben, wo Russland bei autonomen Waffen schon steht und warum er Europäern ausgerechnet chinesische KI-Modelle empfiehlt.
/artikel/mikko-hypponen-interview-drohnen
vor 4 Stunden

„Wir töten Drohnen, nicht Menschen“: Wie der weltbekannte Virenjäger Mikko Hyppönen jetzt Drohnen jagt

70 bis 80 Prozent der Verluste im Ukraine-Krieg gehen auf Drohnen zurück, in die Abwehr fließt aber nur rund ein Prozent der Verteidigungsausgaben, sagt Cybersecurity-Veteran Mikko Hyppönen. Im brutkasten-Interview erklärt er, warum Panzer keinen Sinn mehr ergeben, wo Russland bei autonomen Waffen schon steht und warum er Europäern ausgerechnet chinesische KI-Modelle empfiehlt.
/artikel/mikko-hypponen-interview-drohnen
Mikko Hyppönen im Rahmen der TEDAI Vienna 2026. | © TEDAI Vienna / Robert Leslie

Mikko Hyppönen zählt seit drei Jahrzehnten zu den bekanntesten Stimmen der Cybersecurity-Szene. Seit Kurzem gilt sein Arbeitsalltag aber nicht mehr Viren und Hackern, sondern Drohnen: Der Finne ist Chief Research Officer beim Helsinkier Counter-Drone-Unternehmen Sensofusion, das militärische Drohnen aufspürt und abwehrt, unter anderem in der Ukraine und im Nahen Osten. Brutkasten hat Hyppönen am Rande der TEDAI Vienna 2026 in der Hofburg getroffen. Ein Gespräch über die Parallelen zwischen Malware und Kampfdrohnen, autonome Waffen, den „Black October“ der KI-Sicherheitslücken und die Frage, warum chinesische Open-Source-Modelle für Europa derzeit die privatere Wahl sind.


brutkasten: Sie gelten als einer der angesehensten Cybersecurity-Experten weltweit. Warum sind Sie in die Drohnenabwehr gewechselt?

Mikko Hyppönen: Die Antwort ist sehr einfach: Es herrscht Krieg in Europa. Ich habe mein ganzes Leben auf Cyber geschaut. Cyber hat sich von Teenagern, die zum Spaß Viren schreiben, zu organisierter Kriminalität, Cyberkrieg, Spionage und staatlichen Operationen entwickelt. Cyber spielt natürlich auch im Krieg eine Rolle, Russland hat der Ukraine schon dreimal mit Cyberangriffen den Strom abgedreht. Aber wenn man fragt, was den Ukraine-Krieg wirklich auszeichnet, dann ist es nicht Cyber, sondern es sind Drohnen. Ich habe es als meine Pflicht gesehen, die Fähigkeiten, die ich über drei Jahrzehnte im Cyber-Bereich gesammelt habe, in die Drohnenabwehr einzubringen.

Was lässt sich von der Cyberabwehr auf die Drohnenabwehr übertragen?

Es gibt viele Ähnlichkeiten, aber auch viele Unterschiede. In beiden Fällen versucht man, etwas zu entdecken, das nicht entdeckt werden will. Bei Cyberangriffen sammelt man ein Sample, analysiert es, baut eine Signatur, erstellt eine Datenbank und schickt die Updates an alle Nutzer weltweit. So funktionieren Antivirenprogramme. Bei Drohnen ist es dasselbe: Wir zeichnen den Funkverkehr militärischer Drohnen auf, dekodieren die Protokolle, bauen Erkennungssignaturen und schicken die Updates an alle Kunden, die unsere Hardware einsetzen.

Wir kaufen Panzer, was keinen Sinn ergibt, wenn künftige Kriege so aussehen wie in der Ukraine oder im Nahen Osten.

Bei Drohnen ohne Funkverbindung, etwa Glasfaserdrohnen mit einem Kabel zwischen Pilot und Drohne oder Drohnen, die autonom Koordinaten abfliegen und wie eine Rakete einschlagen, nutzen wir andere Sensoren: Kameras, Radar, Akustik. Und in beiden Welten gilt: Sobald der Gegner merkt, dass er erkannt wird, verändert er sich, und man steht wieder am Anfang. Es ist ein Katz-und-Maus-Spiel. Ich musste viel lernen, aber es gefällt mir. Übrigens gibt es noch eine Gemeinsamkeit zwischen altem und neuem Job: In beiden Fällen waren die meisten Gegner, gegen die ich gekämpft habe, Russen.

Wie funktioniert die Abwehr konkret?

Sobald wir wissen, wo die Drohne ist, können wir sie bekämpfen. Bei funkgesteuerten Drohnen stören wir das Signal: Wir kennen die Frequenzen und Protokolle und senden ein stärkeres Signal zwischen Pilot und Drohne. Das machen wir seit Jahren. Ist die Drohne nicht funkgesteuert, braucht es andere Lösungen. Wir forschen intensiv an elektromagnetischen Impulsen, also künstlichen Blitzen, die die Elektronik der Drohnen zerstören. Wir arbeiten an Lasern, an klassischen Geschützen mit unserer Zielerfassung, und wir haben eine eigene Drohnenfabrik in Containergröße, die kleine Abfangdrohnen baut. Die fliegen 380 Kilometer pro Stunde und treffen die großen gegnerischen Drohnen in der Luft.

„Das ist die Grenze, die wir nicht überschreiten sollten. Die Russen haben sie bereits überschritten.“

Gegen Jet-Drohnen funktioniert das nicht. Unsere Abfangdrohnen erreichen heute etwa zwei Kilometer Höhe, das reicht für Drohnen mit Verbrennungsmotor. Jets fliegen auf sieben Kilometern und verhalten sich eher wie Marschflugkörper. Die bekämpft man mit Raketen und Kampfjets. Aber das ist extrem asymmetrisch: Drohnen sind billig, und man kann es sich nicht leisten, sie dauerhaft mit teuren Raketen abzuschießen. Wir brauchen neue Lösungen, und daran denken wir gerade.

Es heißt oft, die Ukraine sei zu Innovation gezwungen und die NATO-Staaten könnten von ihr lernen. Stimmt das?

Absolut. Wir haben ein Büro in Kiew, unsere Leute aus Helsinki sind ständig vor Ort und testen mit verschiedenen Teilen der ukrainischen Streitkräfte. Dieser Krieg ist anders als alles, was wir bisher gesehen haben. 70 bis 80 Prozent der Verluste gehen auf Drohnen zurück. Wenn das stimmt, müsste man meinen, dass auch 80 Prozent der Verteidigungsausgaben in die Drohnenabwehr fließen. Tatsächlich ist es wohl eher ein Prozent. Weltweit denken wir noch in den Kategorien des alten Krieges. Wir kaufen Panzer, was keinen Sinn ergibt, wenn künftige Kriege so aussehen wie in der Ukraine oder im Nahen Osten.

Welche Szenarien kommen auf uns zu?

Wir können vor allem bei den Russen erwarten, dass sie immer stärker auf vollständig autonome Waffen setzen, die die Entscheidung zu töten selbst treffen. Das ist die Grenze, die wir nicht überschreiten sollten. Die ukrainischen Soldaten, mit denen ich spreche, sagen mir, dass sie diese Grenze nicht überschreiten werden, sie wollen immer einen Menschen in der Entscheidung behalten. Die Russen haben sie bereits überschritten. Sie haben Zugang zu westlichen Chips, auch von Nvidia, haben sie in Langstreckendrohnen verbaut und damit Menschen getötet, ohne dass ein Mensch beteiligt war. Die New York Times hat vor zwei Monaten die Hardware auseinandergenommen und den Code dekodiert. Diese Drohnen haben Zivilisten getötet.

Worin liegt der Vorteil einer autonomen Drohne?

Das ist aus Sicht des Angreifers klar. Der Schwachpunkt jeder Drohne ist die Verbindung zwischen Pilot und Drohne. Funk kann man stören, ein Glasfaserkabel kann man durchtrennen. Also nimmt man die Verbindung weg, und damit den Piloten. Dann gibt es nichts mehr, das man unterbrechen kann. Logisch betrachtet ergibt der Schritt zu autonomen Waffen Sinn. Aber ich glaube, alle Menschen würden zustimmen, dass es eine schlechte Idee ist, Killerroboter zu bauen. Genau das sind sie: Maschinen, deren Zweck es ist, Menschen zu töten, und die diese Entscheidung selbst treffen.

Bisher haben wir das nur bei Flugdrohnen gesehen. Stellen Sie sich tausend Bodendrohnen vor, die über die Grenze kommen und nach Menschen suchen. Das wäre das Albtraumszenario, und die Technologie dafür existiert heute. Es will sie nur niemand bauen, und wir hoffen, dass das so lange wie möglich so bleibt. Ich muss betonen: Wir bauen ausschließlich Systeme zur Abwehr. Wir haben keine Drohnen, die Menschen töten. Wir töten Drohnen, nicht Menschen. Wir schützen Menschen, das ist unsere Mission.

Auf der TEDAI-Bühne sprechen Sie über KI und Cybersecurity. Was ist Ihre Botschaft?

Das erste Mal habe ich 1983 über künstliche Intelligenz gelesen, da war ich 13. Ich habe mein ganzes Leben auf die Systeme gewartet, die wir heute haben. Wie bei jeder technologischen Revolution bekommen wir große Vorteile und große Probleme. In der Cybersecurity ist die Lage gerade richtig schlecht. Wir nennen diesen Monat den „Black October“, weil die Zahl der entdeckten Sicherheitslücken in den letzten 30 Tagen explodiert ist. Gefunden werden sie von den Frontier-AI-Labs, Menschen kommen da nicht mehr mit. Und es sind nicht nur Kriminelle, die KI für Angriffe nutzen. Es gibt Dutzende Fälle, in denen KI-Systeme selbst ausgebrochen sind, viel mehr, als öffentlich bekannt ist.

„China ist im Moment überraschenderweise privater als die amerikanischen Optionen.“

Meine Botschaft ist: Programmieren verändert sich. Der Grund, warum Ihr Windows oder Mac gehackt werden kann, ist, dass ein Mensch den Code geschrieben hat. Menschen machen Fehler, Fehler im Code werden zu Bugs, Bugs in vernetzten Systemen zu Sicherheitslücken. Die Lösung ist offensichtlich: Man nimmt den Menschen raus. Genau das passiert gerade. Künftig wird aller Code von Maschinen geschrieben, und Maschinen werden viel schneller besser als menschliche Programmierer. Irgendwann haben wir fehlerfreien Code, und es gibt keine Schwachstellen mehr, die Angreifer ausnutzen können. Bis dahin wird es aber eine sehr holprige Fahrt.

Wie hat sich das Verhältnis zwischen Angreifern und Verteidigern im KI-Zeitalter verschoben?

Die Reaktionszeit ist verschwunden. Früher hatte der Verteidiger Zeit: Eine Schwachstelle wurde gemeldet, man konnte einen Fix entwickeln und die Systeme patchen. Dieses Fenster ist inzwischen so klein, dass es keine Rolle mehr spielt.

Europa hat keinen Zugang zu den besten Modellen. Was bedeutet das geopolitisch?

Als Europäer ist die Lage ziemlich traurig. Es wird diskutiert, ob man die KI-Forschung wegen der Risiken bremsen sollte. Die USA bremsen, China überlegt. Europa muss nicht bremsen, weil wir gar keine Frontier-Labs haben. Der einzige echte Lichtblick sind Open-Source-Frontier-Modelle. Die können wir lokal betreiben, ohne Erlaubnis von irgendjemandem, auf unseren eigenen Systemen. Kritische Daten müssen wir nicht nach Kalifornien schicken. Ironischerweise bekommen wir mehr Privatsphäre und Sicherheit von offenen Systemen, und alle offenen Systeme sind chinesisch. Modelle wie GLM oder Kimi kann man vom Internet trennen und den Code prüfen. Selbst wenn irgendwo eine Hintertür versteckt wäre, könnte sie keine Daten abziehen. Mit Claude, Gemini, GPT oder Grok geht das nicht, die müssen online sein, und die Daten gehen in die USA. China ist im Moment überraschenderweise privater als die amerikanischen Optionen.

Hat Europa das KI-Rennen verloren?

Wir können hoffen, aber ich sehe wenige Anzeichen dafür. Interessant ist allerdings, dass ein großer Teil des Trainings und der Inferenz in Europa stattfindet, weil hier so viele Rechenzentren gebaut werden, vor allem in Nordeuropa mit billigem Strom und kaltem Klima. Google baut riesige Rechenzentren in Finnland, Nebius hat sein größtes Rechenzentrum in Mäntsälä. Ein Teil der KI-Revolution passiert also in Europa. Leider ist es der Billiglohn-Teil der Wertschöpfungskette. Aber immerhin etwas.

Haben Sie als 13-Jähriger eine Zukunft wie diese erwartet?

Ich habe darauf gehofft. Es hat viel länger gedauert, als ich dachte, alle haben schon vor 20 Jahren auf solche Systeme gewartet. Diese Revolution baut auf der Internet-Revolution auf: Vor dem Internet war alles Wissen auf Papier. Heute ist alles Daten, und wir haben auch das alte Wissen digitalisiert, Bücher, Filme, Radio, mit dem die Modelle jetzt lernen. Wir leben in aufregenden Zeiten. Aufregend und beängstigend zugleich, genau so, wie ich es mag.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Google Duplex: KI täuscht Gesprächspartner am Telefon