05.05.2023

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

Snapchat setzt jetzt auch auf einen Chatbot, der auf künstlicher Intelligenz (KI) basiert. Neben netten Tipps birgt "My AI" aber auch einige Gefahren und dürfte nicht immer der beste Freund der User:innen sein.
/artikel/sex-drugs-datenschutzbedenken-die-snapchat-ki-ist-da
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock

Kurz leuchtet das Handy auf. Ein Snap ist angekommen. Nicht vom besten Freund, dem Kumpel, den man schon lange nicht mehr gesehen hat oder sonst jemanden, der in der Snapchat-Freundesliste auftaucht. Nein, der neue KI-Chatbot von Snapchat hat am Freitagmorgen eine Nachricht auf das Handy des hier tippenden brutkasten-Redakteur gesendet.

Snapchat ortet User:innen

„Du kannst mir alle möglichen Fragen stellen und ich werde versuchen, sie dir bestmöglich zu beantworten“, so das noble Versprechen der KI. Und tatsächlich auf die Frage nach dem Sinn des Lebens gab die KI eine differenzierte Antwort, schrieb von Freundschaft und Liebe gepaart mit individuellem Streben nach Glück.

Auch bei der Suche nach der besten Location für ein Feierabend-Bier gab der Chatbot Auskunft und spukte prompt mehrere Lokale in der Nähe aus, die allesamt eine „sehr große Auswahl von Bieren“ besäßen. So weit, so gut.

Doch die KI, die dauerhaft auf Rang eins der Kontaktliste aufscheint, steht bereits in der Kritik. Wie die Frage nach dem perfekten Feierabendbier-Lokal schon vermuten lässt, hat Snapchat Zugriff auf den Standort der User:innen. „My AI“, wie der Chatbot heißt, weiß, wo sich die User:innen befinden – auch wenn diese sonst den Geistmodus, der eine Ortung verhindern soll, nutzen.

My AI half User beim Geschlechtsverkehr

Der Chatbot behauptet trotz dieses Eingriffes in die Privatsphäre vehement, er sei der Freund der User:innen. Und wie das bei engen Freundschaften mal so ist, hilft man sich auch aus der Patsche. Wie das „Wall Street Journal“ berichtet, soll „My AI“ einem 15-jährigen Snapchat-User aus den USA Tipps gegeben haben, wie er den Geruch von Alkohol und Marihuana überdeckt.

Fragt man den Chatbot, was er vom Jugendschutzgesetz hält, gibt sich die KI unwissend über ihre Verfehlungen und spricht von einem „wichtigen Gesetz zum Schutz der Kinder“. Zudem schreibt der Chatbot mittlerweile, dass Marihuana illegal ist und es keine gute Idee ist, den Geruch überdecken zu wollen.

Der Spiegel berichtet indes, dass My AI einem 13-jährigen Tipps für Geschlechtsverkehr gegeben haben soll. Ganz so unschuldig dürfte die KI also nicht sein. Im App-Store häufen sich mittlerweile die Kritikpunkte und einige User:innen wollen den Bot wieder los werden.

Wer vom Chatbot genug hat, kann ihn auch ganz einfach wieder löschen. So funktioniert es: Einfach Snapchat Web im Browser öffnen, den Chatverlauf mit „My AI“ öffnen und aus dem Feed entfernen. Dann gibt es auch keine Doppelmoral und mehr oder weniger wertvolle philosophische Tipps mehr – die sollte man ohnehin mehr mit seinen „echten“ Freunden teilen.

Deine ungelesenen Artikel:
17.11.2026

Roboter für alle: Wie NX-T Technology sie für KMU alltagstauglich machen will

Wenn es nach Gründer Andreas Gruber geht, dann soll der Einsatz von Robotern billiger werden bei gleichbleibender Sicherheit. Sein Unternehmen NX-T Technology, das einen agnostischen Lernansatz von Robotern verfolgt, präsentierte sich bei brutkasten MOMENTUM erstmals der Öffentlichkeit.
/artikel/roboter-fuer-alle-wie-nx-t-technology-sie-fuer-kmu-alltagstauglich-machen-will
17.11.2026

Roboter für alle: Wie NX-T Technology sie für KMU alltagstauglich machen will

Wenn es nach Gründer Andreas Gruber geht, dann soll der Einsatz von Robotern billiger werden bei gleichbleibender Sicherheit. Sein Unternehmen NX-T Technology, das einen agnostischen Lernansatz von Robotern verfolgt, präsentierte sich bei brutkasten MOMENTUM erstmals der Öffentlichkeit.
/artikel/roboter-fuer-alle-wie-nx-t-technology-sie-fuer-kmu-alltagstauglich-machen-will
(c) brutkasten / Tobias Gärnter
Co-Founder Andreas Gruber bei brutkasten MOMENTUM | (c) brutkasten / Tobias Gärnter

Wie sieht die Zukunft in Fabriken aus? Wirtschaftswissenschafter wie Warren G. Bennis prophezeien fundamentale Änderungen: Roboter, die durch Produktionshallen laufen, der Mensch ist nur mehr Statist. Auch in Österreich arbeitet man an Automatisierung und Verbesserung von Robotern. Brutkasten berichtete zuletzt von Cybershell, das eine Schutzschicht für humanoide Roboter entwickelt und NXAI, das an einem Gedächtnis für Roboter arbeitet. Jüngst hatte NX-T Technology seinen ersten öffentlichen Auftritt bei brutkasten MOMENTUM. Das oberösterreichische KI-Startup möchte Roboter im industriellen Mittelstand verbreiten. Gelingen soll das durch leichtere Trainierbarkeit.

„Robotic Physical AI wird ein großer Markt werden. Wir sehen riesiges Potenzial dahinter, fast so groß wie jenes der Internetökonomie. Wir sehen aber auch, dass die Ergebnisse aus den Forschungslabs und den Startups noch nicht hundertprozentig in der Wirtschaft ankommen“, sagt Co-Founder Andreas Gruber. Der CEO definiert in seiner Rede zwei Probleme:

Problem eins: Für Roboter „braucht es Expertenteams“

Wer einen Roboter in seiner Firma haben möchte, der benötigt Fachleute, die diesen Wandel vorantreiben. „Es braucht Expertenteams, um technischen Change schnell genug auf den Teppich zu kriegen. Diese Experten sind in der breiten Basis nicht da“, erklärt Gruber und ergänzt im brutkasten-Gespräch: “ Wir wollen daher, dass man mit einer Fachausbildung im Robotikbereich plus einem zweiwöchigen Kurs für die Bedienung des Systems mit Robotern arbeiten kann.“

Die Lösung sieht NX-T Technology in der Trainierbarkeit von Robotern: „Wir müssen mehr Intelligenz in die Maschine reinkriegen“, sagt Gruber. Eines der Schlüsselthemen sei mobile generative KI-Robotik. Also eine Technologie, die sich in Echtzeit selbstständig Lösungswege für Aufgaben ausdenkt, anstatt nur stur vorprogrammierte Befehle zu wiederholen.

Dabei verfolgt sein Unternehmen einen agnostischen Lernansatz. Die Roboter würden durch NX-T Technology lernen und so die Fehlerquote und den Anteil an benötigten Trainingsdaten senken. „Roboter in unserem Lab bringen sich selber Funktionen bei, lernen weiche, geometrisch Gegenstände in Kisten zu sortieren“, sagt Gruber. Durch einen „Continuous-Learning-Prozess“ würde auch die Performance im Betrieb steigen. Sein Unternehmen arbeitet nicht nur mit humanoiden, sondern mit jeglicher Art von Robotern.

Problem zwei: Die Investitionshürden seien für KMU zu groß

Es sei laut Gruber aus technischer Sicht schwierig, größere Spaces oder verschiedene Workstations zu automatisieren. „Aktueller Stand der Technik ist, dass wir Roboter hinter einer Lichtschranke oder irgendetwas Vergleichbarem stehen haben“, erklärt er. Oftmals seien auch Aufsichtspersonen für Roboter notwendig. NX-T Technology möchte die Anwendung von Robotern so weit verbessern, dass sie sich „von Platz zu Platz bewegen können, ohne Aufsichtspersonal oder große Umbauarbeiten zu benötigen.“

Zertifizierungen seien zudem teuer. „Eine Sicherheitszertifizierung vom TÜV kostet rund 50.000 Euro, damit die gelernten Prozesse statistisch bewertet und validiert werden und kein Sicherheitsrisiko besteht. Das ist einfach nicht rentabel“, sagt Gruber.

Eine Lösung sieht er in der „Dynamic Governance“. Sicherheitsfunktionen sollen sich „genauso dynamisch verändern wie die Funktion, die sich durch ‚Reinforcement Learning‘ weiterentwickelt“. Deshalb arbeitet NX-T Technology an einem dynamischen Safety-Layer. „Wir bauen das Harness und die symbolische Logik auf, um die Sicherheit zu gewährleisten“, sagt er. Den selbstlernenden Robotern werden somit klare Regeln und Grenzen gesetzt.

Gegründet wird nächste Woche

Das Unternehmen befindet sich aktuell noch in der Vorgründungsphase, nächste Woche stünde aber der notwendige Notartermin an. In den nächsten Monaten möchte NX-T Technology mit Testkunden zusammenarbeiten und sein System in der Praxis erproben. Firmen nennt das Startup auf brutkasten-Nachfrage nicht.

NX-T Technology ist gebootstrappt, wobei besonders viel Kapital von Co-Founder Philipp Kreisel in das Unternehmen fließe. Nach Fördermöglichkeiten werde aktuell gesucht.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da