05.05.2023

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

Snapchat setzt jetzt auch auf einen Chatbot, der auf künstlicher Intelligenz (KI) basiert. Neben netten Tipps birgt "My AI" aber auch einige Gefahren und dürfte nicht immer der beste Freund der User:innen sein.
/artikel/sex-drugs-datenschutzbedenken-die-snapchat-ki-ist-da
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock

Kurz leuchtet das Handy auf. Ein Snap ist angekommen. Nicht vom besten Freund, dem Kumpel, den man schon lange nicht mehr gesehen hat oder sonst jemanden, der in der Snapchat-Freundesliste auftaucht. Nein, der neue KI-Chatbot von Snapchat hat am Freitagmorgen eine Nachricht auf das Handy des hier tippenden brutkasten-Redakteur gesendet.

Snapchat ortet User:innen

„Du kannst mir alle möglichen Fragen stellen und ich werde versuchen, sie dir bestmöglich zu beantworten“, so das noble Versprechen der KI. Und tatsächlich auf die Frage nach dem Sinn des Lebens gab die KI eine differenzierte Antwort, schrieb von Freundschaft und Liebe gepaart mit individuellem Streben nach Glück.

Auch bei der Suche nach der besten Location für ein Feierabend-Bier gab der Chatbot Auskunft und spukte prompt mehrere Lokale in der Nähe aus, die allesamt eine „sehr große Auswahl von Bieren“ besäßen. So weit, so gut.

Doch die KI, die dauerhaft auf Rang eins der Kontaktliste aufscheint, steht bereits in der Kritik. Wie die Frage nach dem perfekten Feierabendbier-Lokal schon vermuten lässt, hat Snapchat Zugriff auf den Standort der User:innen. „My AI“, wie der Chatbot heißt, weiß, wo sich die User:innen befinden – auch wenn diese sonst den Geistmodus, der eine Ortung verhindern soll, nutzen.

My AI half User beim Geschlechtsverkehr

Der Chatbot behauptet trotz dieses Eingriffes in die Privatsphäre vehement, er sei der Freund der User:innen. Und wie das bei engen Freundschaften mal so ist, hilft man sich auch aus der Patsche. Wie das „Wall Street Journal“ berichtet, soll „My AI“ einem 15-jährigen Snapchat-User aus den USA Tipps gegeben haben, wie er den Geruch von Alkohol und Marihuana überdeckt.

Fragt man den Chatbot, was er vom Jugendschutzgesetz hält, gibt sich die KI unwissend über ihre Verfehlungen und spricht von einem „wichtigen Gesetz zum Schutz der Kinder“. Zudem schreibt der Chatbot mittlerweile, dass Marihuana illegal ist und es keine gute Idee ist, den Geruch überdecken zu wollen.

Der Spiegel berichtet indes, dass My AI einem 13-jährigen Tipps für Geschlechtsverkehr gegeben haben soll. Ganz so unschuldig dürfte die KI also nicht sein. Im App-Store häufen sich mittlerweile die Kritikpunkte und einige User:innen wollen den Bot wieder los werden.

Wer vom Chatbot genug hat, kann ihn auch ganz einfach wieder löschen. So funktioniert es: Einfach Snapchat Web im Browser öffnen, den Chatverlauf mit „My AI“ öffnen und aus dem Feed entfernen. Dann gibt es auch keine Doppelmoral und mehr oder weniger wertvolle philosophische Tipps mehr – die sollte man ohnehin mehr mit seinen „echten“ Freunden teilen.

Deine ungelesenen Artikel:
10.06.2026

Sprechendes Spielzeug: Wiener Vater entwickelt „Plappi“ zur Erlernung von Sprachen

Aus einem persönlichen Anliegen heraus entwickelte der Wiener Nemanja Klincov ein sprachförderndes Spielzeug für Kinder. Durch Plappi, einen KI-gestützten Sprechkörper, sollen Kinder aktiv zum Sprechen in einer anderen Sprache angeregt werden. Der Gründer erklärt gegenüber brutkasten, warum Datensicherheit dabei im Vordergrund steht.
/artikel/sprechendes-spielzeug-wiener-vater-entwickelt-plappi-zur-erlernung-von-sprachen
10.06.2026

Sprechendes Spielzeug: Wiener Vater entwickelt „Plappi“ zur Erlernung von Sprachen

Aus einem persönlichen Anliegen heraus entwickelte der Wiener Nemanja Klincov ein sprachförderndes Spielzeug für Kinder. Durch Plappi, einen KI-gestützten Sprechkörper, sollen Kinder aktiv zum Sprechen in einer anderen Sprache angeregt werden. Der Gründer erklärt gegenüber brutkasten, warum Datensicherheit dabei im Vordergrund steht.
/artikel/sprechendes-spielzeug-wiener-vater-entwickelt-plappi-zur-erlernung-von-sprachen
Nemja Klincov und seine Frau stehen in einem Frühstücksraum, beide halten ein Kind auf dem Arm.
Familienvater Nemanja Klincov entwickelt Plappi aus familiären Gründen. (c) Nemanja Klincov

Die Idee für Plappi, die KI-gestützte Sprachhilfe für Kinder, kommt dem Wiener Nemanja Klincov im Alltag. „Ich habe zwei Kinder und möchte ihnen meine Muttersprache Serbisch beibringen, meine Frau spricht Deutsch mit ihnen. Als Vater, Ehemann und Unternehmer kommt die Zeit allerdings oft zu kurz und ich merke, wie die Sprachbildung bei den Kindern leidet. Plappi entstand aus genau dieser Frustration. Nicht um mich zu ersetzen, sondern um die Zeit dazwischen zu nutzen. Damit mein Kind auch dann meine Sprache hört und übt, wenn ich gerade nicht kann.“

Klincov ist in der Gründerszene nicht neu. Durch sein erstes Startup BReact (brutkasten berichtete) erhält der Founder die KI-Expertise, die er für Plappi benötigt: „Wir haben diese ganze Expertise, zur KI und auch zur Datensicherheit, in den letzten fünf Jahren aufgebaut. Alles, was wir über BReact lernen, ist ein Grundbaustein für Plappi.  Für uns ist es extrem wichtig, dass keine Daten abfließen können und kein KI-Training betrieben wird.“

Eltern legen die Themen selbst fest

Wenn man ein Plappi-Gerät bekommt, kann man als Elternteil über eine App Lehrpläne und Themen festlegen. „Man kann beispielsweise den Namen des Lieblingstiers angeben, den Namen der besten Freunde, was im Alltag passiert, und man kann Plappi auch auf Themen sensibilisieren oder Wörter eingeben, die gelernt werden sollen. Das Gerät orientiert sich dann an dem, was die Eltern vorgegeben haben, und fordert die Kinder auch aktiv auf, zu antworten. Wir haben kein anderes Spielzeug gefunden, das Kinder proaktiv auffordert zu kommunizieren“, so Klincov.

„100 Prozent Made in Europe“

Für den Vater steht vor allem eines im Vordergrund: Der Datenschutz der Kinder. „Unser oberstes Gebot ist, ausschließlich Offline-KI-Modelle zu benutzen. Was die Kinder sagen, wird nicht für Werbung oder KI-Training genutzt. Wir haben uns auch angesehen, welches Rechenzentrum in Europa keinen amerikanischen oder chinesischen Gesellschafter dabeihat, damit alles 100 Prozent Made in Europe ist. Ich will als Vater auch nicht, dass die Daten meiner Kinder an amerikanische Konzerne abfließen“, erklärt der Founder.

Welches KI-Modell am geeignetsten ist, will Klincov gemeinsam mit 100 Eltern noch testen. Warum der Founder sich sicher ist, dass Kinder überhaupt mit KI-Spielzeugen interagieren sollten, erzählt er im Interview: „An Silvester waren wir bei Freunden. Als ich gesehen habe, wie sechs kleine Kinder von zwei bis fünf Jahren mit einer Alexa gesprochen und interagiert haben, war für mich klar: Das wird funktionieren, auch ohne Display oder Screen.“

Plappi soll es in dieser Ausführung für Kinder und ein anderes Modell für Jugendliche geben. (c) Plappi

Bereits 120 Menschen auf der Warteliste

Wenn Plappi auf den Markt kommt, soll es 90 Euro kosten und auf einem Abomodell für 9,90 Euro pro Monat basieren. Die Lernenden bekommen dann jeden Monat neue Lehrpläne erstellt, „denn Plappi versteht ja, welche Vokabeln die Kinder schon können und welche Wörter gut gelernt worden sind. Und deshalb ist es notwendig, dass es ein Abomodell ist, weil diese Lehrpläne angepasst werden. Und je nach Alter und Kind wird es dann mitwachsen“.

Klincov wartet zurzeit auf Förderungsgenehmigungen, für 2027 sei der Markteintritt geplant. Auf der Warteliste stehen derzeit 120 Menschen. Eine Crowdfunding-Kampagne auf der Plattform Kickstarter wird am 24. Juni gelauncht.

Zukunftspläne

„Mein Wunsch ist wirklich, dass meine Kinder fließend meine Sprache sprechen können. Ich hoffe, dass Plappi eines Tages ein Must-have in jedem Haushalt mit Kindern ist. Wir sehen einfach ein Riesenmarktpotenzial, wenn allein schon wegen des Unterrichtsfachs Englisch 95 Prozent der Kinder zur Zielgruppe werden“, blickt der Founder in die Zukunft. Das Ziel sei, dass auf lange Sicht nicht nur Kinder mit Migrationsbiografie Plappi nutzen. 

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da