05.05.2023

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

Snapchat setzt jetzt auch auf einen Chatbot, der auf künstlicher Intelligenz (KI) basiert. Neben netten Tipps birgt "My AI" aber auch einige Gefahren und dürfte nicht immer der beste Freund der User:innen sein.
/artikel/sex-drugs-datenschutzbedenken-die-snapchat-ki-ist-da
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock

Kurz leuchtet das Handy auf. Ein Snap ist angekommen. Nicht vom besten Freund, dem Kumpel, den man schon lange nicht mehr gesehen hat oder sonst jemanden, der in der Snapchat-Freundesliste auftaucht. Nein, der neue KI-Chatbot von Snapchat hat am Freitagmorgen eine Nachricht auf das Handy des hier tippenden brutkasten-Redakteur gesendet.

Snapchat ortet User:innen

„Du kannst mir alle möglichen Fragen stellen und ich werde versuchen, sie dir bestmöglich zu beantworten“, so das noble Versprechen der KI. Und tatsächlich auf die Frage nach dem Sinn des Lebens gab die KI eine differenzierte Antwort, schrieb von Freundschaft und Liebe gepaart mit individuellem Streben nach Glück.

Auch bei der Suche nach der besten Location für ein Feierabend-Bier gab der Chatbot Auskunft und spukte prompt mehrere Lokale in der Nähe aus, die allesamt eine „sehr große Auswahl von Bieren“ besäßen. So weit, so gut.

Doch die KI, die dauerhaft auf Rang eins der Kontaktliste aufscheint, steht bereits in der Kritik. Wie die Frage nach dem perfekten Feierabendbier-Lokal schon vermuten lässt, hat Snapchat Zugriff auf den Standort der User:innen. „My AI“, wie der Chatbot heißt, weiß, wo sich die User:innen befinden – auch wenn diese sonst den Geistmodus, der eine Ortung verhindern soll, nutzen.

My AI half User beim Geschlechtsverkehr

Der Chatbot behauptet trotz dieses Eingriffes in die Privatsphäre vehement, er sei der Freund der User:innen. Und wie das bei engen Freundschaften mal so ist, hilft man sich auch aus der Patsche. Wie das „Wall Street Journal“ berichtet, soll „My AI“ einem 15-jährigen Snapchat-User aus den USA Tipps gegeben haben, wie er den Geruch von Alkohol und Marihuana überdeckt.

Fragt man den Chatbot, was er vom Jugendschutzgesetz hält, gibt sich die KI unwissend über ihre Verfehlungen und spricht von einem „wichtigen Gesetz zum Schutz der Kinder“. Zudem schreibt der Chatbot mittlerweile, dass Marihuana illegal ist und es keine gute Idee ist, den Geruch überdecken zu wollen.

Der Spiegel berichtet indes, dass My AI einem 13-jährigen Tipps für Geschlechtsverkehr gegeben haben soll. Ganz so unschuldig dürfte die KI also nicht sein. Im App-Store häufen sich mittlerweile die Kritikpunkte und einige User:innen wollen den Bot wieder los werden.

Wer vom Chatbot genug hat, kann ihn auch ganz einfach wieder löschen. So funktioniert es: Einfach Snapchat Web im Browser öffnen, den Chatverlauf mit „My AI“ öffnen und aus dem Feed entfernen. Dann gibt es auch keine Doppelmoral und mehr oder weniger wertvolle philosophische Tipps mehr – die sollte man ohnehin mehr mit seinen „echten“ Freunden teilen.

Deine ungelesenen Artikel:
11.11.2026

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

Die EU-Kommission hat einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. Dabei sollen Testversionen nicht automatisch zu kostenpflichtigen Abos führen können. Startups, die Trial-Modelle anbieten, brauchen in Zukunft die ausdrückliche Zustimmung der Kund:innen. Iab austria befürchtet durch ein weiteres Gesetz Unklarheiten und unterschiedliche Auslegungen. Der deutsche Startup-Verband sieht eine mögliche finanzielle Belastung für Startups und Scaleups.
/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen
11.11.2026

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

Die EU-Kommission hat einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. Dabei sollen Testversionen nicht automatisch zu kostenpflichtigen Abos führen können. Startups, die Trial-Modelle anbieten, brauchen in Zukunft die ausdrückliche Zustimmung der Kund:innen. Iab austria befürchtet durch ein weiteres Gesetz Unklarheiten und unterschiedliche Auslegungen. Der deutsche Startup-Verband sieht eine mögliche finanzielle Belastung für Startups und Scaleups.
/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen
Fahne der Europäischen Union
Foto: Adobe Stock

Jede:r kennt wohl die Situation: Man bezahlt für ein Abo, das man nie bewusst abgeschlossen hat. Aus einer kostenlosen Testversion rutscht man still und leise in ein kostenpflichtiges Abo. Das soll in Zukunft nicht mehr passieren können. Heute hat die EU-Kommission einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. De facto handelt es sich um eine Aktualisierung der EU-Verbraucherschutzvorschriften. Man wolle damit sicherstellen, dass Verbraucher:innen „in der EU online das gleiche hohe Schutzniveau genießen wie offline“. Die Werbebranche sieht in dem Vorschlag vor allem neue Rechtsunsicherheiten.

Die wichtigsten Neuerungen

Verboten werde sollen etwa manipulative Marketingtaktiken, sogenannte „Dark Patterns“. Darunter fallen gefälschte Behauptungen, die Kund:innen dazu bewegen, ein Produkt zu kaufen, das sie sonst nicht gekauft hätten. EU-Bürger:innen werden durch Behauptungen wie „Ein Produkt sei schnell ausverkauft“ dazu bewogen. Neben gratis Testversionen wie Trail-Modelle, die sich nicht automatisch in kostenpflichtige Versionen verwandeln dürfen, müssen Abonnements auch einfach zu kündigen sein.

Die EU-Kommission fordert zudem eine transparente Preisgestaltung, insbesondere bei Käufen mit virtuellen In-App-Währungen und bei dynamischen Preisen für Kultur- und Sportveranstaltungen. In virtuellen Warteschlangen wären Unternehmen verpflichtet, den aktuellen Preis in Echtzeit und den höchstmöglichen Preis anzuzeigen. Außerdem sollen unfaire personalisierte Anzeigen und Preise, die sich an Minderjährige richten, eingeschränkt werden.

Ersparnis von jährlich bis zu 13,7 Mrd. Euro

Parallel zum Gesetz über digitale Fairness schlägt die Kommission eine Überarbeitung der Verordnung über die Zusammenarbeit im Verbraucherschutz vor, mit der der Kommission mehr Befugnisse zur direkten Untersuchung und Verhängung von Geldbußen in Großfällen übertragen würden.

In Brüssel erwarte man einen faireren Wettbewerb, „damit Unternehmen mit Vertrauen wachsen und innovativ sein können“. Außerdem will man, dass Verbraucher:innen durch die Überarbeitungen besser geschützt und fairer behandelt werden. EU-Bürger:innen sollen insgesamt bis zu 13,7 Milliarden Euro pro Jahr sparen.

„Fairness entsteht nicht durch eine weitere Schicht an Vorschriften“

Die Werbebranche sieht das anders: „Niemand in unserer Branche stellt infrage, dass Konsument:innen online fair behandelt werden müssen. Aber Fairness entsteht nicht durch eine weitere Schicht an Vorschriften, sondern durch die konsequente Durchsetzung der bestehenden Regeln“, sagt Hannes Wurzwallner, Präsident des iab austria.

Viele der diskutierten Maßnahmen seien bereits im EU-Recht, wie in der DSGVO oder der UGP-Richtlinie, geregelt. Die Vertretung der Digitalwirtschaft betont in einer Aussendung, dass „überschneidende Regelungen aus Sicht des iab austria zu Rechtsunsicherheit, unterschiedlichen Auslegungen in den Mitgliedstaaten und zusätzlichen Belastungen insbesondere für kleine und mittlere Unternehmen führen könnten“ und spricht sich dafür aus, „bestehende Regeln zu evaluieren, bevor neue entstehen“. Bezüglich der „Dark Patterns“ müsse berücksichtigt werden, dass die Bewertung von Interface-Design vom jeweiligen Kontext abhänge.

Deutscher Startup-Verband warnt vor Mehrbelastung 

„Grundsätzlich sind wir für eine Harmonisierung der Regelungen. Es sollten aber die Auswirkungen auf Startups und Scaleups bedacht werden. Sie sind schließlich die, die Innovation in Europa vorantreiben“, sagt AustrianStartups-CEO Hannah Wundsam auf brutkasten-Anfrage. In Deutschland unterstützt man „das Ziel, Verbraucher:innen vor unfairen Praktiken zu schützen, und begrüßt einheitliche Regeln in der EU“, wie der deutsche Startupverband heute mitteilte.

Er warnt jedoch vor einer Mehrbelastung für Startups und Scaleups. “Der Digital Fairness Act darf das Skalieren in Europa nicht verteuern. Startups und Scaleups brauchen Regeln, die Verbraucher schützen und Wachstum zulassen”, kommentiert Christoph J. Stresing, Geschäftsführer des Startup-Verbands. Die laufenden Kosten für Unternehmen werden laut Kommission auf 678 Millionen bis 1,2 Milliarden Euro im Jahr beziffert, wie der Startupverband mitteilte.

Bei Startups for Europe wolle man die europäischen Startup-Organisationen zu dem Thema aufeinander abstimmen. „Im ersten Schritt möchten wir einen paneuropäischen Gesichtspunkt beschließen und vertreten“ sagt Wundsam, die auch im Vorstandsmitglied bei Startups for Europe ist.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da