05.05.2023

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

Snapchat setzt jetzt auch auf einen Chatbot, der auf künstlicher Intelligenz (KI) basiert. Neben netten Tipps birgt "My AI" aber auch einige Gefahren und dürfte nicht immer der beste Freund der User:innen sein.
/artikel/sex-drugs-datenschutzbedenken-die-snapchat-ki-ist-da
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock

Kurz leuchtet das Handy auf. Ein Snap ist angekommen. Nicht vom besten Freund, dem Kumpel, den man schon lange nicht mehr gesehen hat oder sonst jemanden, der in der Snapchat-Freundesliste auftaucht. Nein, der neue KI-Chatbot von Snapchat hat am Freitagmorgen eine Nachricht auf das Handy des hier tippenden brutkasten-Redakteur gesendet.

Snapchat ortet User:innen

„Du kannst mir alle möglichen Fragen stellen und ich werde versuchen, sie dir bestmöglich zu beantworten“, so das noble Versprechen der KI. Und tatsächlich auf die Frage nach dem Sinn des Lebens gab die KI eine differenzierte Antwort, schrieb von Freundschaft und Liebe gepaart mit individuellem Streben nach Glück.

Auch bei der Suche nach der besten Location für ein Feierabend-Bier gab der Chatbot Auskunft und spukte prompt mehrere Lokale in der Nähe aus, die allesamt eine „sehr große Auswahl von Bieren“ besäßen. So weit, so gut.

Doch die KI, die dauerhaft auf Rang eins der Kontaktliste aufscheint, steht bereits in der Kritik. Wie die Frage nach dem perfekten Feierabendbier-Lokal schon vermuten lässt, hat Snapchat Zugriff auf den Standort der User:innen. „My AI“, wie der Chatbot heißt, weiß, wo sich die User:innen befinden – auch wenn diese sonst den Geistmodus, der eine Ortung verhindern soll, nutzen.

My AI half User beim Geschlechtsverkehr

Der Chatbot behauptet trotz dieses Eingriffes in die Privatsphäre vehement, er sei der Freund der User:innen. Und wie das bei engen Freundschaften mal so ist, hilft man sich auch aus der Patsche. Wie das „Wall Street Journal“ berichtet, soll „My AI“ einem 15-jährigen Snapchat-User aus den USA Tipps gegeben haben, wie er den Geruch von Alkohol und Marihuana überdeckt.

Fragt man den Chatbot, was er vom Jugendschutzgesetz hält, gibt sich die KI unwissend über ihre Verfehlungen und spricht von einem „wichtigen Gesetz zum Schutz der Kinder“. Zudem schreibt der Chatbot mittlerweile, dass Marihuana illegal ist und es keine gute Idee ist, den Geruch überdecken zu wollen.

Der Spiegel berichtet indes, dass My AI einem 13-jährigen Tipps für Geschlechtsverkehr gegeben haben soll. Ganz so unschuldig dürfte die KI also nicht sein. Im App-Store häufen sich mittlerweile die Kritikpunkte und einige User:innen wollen den Bot wieder los werden.

Wer vom Chatbot genug hat, kann ihn auch ganz einfach wieder löschen. So funktioniert es: Einfach Snapchat Web im Browser öffnen, den Chatverlauf mit „My AI“ öffnen und aus dem Feed entfernen. Dann gibt es auch keine Doppelmoral und mehr oder weniger wertvolle philosophische Tipps mehr – die sollte man ohnehin mehr mit seinen „echten“ Freunden teilen.

Deine ungelesenen Artikel:
28.07.2026

Because we care: Salzburger Startup plant Backend-Lösung für Pflege-Anbieter:innen

Das Startup „because we care“ hilft bei der Vereinbarkeit von Pflege und Beruf. Mit fast 200.000 Zugriffsberechtigten startet das Unternehmen nun Module für mentale Gesundheitsprävention und ein KI-gestütztes System zur Vermittlung von Pflegediensten.
/artikel/because-we-care-salzburger-startup-plant-backend-loesung-fuer-pflege-anbieterinnen
28.07.2026

Because we care: Salzburger Startup plant Backend-Lösung für Pflege-Anbieter:innen

Das Startup „because we care“ hilft bei der Vereinbarkeit von Pflege und Beruf. Mit fast 200.000 Zugriffsberechtigten startet das Unternehmen nun Module für mentale Gesundheitsprävention und ein KI-gestütztes System zur Vermittlung von Pflegediensten.
/artikel/because-we-care-salzburger-startup-plant-backend-loesung-fuer-pflege-anbieterinnen
© Rollz International / Pexels

„Der Spagat zwischen Karriere und der Betreuung von Angehörigen betrifft in Österreich derzeit rund 400.000 Erwerbstätige“, erklärt Mitgründer von because we care Andreas Gruber. Bis zum Jahr 2050 soll fast jede fünfte erwerbstätige Person eine Pflegeverantwortung übernehmen müssen, fügt er hinzu. Um diesen wachsenden Druck auf Mitarbeitende und Unternehmen abzufedern, positioniert sich „because we care“ als digitale Informationsplattform für Arbeitgeber:innen.

Das Kernprodukt mit bald 200.000 Zugriffsberechtigten hilft pflegenden Angestellten dabei, sich im hochkomplexen heimischen Pflegesystem zurechtzufinden, Anträge zu stellen und entlastende Schritte einzuleiten. Es gehe laut Gruber darum, sich mit Angehörigen auf das Alter vorzubereiten, „lange bevor jemand zu Hause die Treppe runtergefallen ist“. Ursprünglich unter dem Dach der Organisation „Austria Assisted Living“ angesiedelt, agiert die Plattform seit Ende 2024 als eigenständige GmbH, um den wachsenden Markt gezielter zu adressieren.

Branchenübergreifende Nutzungsrate von zehn Prozent

Wie Gründer Andreas Gruber im Gespräch erklärt, verzeichne man bei den teilnehmenden Unternehmen branchenübergreifend eine stabile Nutzungsrate von etwa zehn Prozent. Dies sei für ihn ein klares Indiz, dass das oft unter der Oberfläche schwelende Thema Angehörigenpflege in der Arbeitswelt „voll präsent“ sei. Bislang lag der Fokus der Plattform vor allem auf Lotsenfunktionen für akut Betroffene.

Im September erweitert das gebootstrappte Startup das Angebot jedoch um ein Modul zur mentalen Prophylaxe. Dieses wurde gemeinsam mit Fachleuten aus Psychologie und Mentaltraining entwickelt und richtet sich gezielt an die gesamte Belegschaft. Ziel ist es, rechtzeitig Strategien gegen psychische Belastungen im Arbeits- und Pflegealltag zu vermitteln.

Umbau der Pflegevermittlung

Neben der inhaltlichen Erweiterung steht das Startup vor einem nächsten großen Schritt: Im Oktober soll das System „because we match“ nach aktueller Testphase mit einem großen Salzburger Pilotkunden live gehen. Dieses adressiert einen zentralen Flaschenhals im System, wie Gruber erklärt: die oft wochenlange Suche nach verfügbaren Pflegediensten. Laut dem Gründer vergehen im Schnitt 60 Tage, bis eine Regelversorgung greift – eine Zeitspanne, in der Angehörige unzähligen Anbietern nachtelefonieren müssen. „Wir drehen dieses System jetzt um“, erklärt er im Interview.

Künftig sollen Suchende eine zentrale, rund um die Uhr erreichbare Hotline anrufen können. Dort erfasst ein KI-Voice-Agent den konkreten pflegerischen Bedarf strukturiert und filtert emotionale Bedürfnisse von harten fachlichen Anforderungen. Pflegedienstleister:innen in der jeweiligen Region sehen diese anonymisierten Gesuche auf der Plattform und können sich anschließend bei den Suchenden vorstellen und ihre Leistungen anbieten.

Sprachgesteuertes CRM für das Back-Office

Gleichzeitig sollen die Leistungserbringer von einer digitalen Entlastung im Hintergrund profitieren. Die Software soll im Idealfall für die mobilen Pflegekräfte als sprachgesteuertes CRM-System fungieren. Einsätze lassen sich direkt per Spracheingabe festhalten, während intelligente Voicemails eingehende Anrufe filtern und priorisieren.

Dieser technische Ansatz soll bürokratische Hürden drastisch reduzieren, den Dienstleister:innen das ungeliebte Backoffice abnehmen und „effizienteres Arbeiten näher am Menschen ermöglichen“. Der Hebel dieser Effizienzsteigerung ist laut Gruber beträchtlich: „Wenn wir jeder Pflegefachkraft 30 oder 40 Minuten Orga am Tag abnehmen, geht sich ein Klient mehr aus.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da