05.05.2023

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

Snapchat setzt jetzt auch auf einen Chatbot, der auf künstlicher Intelligenz (KI) basiert. Neben netten Tipps birgt "My AI" aber auch einige Gefahren und dürfte nicht immer der beste Freund der User:innen sein.
/artikel/sex-drugs-datenschutzbedenken-die-snapchat-ki-ist-da
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock
Snapchat hat jetzt auch einen Chatbot. (C) AdobeStock

Kurz leuchtet das Handy auf. Ein Snap ist angekommen. Nicht vom besten Freund, dem Kumpel, den man schon lange nicht mehr gesehen hat oder sonst jemanden, der in der Snapchat-Freundesliste auftaucht. Nein, der neue KI-Chatbot von Snapchat hat am Freitagmorgen eine Nachricht auf das Handy des hier tippenden brutkasten-Redakteur gesendet.

Snapchat ortet User:innen

„Du kannst mir alle möglichen Fragen stellen und ich werde versuchen, sie dir bestmöglich zu beantworten“, so das noble Versprechen der KI. Und tatsächlich auf die Frage nach dem Sinn des Lebens gab die KI eine differenzierte Antwort, schrieb von Freundschaft und Liebe gepaart mit individuellem Streben nach Glück.

Auch bei der Suche nach der besten Location für ein Feierabend-Bier gab der Chatbot Auskunft und spukte prompt mehrere Lokale in der Nähe aus, die allesamt eine „sehr große Auswahl von Bieren“ besäßen. So weit, so gut.

Doch die KI, die dauerhaft auf Rang eins der Kontaktliste aufscheint, steht bereits in der Kritik. Wie die Frage nach dem perfekten Feierabendbier-Lokal schon vermuten lässt, hat Snapchat Zugriff auf den Standort der User:innen. „My AI“, wie der Chatbot heißt, weiß, wo sich die User:innen befinden – auch wenn diese sonst den Geistmodus, der eine Ortung verhindern soll, nutzen.

My AI half User beim Geschlechtsverkehr

Der Chatbot behauptet trotz dieses Eingriffes in die Privatsphäre vehement, er sei der Freund der User:innen. Und wie das bei engen Freundschaften mal so ist, hilft man sich auch aus der Patsche. Wie das „Wall Street Journal“ berichtet, soll „My AI“ einem 15-jährigen Snapchat-User aus den USA Tipps gegeben haben, wie er den Geruch von Alkohol und Marihuana überdeckt.

Fragt man den Chatbot, was er vom Jugendschutzgesetz hält, gibt sich die KI unwissend über ihre Verfehlungen und spricht von einem „wichtigen Gesetz zum Schutz der Kinder“. Zudem schreibt der Chatbot mittlerweile, dass Marihuana illegal ist und es keine gute Idee ist, den Geruch überdecken zu wollen.

Der Spiegel berichtet indes, dass My AI einem 13-jährigen Tipps für Geschlechtsverkehr gegeben haben soll. Ganz so unschuldig dürfte die KI also nicht sein. Im App-Store häufen sich mittlerweile die Kritikpunkte und einige User:innen wollen den Bot wieder los werden.

Wer vom Chatbot genug hat, kann ihn auch ganz einfach wieder löschen. So funktioniert es: Einfach Snapchat Web im Browser öffnen, den Chatverlauf mit „My AI“ öffnen und aus dem Feed entfernen. Dann gibt es auch keine Doppelmoral und mehr oder weniger wertvolle philosophische Tipps mehr – die sollte man ohnehin mehr mit seinen „echten“ Freunden teilen.

Deine ungelesenen Artikel:
29.09.2026

So will A1 den KI-Boom für sich nutzen

ICT ist für die A1 Group aktuell der Wachstumsmarkt schlechthin. Die große Aufgabe: KI operativ in Unternehmen zu bringen. Welche Strategien man dabei verfolgt, erklärten Group-CEO Alejandro Plater und Group-CTO Alexander Kuchar am Rande des "A1 ICT Summit".
/artikel/so-will-a1-den-ki-boom-fuer-sich-nutzen
29.09.2026

So will A1 den KI-Boom für sich nutzen

ICT ist für die A1 Group aktuell der Wachstumsmarkt schlechthin. Die große Aufgabe: KI operativ in Unternehmen zu bringen. Welche Strategien man dabei verfolgt, erklärten Group-CEO Alejandro Plater und Group-CTO Alexander Kuchar am Rande des "A1 ICT Summit".
/artikel/so-will-a1-den-ki-boom-fuer-sich-nutzen
A1 Group CEO Alejandro Plater und A1 Group CTO Alexander Kuchar | (c) A1 Group
A1 Group CEO Alejandro Plater und A1 Group CTO Alexander Kuchar | (c) A1 Group

„Als sich das Internet durchgesetzt hat, gab es ‚Greenfield-Unternehmen‘ wie Google, die keine Legacy hatten und etablierte Unternehmen wie Microsoft, die sich transformieren mussten. Jetzt sind wir in der gleichen Situation. Während OpenAI, Anthropic und Co. etwas komplett Neues aufbauen, müssen die bestehenden Player, wie etwa auch wir, die Transformation schaffen“, sagt Alejandro Plater, CEO der A1 Group, am Rande des A1 ICT Summit. Und er fügt an: „Microsoft ist diese Transformation damals sehr gut gelungen. Wir wollen wie Microsoft sein.“

ICT als entscheidender Wachstumsmarkt

Mehr noch als um die Herausforderungen, die KI innerhalb des Konzerns mit sich bringt, geht es für die Gruppe dabei darum, dem Markt zu liefern, was gebraucht wird. Das große Schlagwort lautet ICT mit umfassenden Cloud- und KI-basierten Angeboten für Unternehmen. Von 2021 auf 2025 wuchs der Gruppenumsatz in dem Bereich von 285 auf 573 Millionen Euro – eine durchschnittliche jährliche Wachstumsrate von 19 Prozent. Was das mit dem KI-Boom zu tun hat, bringt Plater auf den Punkt: „Wir sind groß und haben die Möglichkeiten, schnell auf alle Entwicklungen zu reagieren. Viele Unternehmen sind klein und haben diese Möglichkeiten nicht. Das ist eine große Chance für uns.“

„Souveränität heißt für uns in erster Linie: Du hast die Wahl.“

Eine Rolle spielt dabei natürlich auch das aktuell große Thema Digitale Souveränität. „Souveränität heißt für uns in erster Linie: Du hast die Wahl. Es gibt mehrere Alternativen und du kannst entscheiden“, erklärt Alexander Kuchar, CTO der A1 Group. Das trifft vor allem auf den Cloud-Bereich zu, wo man mit der Tochter Exoscale ein eigenes Angebot mit Data-Centern an zahlreichen europäischen Standorten hat, gleichzeitig aber auch Angebote der US-Hyperscaler vertreibt. „Es kommt hier immer auf die konkreten Kundenbedürfnisse an, welche Variante die sinnvollste ist“, sagt der CTO.

In Sachen KI setzt A1 dagegen primär auf Open-Source-Modelle, also einen genuin souveränen Ansatz. Dass diese technologisch nicht mit den Frontier-LLMs der US-Giganten mithalten können, sieht Kuchar wenig problematisch. Die Entwicklung verlaufe verschoben, aber parallel. „Was die Frontier-Modelle heute können, werden die Open-Source-Modelle in kurzer Zeit können“, so der CTO. Entscheidend seien die tatsächlichen Bedürfnisse der Unternehmenskunden – und hier spiele etwa auch die Abwägung zwischen Performance und Kosten eine große Rolle. Die Wahl falle daher oft bewusst auf schwächere Modelle, die den spezifischen Zweck aber – günstiger – erfüllen.

Strategie: Leute vor Ort

CEO Plater sieht das Thema aus der Vogelperspektive: „Es geht nicht primär um die Technologie. Es geht um das Leadership in den Unternehmen.“ Entscheidend sei, wie die Technologie operativ ankomme und es gelinge, die ganze Organisation mitzunehmen. A1 setzt dabei auf Präsenz in seinen Märkten. „Es ist überraschend, wie unterschiedlich unsere Märkte sind. Wenn ein US-Player kommt, und den Unternehmen erklären will, wie sie ihr Business zu führen haben, wird das nicht funktionieren“, sagt Alexander Kuchar. Und Plater ergänzt: „Das ist unsere Strategie: Wir haben Leute vor Ort, die die Sprache sprechen. Wir haben Callcenter und Techniker, die zu einem kommen. Bei den Hyperscalern erreichst du niemanden.“

Dass die besagten Callcenter schon in absehbarer Zeit nicht mehr mit Menschen, sondern mit KI-Agenten besetzt sein werden, ist für den CEO gleichzeitig eine Selbstverständlichkeit: „Die KI passt sich sogar an den spezifischen Dialekt der Anrufenden an. Menschen können es damit nicht aufnehmen“, meint er. Und ob aber Kund:innen nicht dennoch mit echten Menschen sprechen wollen? „Man wird nicht erkennen, dass es eine KI ist“, so Plater, „bloß, wenn die Regulatorik vorschreibt, das schon bei Gesprächsbeginn kenntlich zu machen.“

Generell sei die Regulatorik auch etwas, das ihn beschäftige, sagt der CEO, konkret die Unterschiede zwischen den Ländern bzw. den Großregionen: „So viel ist klar: Die weniger regulierten bewegen sich schneller – im Positiven wie im Negativen – und die stärker regulierten bewegen sich langsamer – im Positiven wie im Negativen.“

„Je weniger Systeme, Tools und Prozesse man hat, desto einfacher ist es zu kontrollieren.“

Ein großes damit verbundenes Thema ist die Sicherheit. „Wir arbeiten mit mehreren Strategien daran, die Cyber-Security stetig zu verbessern“, sagt dazu Plater. Erstens versuche man etwa, wo es gehe, zu vereinfachen. „Je weniger Systeme, Tools und Prozesse man hat und je simpler alles ist, desto einfacher ist es zu kontrollieren.“ Zweitens habe man eigene Teams, die ständig die neuesten Entwicklungen im Auge behielten und solche, die konstant Angriffe auf das eigene System simulieren, um Lücken zu finden. Auch hier sieht der CEO eine große Chance für die A1 Group, die CTO Kuchar benennt: „Wir bieten hier maßgeschneiderte Lösungen für KMU.“

Und wie sieht es mit den zuletzt vielfach kolportierten globalen Bedrohungsszenarien durch KI aus, die bis zur befürchteten Auslöschung der Menschheit gehen? „Ich bin nicht sehr fatalistisch bei dem Thema“, sagt Plater. Man müsse solche Szenarien schon in Perspektive setzen. „Was sind die tatsächlichen Möglichkeiten, die so drastisch sein könnten? Das ist für mich eher Science Fiction. Aber wer weiß, vielleicht irre ich mich.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sex, Drugs & Datenschutzbedenken: Die Snapchat-KI ist da