Kurz leuchtet das Handy auf. Ein Snap ist angekommen. Nicht vom besten Freund, dem Kumpel, den man schon lange nicht mehr gesehen hat oder sonst jemanden, der in der Snapchat-Freundesliste auftaucht. Nein, der neue KI-Chatbot von Snapchat hat am Freitagmorgen eine Nachricht auf das Handy des hier tippenden brutkasten-Redakteur gesendet.

Snapchat ortet User:innen

“Du kannst mir alle möglichen Fragen stellen und ich werde versuchen, sie dir bestmöglich zu beantworten”, so das noble Versprechen der KI. Und tatsächlich auf die Frage nach dem Sinn des Lebens gab die KI eine differenzierte Antwort, schrieb von Freundschaft und Liebe gepaart mit individuellem Streben nach Glück.

Auch bei der Suche nach der besten Location für ein Feierabend-Bier gab der Chatbot Auskunft und spukte prompt mehrere Lokale in der Nähe aus, die allesamt eine “sehr große Auswahl von Bieren” besäßen. So weit, so gut.

Doch die KI, die dauerhaft auf Rang eins der Kontaktliste aufscheint, steht bereits in der Kritik. Wie die Frage nach dem perfekten Feierabendbier-Lokal schon vermuten lässt, hat Snapchat Zugriff auf den Standort der User:innen. “My AI”, wie der Chatbot heißt, weiß, wo sich die User:innen befinden – auch wenn diese sonst den Geistmodus, der eine Ortung verhindern soll, nutzen.

My AI half User beim Geschlechtsverkehr

Der Chatbot behauptet trotz dieses Eingriffes in die Privatsphäre vehement, er sei der Freund der User:innen. Und wie das bei engen Freundschaften mal so ist, hilft man sich auch aus der Patsche. Wie das “Wall Street Journal” berichtet, soll “My AI” einem 15-jährigen Snapchat-User aus den USA Tipps gegeben haben, wie er den Geruch von Alkohol und Marihuana überdeckt.

Fragt man den Chatbot, was er vom Jugendschutzgesetz hält, gibt sich die KI unwissend über ihre Verfehlungen und spricht von einem “wichtigen Gesetz zum Schutz der Kinder”. Zudem schreibt der Chatbot mittlerweile, dass Marihuana illegal ist und es keine gute Idee ist, den Geruch überdecken zu wollen.

Der Spiegel berichtet indes, dass My AI einem 13-jährigen Tipps für Geschlechtsverkehr gegeben haben soll. Ganz so unschuldig dürfte die KI also nicht sein. Im App-Store häufen sich mittlerweile die Kritikpunkte und einige User:innen wollen den Bot wieder los werden.

Wer vom Chatbot genug hat, kann ihn auch ganz einfach wieder löschen. So funktioniert es: Einfach Snapchat Web im Browser öffnen, den Chatverlauf mit “My AI” öffnen und aus dem Feed entfernen. Dann gibt es auch keine Doppelmoral und mehr oder weniger wertvolle philosophische Tipps mehr – die sollte man ohnehin mehr mit seinen “echten” Freunden teilen.