02.09.2022

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

Wo viele Menschen sind, finden sich auch viele Betrüger:innen. In der Video-Dating App filteroff werden diese gnadenlos veräppelt.
/artikel/filteroff-dating-app-scammer-falle
App filteroff Dating
(c) Priscilla Du Preez via Unsplash

„Das erste Mal, dass ich bemerkte, dass es ein Problem gab, war, als ich sah, dass George Clooney sich einen Account bei uns gemacht hat. Ich dachte: ‚Heilige Scheiße, das ist verrückt, ich kann es nicht glauben…‘, aber dann habe ich mir sein Profil genauer angesehen“, erzählt Brian Weinreich, Head of Product beim US-Startup filteroff, das eine Video-Speed-Dating-App betreibt, dem Magazin TechCrunch. Clooney stellte sich als ein 34-Jähriger aus Lagos in Nigeria heraus. Er habe das Profil daraufhin gelöscht, sagt Weinreich. Doch es seien ihm noch viel mehr Accounts aufgefallen, die zunächst wie echte Menschen aussahen, aber bei denen zu vieles nicht zusammenpasste. Und diese Fake-Profile versuchten mit verschiedenen Betrugs-Maschen, User:innen ihr Geld aus der Tasche zu ziehen.

Für jedes gelöschte Scam-Profil kamen fünf neue

Das Product-Team entwickelte daraufhin einen Algorithmus, der die Betrüger-Accounts anhand verschiedener Parameter automatisch erkannte. Doch diese zu löschen, habe nichts gebracht, sagt der filteroff-Manager. Denn für jedes gelöschte Fake-Profil seien fünf neue gekommen. Man habe sich daher für einen anderen Weg entschieden. „Ich dachte mir, dass wir eine Möglichkeit brauchen, um Betrüger:innen loszuwerden, aber es musste so sein, dass sie nicht einfach zurückkommen konnten“, erzählt Weinreich. „Ich erinnerte mich daran, dass es auf Reddit und anderen Plattformen ein ‚Shadow Banning“ gibt, bei dem die Nutzer:innen weiterhin Beiträge schreiben können, aber normale User:innen ihre Inhalte nicht sehen“.

„Die Betrüger:innen treffen auf andere Betrüger:innen und versuchen, sich gegenseitig zu betrügen“

Das filteroff Team erstellte daraufhin eigene Fake-Profile mit Deep Learning-basierten Chatbots. Vom Algorithmus erkannte Fake-Profile kommen nun in einen separaten bereich, wo sie nur auf andere Betrüger:innen oder die unternehmenseigenen Chatbot-Accounts treffen. „Die Betrüger:innen treffen auf Bots, aber sie treffen auch auf andere Betrüger:innen und versuchen, sich gegenseitig zu betrügen“, so Weinreich. „Sie sagen: ‚Ich will 40 Dollar für einen Google Play-Geschenkgutschein‘, und der andere Scammer antwortet: ‚Nein, nein, du gibst mir einen Geschenkgutschein‘, und sie streiten sich weiter“.

Scammer beschweren sich bei filteroff

In der filteroff-App gebe es derzeit mehr als 1.000 Betrüger:innen, die aktiv nur mit Bots sprechen und so den echten Nutzer:innen nicht zur Last fielen. Und die würden sich teilweise sogar beschweren, erzählt der Head of Product: „Das Lustigste an unserer Meldefunktion ist die Anzahl der Meldungen, die ich von Betrüger:innen erhalte, die berichten, dass sie mit einem Bot sprechen. Ich denke mir dann: ‚Ja, ich weiß, darum geht es ja'“.

Deine ungelesenen Artikel:
10.08.2026

Junge Entwickler:innen wollen mehr KI nutzen, als Unternehmen erlauben

Eine Befragung unter 1.119 jungen Entwickler:innen zeigt: Fast alle nutzen KI, doch zwei Drittel klagen über organisatorische Bremsen in Unternehmen. Während regulatorische Vorgaben den Einsatz einschränken, warnt der IT-Dienstleister Cloudflight vor den Gefahren von Schatten-IT und dem Abbau von Junior-Stellen.
/artikel/junge-entwicklerinnen-wollen-mehr-ki-nutzen-als-unternehmen-erlauben
10.08.2026

Junge Entwickler:innen wollen mehr KI nutzen, als Unternehmen erlauben

Eine Befragung unter 1.119 jungen Entwickler:innen zeigt: Fast alle nutzen KI, doch zwei Drittel klagen über organisatorische Bremsen in Unternehmen. Während regulatorische Vorgaben den Einsatz einschränken, warnt der IT-Dienstleister Cloudflight vor den Gefahren von Schatten-IT und dem Abbau von Junior-Stellen.
/artikel/junge-entwicklerinnen-wollen-mehr-ki-nutzen-als-unternehmen-erlauben
Junior Developer
(c) True Agency via Unsplash

„Wer glaubt, mit Künstlicher Intelligenz ließen sich Einstiegspositionen einfach streichen, verwechselt das Werkzeug mit der Person, die es sinnvoll einsetzt“, warnt André Holhozinskyj, CEO der europäischen Cloudflight Group. Die Warnung des Branchenexperten stützt sich auf eine aktuelle Befragung, die das Unternehmen durchgeführt hat. Unter den 1.119 Teilnehmenden – mehrheitlich Studierende und Berufseinsteiger:innen aus Deutschland, Österreich und Rumänien – zeigt sich eine weite Verbreitung, aber auch eine spürbare Reglementierung von KI-Tools im Arbeitsalltag.

Während 99 Prozent der befragten Nachwuchskräfte angeben, KI-Werkzeuge regelmäßig zu nutzen, stoßen sie in der Praxis häufig an organisatorische Grenzen. Rund zwei Drittel der Befragten berichten von Einschränkungen bei der Nutzung, die überwiegend organisatorischer Natur sind. Als Haupthindernis nennen 46 Prozent regulatorische Vorgaben wie Richtlinien von Schulen, Universitäten oder Unternehmen. Weit dahinter folgen Kosten und Lizenzgebühren mit 24 Prozent sowie ethische, rechtliche und datenschutzrechtliche Bedenken mit 23 Prozent. Mangelndes Interesse spielt mit nur zwei Prozent praktisch keine Rolle.

Risiko durch Schatten-IT und Compliance-Verstöße

Die restriktive Haltung in vielen Organisationen birgt nach Einschätzung der Studienautor:innen jedoch Risiken: Wird die Nutzung im Unternehmen untersagt oder komplett eingeschränkt, weichen Mitarbeiter:innen häufig auf private Geräte und nicht freigegebene Consumer-Tools aus – ohne Wissen oder Zustimmung der IT-Abteilung.

Gernot Molin, CTO der Cloudflight Group, warnt vor den unmittelbaren Gefahren für die Datensicherheit: „Tools wie ChatGPT, Gemini oder Claude sind nicht für Unternehmenssicherheit oder Compliance konzipiert, sondern für einfachen Zugang, und das schafft unmittelbare Risiken.“ So könnten etwa proprietäre Algorithmen durch das Einfügen von Code-Schnipseln abfließen, oder Entwickler:innen könnten unbeabsichtigt Kundendaten bei der Analyse von Log-Dateien offenlegen. Unternehmen, die an Richtlinien wie DSGVO, HIPAA oder SOC 2 gebunden sind, riskieren laut Molin bei der Verwendung nicht autorisierter Dienste empfindliche Verstöße. Er plädiert daher für eine kontrollierte Freigabe von KI-Werkzeugen, die direkt in bestehende Entwicklungsumgebungen integriert und durch Sicherheitskontrollen sowie Audit-Trails abgesichert sind.

Vielseitige Nutzung abseits von reinem Code

Die Befragung räumt zudem mit dem Vorurteil auf, KI diene primär dem Schreiben von neuem Programmcode. Der Einsatz zur reinen Code-Generierung liegt bei 18 Prozent und ist damit fast gleichauf mit dem Debugging und Code-Reviews (19 Prozent), administrativen und organisatorischen Aufgaben wie Recherche (19 Prozent) sowie der Code-Optimierung (17 Prozent). Dokumentation (12 Prozent) und Testautomatisierung (10 Prozent) folgen mit etwas Abstand.

Den größten Nutzen sehen die Befragten in der Entlastung bei Routinearbeiten. Fast jede:r Zweite (48 Prozent) nutzt KI vor allem zur Bewältigung repetitiver, zeitaufwändiger Aufgaben wie dem Erstellen von Boilerplate-Code oder dem automatisierten Organisieren von Daten. Ziel sei es, so heißt es aus den offenen Antworten der Teilnehmenden, sich dank der KI auf die interessanten Teile der Arbeit konzentrieren zu können. Zudem schätzen 42 Prozent die Tools als eine Art rund um die Uhr verfügbaren Tutor, der komplexe Konzepte erklären kann. Dieser Effekt könnte nach Einschätzung der Studienautoren vor allem in Regionen mit schwächerer Bildungsinfrastruktur den Zugang zu hochwertiger Programmierausbildung demokratisieren.

Zukunftssorgen und die Rolle der Nachwuchskräfte

Trotz der intensiven Nutzung blickt die junge Generation keineswegs sorgenfrei in die Zukunft. Lediglich 12 Prozent der Befragten geben an, keinerlei Sorge hinsichtlich der Auswirkungen von KI auf ihre eigene Karriere zu haben. Die überwiegende Mehrheit von 88 Prozent äußert leichte bis extreme Besorgnis. Neben der allgemeinen Karriereentwicklung sorgt sich ein Teil der Entwickler:innen auch um den eigenen Lernfortschritt: Es besteht die Befürchtung, durch eine zu starke Abhängigkeit von der KI das eigene Weiterkommen zu bremsen und durch die automatisierten Lösungen „dümmer“ zu werden. Viele wünschen sich daher Erklärungen anstelle von fertigen Antworten.

Für Cloudflight-CEO Holhozinskyj zeigt die Untersuchung, dass Unternehmen umdenken müssen. Künstliche Intelligenz müsse wie eine „virtuelle Mitarbeiterin“ verstanden werden, die ein geregeltes Onboarding benötigt. Wer Juniorstellen aus Gründen der kurzfristigen Kostenersparnis streicht, begehe laut Holhozinskyj einen strategischen Fehler: „Urteilsvermögen entsteht nicht am Reißbrett, sondern über Jahre praktischer Erfahrung, auch aus eigenen Fehlern, und genau diese Erfahrung bauen Unternehmen gerade systematisch ab, wenn sie ihre Juniorstellen kürzen.“ Langfristig drohe den Unternehmen dadurch der Verlust der „Senior-Kompetenz von morgen“ an die Konkurrenz, was sich schnell zum mittelfristigen Wettbewerbsnachteil entwickeln könne.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle