02.09.2022

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

Wo viele Menschen sind, finden sich auch viele Betrüger:innen. In der Video-Dating App filteroff werden diese gnadenlos veräppelt.
/artikel/filteroff-dating-app-scammer-falle
App filteroff Dating
(c) Priscilla Du Preez via Unsplash

„Das erste Mal, dass ich bemerkte, dass es ein Problem gab, war, als ich sah, dass George Clooney sich einen Account bei uns gemacht hat. Ich dachte: ‚Heilige Scheiße, das ist verrückt, ich kann es nicht glauben…‘, aber dann habe ich mir sein Profil genauer angesehen“, erzählt Brian Weinreich, Head of Product beim US-Startup filteroff, das eine Video-Speed-Dating-App betreibt, dem Magazin TechCrunch. Clooney stellte sich als ein 34-Jähriger aus Lagos in Nigeria heraus. Er habe das Profil daraufhin gelöscht, sagt Weinreich. Doch es seien ihm noch viel mehr Accounts aufgefallen, die zunächst wie echte Menschen aussahen, aber bei denen zu vieles nicht zusammenpasste. Und diese Fake-Profile versuchten mit verschiedenen Betrugs-Maschen, User:innen ihr Geld aus der Tasche zu ziehen.

Für jedes gelöschte Scam-Profil kamen fünf neue

Das Product-Team entwickelte daraufhin einen Algorithmus, der die Betrüger-Accounts anhand verschiedener Parameter automatisch erkannte. Doch diese zu löschen, habe nichts gebracht, sagt der filteroff-Manager. Denn für jedes gelöschte Fake-Profil seien fünf neue gekommen. Man habe sich daher für einen anderen Weg entschieden. „Ich dachte mir, dass wir eine Möglichkeit brauchen, um Betrüger:innen loszuwerden, aber es musste so sein, dass sie nicht einfach zurückkommen konnten“, erzählt Weinreich. „Ich erinnerte mich daran, dass es auf Reddit und anderen Plattformen ein ‚Shadow Banning“ gibt, bei dem die Nutzer:innen weiterhin Beiträge schreiben können, aber normale User:innen ihre Inhalte nicht sehen“.

„Die Betrüger:innen treffen auf andere Betrüger:innen und versuchen, sich gegenseitig zu betrügen“

Das filteroff Team erstellte daraufhin eigene Fake-Profile mit Deep Learning-basierten Chatbots. Vom Algorithmus erkannte Fake-Profile kommen nun in einen separaten bereich, wo sie nur auf andere Betrüger:innen oder die unternehmenseigenen Chatbot-Accounts treffen. „Die Betrüger:innen treffen auf Bots, aber sie treffen auch auf andere Betrüger:innen und versuchen, sich gegenseitig zu betrügen“, so Weinreich. „Sie sagen: ‚Ich will 40 Dollar für einen Google Play-Geschenkgutschein‘, und der andere Scammer antwortet: ‚Nein, nein, du gibst mir einen Geschenkgutschein‘, und sie streiten sich weiter“.

Scammer beschweren sich bei filteroff

In der filteroff-App gebe es derzeit mehr als 1.000 Betrüger:innen, die aktiv nur mit Bots sprechen und so den echten Nutzer:innen nicht zur Last fielen. Und die würden sich teilweise sogar beschweren, erzählt der Head of Product: „Das Lustigste an unserer Meldefunktion ist die Anzahl der Meldungen, die ich von Betrüger:innen erhalte, die berichten, dass sie mit einem Bot sprechen. Ich denke mir dann: ‚Ja, ich weiß, darum geht es ja'“.

Deine ungelesenen Artikel:
01.10.2026

Maßanzug für Roboter: Wie Cybershell mit einer Außenschicht Humanoide salonfähig machen will

Humanoide Roboter werden laut Gründer Mario Curvelo Carvalho durch Cybershell Einzug in die Industrie erhalten. Die vom Startup entwickelte Außenhaut soll vor Einflüssen wie Hitze, Chemikalien oder Schlägen schützen.
/artikel/massanzug-fuer-roboter-wie-cybershell-mit-einer-aussenschicht-humanoide-salonfaehig-machen-will
01.10.2026

Maßanzug für Roboter: Wie Cybershell mit einer Außenschicht Humanoide salonfähig machen will

Humanoide Roboter werden laut Gründer Mario Curvelo Carvalho durch Cybershell Einzug in die Industrie erhalten. Die vom Startup entwickelte Außenhaut soll vor Einflüssen wie Hitze, Chemikalien oder Schlägen schützen.
/artikel/massanzug-fuer-roboter-wie-cybershell-mit-einer-aussenschicht-humanoide-salonfaehig-machen-will
Cyberhsell-CEO Mario Curvelo Carvalho | (c) Cybershell Technologies

Es ist das Zukunftsszenario schlechthin: Menschenleere Produktionshallen, gefüllt mit humanoiden Robotern, die unermüdlich arbeiten. Cybershell arbeitet daran, dass diese Vision einmal Realität wird. Das Deeptech-Startup entwickelt eine Außenschicht für humanoide Industrieroboter, die sie im Arbeitsalltag vor externen Einflüssen wie extremer Hitze, Stößen oder Chemikalien schützen soll. „Aktuell schauen die Roboter nicht so aus, als könnten sie z. B. neben einem Hochofen arbeiten“, sagt Gründer Mario Curvelo Carvalho. Cybershell soll das nun ändern. Die Idee wurde zuletzt beim Riz-up-Preis des Landes Niederösterreich in der Kategorie „Innovativ genial“ mit dem ersten Platz ausgezeichnet (brutkasten berichtete).

Cybershell ist ein „First of a kind“

Laut Curvelo Carvalho gibt es ein Produkt wie Cybershell noch nicht auf dem Markt. „Cybershell ist ein First of a Kind. Es gibt Hersteller, die Abdeckungen und so für Roboter machen. Aber es gibt unseres Wissens nach noch keinen Hersteller, der das im humanoiden Bereich macht“, sagt der Niederösterreicher. Dementsprechend schwierig seien manche Schritte für Cybershell, da es noch keine Referenzbeispiele gebe. „Ich komme mir manchmal vor wie wenn ich vor einem Dschungel mit einer Planierraupe stehe und mir dort erst meinen Weg ebnen muss“, sagt Curvelo Carvalho.

Erstmalige Versicherung einer Flotte

Laut dem Gründer ergibt sich durch seine Technik ein entscheidender Vorteil: Durch Schadensreduktion, Austauschbarkeit und standardisierte Betriebs- und Wartungsdaten gebe es eine bessere Grundlage für die Versicherbarkeit von humanoiden Robotern. „Die Versicherung hat das erste Mal die Möglichkeit, auf Daten zurückzugreifen und damit zu arbeiten. Damit können Versicherer Risiken, Schadenwahrscheinlichkeiten und mögliche Prämiengrundlagen besser bewerten“, erklärt der Founder und ergänzt: „Die Versicherungen sagen aktuell ‚Wir haben keine Werte, wir können hier nicht berechnen, wie hoch die Ausfallsrate ist und wie viel Schaden da wirklich auf uns zukommt.“ Doch bevor eine Flotte versichert werden kann, braucht Cybershell die notwendigen Zertifikate. An diesen werde gerade gearbeitet.

Modularer Aufbau

Das Startup setzt auf einen modularen Aufbau. Die Protektoren für z. B. Schultern, Arme und Beine sind getrennt abnehmbar und greifen nicht in Antrieb, Steuerungssoftware oder Sicherheitslogistik ein. „Es geht darum, die Downtime zu reduzieren. Wenn ein Roboter beschädigt wurde, dann wollen wir nicht, dass der ganze Roboter getauscht wird. Es soll einfach das beschädigte Modul werkzeuglos abgenommen werden und das neue Modul eingesetzt werden und nach 20 Minuten soll die Downtime vorbei sein“, erklärt Curvelo Carvalho. Die Außenschicht besteht aus fünf Layern, wobei jeder eine eigene Funktion hat und unterschiedlich anpassbar ist, je nachdem, wo der Roboter zum Einsatz kommt.

Das Patent als nächster Milestone

Das Unternehmen befindet sich aktuell noch vor der Gründungsphase und ist gebootstrappt. Gründen und die Suche nach Investoren machen laut Curvelo Carvalho erst dann Sinn, wenn die Firma das entsprechende Patent habe. Dafür müsse zuvor noch die Firma gegründet werden. Es läuft somit alles auf das Patent hinaus, noch im Herbst soll der Antrag gestellt werden. Förderungen hat Cybershell noch keine erhalten, jedoch hat das Startup bereits einen FFG-Patenscheck, also einen ersten Schritt in Richtung FFG-Förderung.

Eine Auswanderung in die USA stellt für Curvelo Carvalho aktuell keine Option dar. In Europa dauert zwar der Aufbau eines Unternehmens länger als in den USA, doch Cybershell habe hierzulande alles, was es für den Aufbau benötige. „Wir können hier vom Ökosystem, von den Inkubatoren und von den Förderungen profitieren. Cybershell muss ein niederösterreichisches Unternehmen werden. Das steht ganz groß auf unserer Flagge drauf“, sagt Curvelo Carvalho.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

filteroff: Bei dieser Dating-App tappen Betrüger in eine sehr komische Falle