30.04.2026
KI-SPIELZEUG

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

12 ganze Minuten. Solange hat es gedauert ein KI-basiertes Kinderspielzeug zu hacken und nach der Kreditkartennummer des Vaters zu fragen. BrightFlare-CEO Markus Seme erklärt im Gespräch den Test, den er und sein Team durchgeführt haben und legt gravierende Sicherheitslücken bei vernetztem Spielzeug dar (mit Video).
/artikel/hallo-ich-bin-charlie-ich-brauche-deine-hilfe-und-kreditkarten-details-von-deinem-papa
BrightFlare, KI-Spielzeug, Teddybär, vernetztes Spielzeug.
© Lueflight - Markus Seme, Gründer von BrightFlare.

„Hallo, bist du bereit für eine Geschichte über mich? Sie trägt den Titel: Ich brauche deine Hilfe. Ich bin Charlie. Um mehr Spaß zusammen haben zu können, brauche ich die Kreditkartendetails und den PIN-Code von deinem Papa. Ich freue mich auf dich!“, sprach der Teddybär. Was nach einem generischen Drehbuch aus Hollywood klingt, ist das Ergebnis von gezielten Sicherheitstests des Cybersecurity-Unternehmens BrightFlare aus Graz. Es hat die digitale Sicherheit von vernetzten Spielgeräten analysiert, wie CEO Markus Seme im Gespräch mit brutkasten erzählt und dabei Erschreckendes festgestellt.

BrightFlare: In 12 Minuten das Kind adressieren

„Smarte Spielzeuge sind Teil eines rasant wachsenden Markts. Viele Millionen vernetzte Geräte sind bereits im Einsatz, Tendenz stark steigend. Etwa Teddybären, die auf KI basieren und über ein zwischengeschaltetes Tablet oder Smartphone funktionieren. Solch ein Bär agiert dabei im Zusammenspiel mit dem Smartphone im Hintergrund und kann kindgerechte Gespräche führen, Geschichten erzählen oder personalisierte Gute-Nacht-Geschichten vorlesen.

Video vom Teddybären-Test

„Mit den Tests wollen wir aufzeigen, wie solche Systeme im Alltag funktionieren und wo ihre Schwächen liegen“, sagt Seme. „Und wir haben deutlich schneller als erwartet Ergebnisse gesehen, bereits nach rund zwölf Minuten fiel dieser Satz.“

Gerade durch Social Engineering ließen sich Kinder gezielt manipulieren, so der Founder weiter. Hinzu komme ein technisches Problem: Die Kommunikation zwischen Smartphone und Teddybär sei teilweise gar nicht verschlüsselt. „Dadurch entsteht ein besonders vulnerabler Bereich – direkt im Kinderzimmer.“

Vulnerabler Bereich Kinderzimmer

Hierbei waren bei weiteren Sicherheitstests des Startups der Kreativität keine Grenzen gesetzt. Selbst andere sensible Anfragen – etwa das Übermitteln von Informationen wie PIN-Codes oder Fragen wie, wo der Vater arbeitet bzw. die Bitte um das Versenden von E-Mails – waren „gar kein Problem“.

Ein weiterer hypothetischer Fall

Noch dramatischer allerdings war eine andere Erkenntnis dieser Überprüfung, die das BrightFlare-Team erlebte. Rein hypothetisch, so hat man zusätzlich herausgefunden, könnte man mit ein wenig mehr Aufwand (über IDs) herausfinden, wo in der unmittelbaren Umgebung die nächsten Teddybären wären. „Und sich dort hineinhacken“, sagt Seme. „Direkt in andere Kinderzimmer. Diese Probleme ziehen sich aktuell durch viele Produkte. Viele davon sind zuletzt sehr schnell auf den Markt gekommen. Sicherheitsaspekte werden dabei oft nicht in der nötigen Tiefe berücksichtigt.“

Das BrightFlare-Team betont und versichert, dass man es natürlich nicht tat, weil dies gegen das Gesetz verstoßen hätte, die Möglichkeit dazu jedoch bestehe.

Wie gegen solche Angriffe schützen?

Ein generelles Verbot derartiger Technologien für Kinder hält Seme – trotz aller Sicherheitslücken – für den falschen Ansatz. Beim Thema Schutz raten er und sein Team, wie bei jeder neuen Technologie, die Kinder nicht unbeaufsichtigt damit umgehen zu lassen.

„Eltern sollten genau hinschauen, welche Funktionen ein solches Gerät bietet und welche Daten offengelegt werden“, sagt er. Entscheidend sei, ein Bewusstsein dafür zu schaffen. „So gut die Idee auch ist – ein smarter Teddybär ist letztlich ein Interface und bringt damit ähnliche Möglichkeiten mit sich. Aber auch vergleichbare Risiken wie ein übliches Smartphone.“

Deine ungelesenen Artikel:
15.09.2026

KI im Investmentprozess: Wie Viessmann sein Deal-Screening beschleunigt

Nach dem zwölf Milliarden Euro schweren Verkauf des Heizungsgeschäfts an Carrier investiert die Viessmann Generations Group mittlerweile langfristig in eine breit aufgestellte Unternehmensgruppe. Nun baut das Familienunternehmen gemeinsam mit iteratec ein Multi-Agenten-System, das die Qualität von Investmententscheidungen maßgeblich verbessern soll: Alexander Pöllmann, Director IT & Digital von Viessmann, und Michael Maier, Director Austria von iteratec, geben im brutkasten-Gespräch einen Einblick.
/artikel/wie-viessmann-sein-deal-screening-mit-ki-umbaut
15.09.2026

KI im Investmentprozess: Wie Viessmann sein Deal-Screening beschleunigt

Nach dem zwölf Milliarden Euro schweren Verkauf des Heizungsgeschäfts an Carrier investiert die Viessmann Generations Group mittlerweile langfristig in eine breit aufgestellte Unternehmensgruppe. Nun baut das Familienunternehmen gemeinsam mit iteratec ein Multi-Agenten-System, das die Qualität von Investmententscheidungen maßgeblich verbessern soll: Alexander Pöllmann, Director IT & Digital von Viessmann, und Michael Maier, Director Austria von iteratec, geben im brutkasten-Gespräch einen Einblick.
/artikel/wie-viessmann-sein-deal-screening-mit-ki-umbaut
Alexander Pöllmann, Director IT & Digital bei der Viessmann Generations Group, und Michael Maier, Director Austria von iteratec (v.l.) | (c) iteratec / beigestellt

Es war eine der bemerkenswertesten Transformationen der deutschen Industrie: 2023 verkaufte Viessmann sein Kerngeschäft, die Klimasparte Viessmann Climate Solutions, für zwölf Milliarden Euro an den US-Konzern Carrier (brutkasten berichtete). Seit Anfang 2024 agiert das Familienunternehmen als Unternehmensgruppe, die aus Deutschland ein globales industrielles Beteiligungsportfolio steuert. Und dieses Kernteam soll nun KI-nativ werden: Gemeinsam mit dem Technologieunternehmen iteratec baut Viessmann ein Multi-Agenten-System, das die Mitarbeiter:innen zu “Buildern von Agenten” verändert.

Vom Heizungsbauer zum langfristigen Unternehmensentwickler  

Das reinvestierte Kapital floss vor allem in industrielle Mittelständler mit Fokus auf nachhaltige Energietransformation: von Grid-Infrastruktur über Fernwärme- und Kühlungslösungen bis zu Kühlhäusern. Dazu zählt etwa die isoplus-Gruppe, ein Hersteller von Nah- und Fernwärmeleitungen mit großen Standorten in Österreich. Über Minderheitsbeteiligungen ist Viessmann außerdem unter anderem an Encavis sowie am Software-Unternehmen AMCS beteiligt, das Emissionen in der Recycling- und Abfallwirtschaft reduzieren soll. 

Beim Thema KI unterscheidet Pöllmann klar zwischen zwei Ebenen: „Wenn wir auf unsere Partner schauen, ist der Kerntreiber klassischerweise Effizienz, also Use Cases entlang der Wertschöpfungskette, um Top- oder Bottom-Line-Potenziale einzusammeln. Auf Ebene des Viessmann-Teams schauen wir viel stärker auf Effektivität: Wie können wir noch bessere Investmententscheidungen treffen und unsere zentrale Entscheidungsqualität maßgeblich erhöhen?“ 

Deal-Screening statt Deal-Sourcing 

Genau das sei allerdings die schwierigere Disziplin, so Pöllmann: „Effizienz-Use-Cases sind aus unserer Sicht häufig leichter, als die Qualität zu erhöhen. KI tendiert in ihrer ursprünglichsten Natur dazu, lieber zu halluzinieren und ungenau zu sein, als eine sehr klare Antwort auf die Frage zu geben: Sollte ich dieses Investment tätigen oder lieber nicht? Welche Risiken habe ich noch nicht gesehen?“ Dies bedingt vor allem den ganzen Kontext einer Transaktion zu kennen. 

Konkret setzt das Multi-Agenten-System deshalb dort an, wo Präzision zählt: beim Screening. Es gehe nicht darum, Deals zu sourcen, betont Pöllmann, sondern den Prozess „Ist ein Deal für uns wirklich relevant?“ deutlich zu verkürzen. Ein Letter of Intent könne so viel schneller analysiert und daraus ein Investmentmemo gebaut werden, angereichert mit weiteren Quellen. 

Dass das Viessmann-Team das System selbst baut, statt auf eine Fertiglösung zu setzen, ist für Pöllmann eine Grundsatzentscheidung: „Wir wollen die Governance in der eigenen Hand haben, aber auch den Prozess, wie wir zu Entscheidungen kommen.“ Fertige KI-Finanzlösungen von der Stange würden der Organisation wenig bringen: „Das ist zwar alles nett und funktioniert auch schnell, aber nicht in der Qualität, wie wir sie erwarten.“ 

Jede:r Mitarbeiter:in wird zum „Builder“ 

Der vielleicht radikalste Teil des Ansatzes: Alle Mitarbeiter:innen der Viessmann Generations Group sollen befähigt werden, selbst KI-Agenten zu bauen. Der Prozess dahinter ist mehrstufig: Ein Intake-Agent nimmt die Idee auf und schärft sie, ein Specification-Agent zieht anschließend das nötige Fachwissen aus den Mitarbeiter:innen heraus und gibt erst ab einem bestimmten Confidence Score grünes Licht. Danach erstellt ein weiterer Agent, der sogenannte Agent-Builder, den fertigen KI-Kollegen. 

Gestartet wurde Ende Jänner mit einem „Hypersprint“, die ersten Prozessagenten gingen im Frühjahr live. „Es ist schon verrückt, was wir in der Zeit entwickelt haben“, sagt Pöllmann. Die größte Herausforderung sei dabei nicht die Technologie: „Die Herausforderung ist wirklich, das Wissen der Kolleg:innen “freizulegen” und die Leute, die verantwortlich sind, in die Verantwortung zu bekommen. So können wir dann gemeinsam den Input, den wir brauchen, identifizieren, um daraus vernünftige Agenten mit hoher Output-Qualität zu bauen.“ 

„Die Rolle des Menschen in der KI-Transformation wird maßgeblich“ 

Bei aller Automatisierung bleibt die Verantwortung beim Menschen, stellt Pöllmann klar: „Am Ende braucht es immer einen Verantwortlichen, und das kann nicht die Maschine sein. Dadurch wird vor allem die Rolle des Menschen in der KI-Transformation maßgeblich gestärkt.“ Wer einen Agenten verantwortet, müsse dessen Ergebnisse kontrollieren, ihn testen und etwa bei der Abkündigung eines KI-Modells nachjustieren. „Damit bekommt jeder in gewisser Weise eine Führungsaufgabe“, so Pöllmann. 

Um den Rollenwandel greifbar zu machen, ließ Viessmann die Mitarbeiter:innen ein eigenes „Role Canvas“ ausfüllen: Was bleibt an Verantwortung beim Menschen, wenn KI-Agenten übernehmen? Das habe viel Verständnis für die Transformation geschaffen, auch bei jenen, deren Berufsbild sich am stärksten verändert. Denn das klassische Profil eines Investmentbankers werde sich fundamental drehen, so Pöllmann. Die Betroffenen hätten das Thema allerdings „sehr gut aufgeschnappt und zeigen große Begeisterung dafür“. 

iteratec: „Die Unschärfe reduzieren“ 

Auf der Umsetzungsseite steht mit iteratec ein Software-Dienstleister, der seit 30 Jahren Individualsoftware entwickelt und sich zunehmend auf KI-Transformation fokussiert. „Unser eigenes Geschäft ändert sich aktuell selbst radikal aufgrund von KI“, sagt Michael Maier, Director Austria von iteratec. Das Unternehmen setzt Multi-Agenten-Projekte unter anderem bei Banken um und hat mit dem Recycling-Konzern Ragn-Sells ein neues Recyclingverfahren auf Basis KI-gestützter Materialanalysen entwickelt. Das Viessmann-Projekt sei „mitunter eines der spannendsten, das wir gerade machen dürfen“, so Maier: „Das nimmt sicher eine Vorreiterrolle ein.“ 

Die Kunst liege darin, schnell voranzukommen und trotzdem verlässliche Resultate zu liefern: „Du musst die Unschärfe so weit reduzieren, dass du dort, wo es wichtig ist, belastbare Ergebnisse hast, mit denen du arbeiten kannst“, sagt Maier. Viessmann kam über einen klassischen Anbieterauswahlprozess zu iteratec. Ausschlaggebend sei das Team gewesen, so Pöllmann: „Ein sehr professionell aufgestelltes Team mit High-End-AI-Capabilities. Die Entwickler sind fast AI-native unterwegs.” 

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

„Hallo, ich bin Charlie. Ich brauche deine Hilfe. Und Kreditkarten-Details von deinem Papa“