Alexander Zehetmaier weiß, dass ein Großteil europäischer Unternehmen große Datenmengen an chinesische und US-amerikanische Anbieter sendet. Er und Jonas Vander haben das im Oktober gegründete Startup Xinity daher mit dem Ziel ins Leben gerufen, Europa – beginnend mit Österreich – zu 100 Prozent rechenressourcen-unabhängig zu gestalten. „Es geht nicht nur darum, aus Öl und Gas herauszukommen, sondern echte Datenunabhängigkeit, Dateneigentum und KI-Unabhängigkeit zu erreichen“, sagt Zehetmaier.

Xinity mit prominenten Investoren

Xinity bietet konkret mittels einer Supercomputer-Box samt Software den Aufbau interner Rechenressourcen an, damit Unternehmen KI-Modelle direkt auf eigenen Servern laufen lassen können – On-Premise und technisch als Hybrid-Cloud, wie der Gründer erklärt. „Wenn eigene Ressourcen nicht ausreichen, erfolgt die Erweiterung nahtlos über unsere in Österreich gehosteten Kapazitäten.“

Für diese Lösung hat das Startup ein Investment von zwei der drei Mostly-AI-Founder, Klaudius Kalcher und Roland Boubela, die auch bei dem von zwei Wiener gegründeten KI-Unicorn Magic.dev bereits frühzeitig eingestiegen sind, erhalten. Zur Höhe der Summe wurde Stillschweigen vereinbart.

Die Idee zum Startup entstand aus über 15 Technologieprojekten, in denen die Founder immer wieder dieselben Hürden sahen: hohe Cloud-Kosten, Rate-Limits, Latenzprobleme, fehlende Datenstrategie und komplexe Compliance.

Richtiger Zeitpunkt

Nun sieht Xinity den richtigen Zeitpunkt gekommen, denn: GPU-Ressourcen werden günstiger, Open-Source-Modelle erreichen die Qualität großer Closed-Source-Player, Modelle werden effizienter, und Europa wird zunehmend abhängig von „US-Compute“, was Risiken nach sich ziehe.

Die Gründer setzen daher auf Drop-in-Migration: Unternehmen tauschen nur die Base-URL ihrer bestehenden OpenAI-Anwendungen und betreiben KI sofort auf eigener Hardware – inklusive Audit-Logs, automatischer Datensammlung für Fine-Tuning und RLHF-Workflows. Damit sollen sich die laufenden Kosten um bis zu 80 Prozent senken lassen, während gleichzeitig eigene Nischenmodelle möglich werden, die spezialisierte General-Purpose-LLMs übertreffen können.

Xinity und die Code-Zeile

Das frische Kapital soll künftig dazu dienen, Rechenressourcen zu kaufen und den Software-Layer weiterzuentwickeln.

„Wir haben bereits einen Proof of Concept, dass Rechenressourcen auf unterschiedliche Rechencomputer verteilt werden können, wenn Hunderte User gleichzeitig arbeiten“, sagt Zehetmaier. „Unser Software-Layer – unser Produkt für On-Premise-Hardware – sorgt dafür, dass Anfragen automatisch auf die verfügbaren Rechenressourcen aufgeteilt werden. Er ist OpenAI-API-kompatibel. Das bedeutet: Wenn ein Unternehmen heute bereits auf OpenAI-Anwendungen programmiert hat, fügt es lediglich eine Zeile Code hinzu – und der gesamte Traffic läuft intern.“

Da Unternehmen folglich selbst Eigentümer der Infrastruktur sind, sollen sie per Knopfdruck eigene Modelle feinjustieren und bestehende Modelle outperformen. Oder wie Co-Founder Vander erklärt: „Open-Source-Modelle plus eigene Rechenleistung schlagen Cloud-Only in vielen Nischen – technisch, wirtschaftlich und regulatorisch.“