26.06.2024
UNTERNEHMENSDATEN

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

Damit heikle Firmen- und Kundendaten nicht im Internet herumschwirren, hat das österreichische Startup HeadwAI die lokale KI-Plattform LocalCore entwickelt: Diese läuft auf den eigenen Servern von Unternehmen oder Behörden und soll somit 100 Prozent Datenschutz, Rechtssicherheit und Unabhängigkeit von Drittanbietern garantieren.
/artikel/localcore-ki-plattform-aus-st-florian-schuetzt-sensible-firmendaten-durch-on-premise-server
LocalCore, HeawAI
(c) pedagrafie GmbH - HeadwAI-CEO Rene Zeilinger.

Man weiß es längst: Künstliche Intelligenz (KI) verändert auf vielfältige und rasante Weise die gewohnten Abläufe in Wirtschaft und Gesellschaft. Doch was mit den Daten passiert, mit denen man die KI-Tools in der Cloud füttert, ist unklar. So sieht es das HeadwAI-Team rund um Founder und CEO René Zeilinger.

LocalCore gegen falsche Hände

„Gerade für sensible Branchen und kritische Infrastruktur ist Datensicherheit nicht nur eine ethische Frage, sondern eine rechtliche und unternehmenskritsche“, sagt er. „Wie kann ich verhindern, dass heikle Daten in falsche Hände geraten?“

Als Antwort auf diese steigenden Anforderungen hat die KI-Schmiede aus St. Florian am Inn, Oberösterreich, LocalCore auf den Markt gebracht. Diese KI-Lösung läuft auf den lokalen Servern von Unternehmen, Behörden und Rechenzentren und garantiere somit Sicherheit, Kontrolle und Unabhängigkeit bei der Nutzung von generativen KI-Technologien, so der Claim.

„Patente, Lebensläufe, Verträge und geheime Unternehmensdaten sind alles Daten, die Unternehmen schützen wollen“, sagt Zeilinger. „Verwendet man cloudbasierte KI-Tools, gibt man diese sensiblen Daten aus der Hand – mit allen damit verbundenen rechtlichen und unternehmerischen Risiken.“

Keine Abhängigkeit von Drittanbietern

Gänzlich auf KI-Anwendungen zu verzichten, sei aber angesichts der enormen Potenziale wenig zielführend: „Mit unserer vollständig vor Ort betriebenen KI-Lösung nutzen Unternehmen die volle Power von KI und sind dabei völlig unabhängig von Drittanbietern, falls deren Server einmal ausfallen oder die Services eingeschränkt werden“, betont der Gründer.

LocalCore nutzt Open-Source-Sprachmodelle, die durch eine speziell entwickelte Software bereitgestellt und mit einem kundenzentrierten Rechtemanagement ergänzt werden. Die benötigte Rechenleistung liefern entweder kundeneigene Server oder leistungsstarke GPUs des vorkonfigurierten Hardwareangebots. Diese Kombination soll es Unternehmen ermöglichen, eine leistungsstarke, maßgeschneiderte KI-Plattform zu etablieren, die sowohl firmeninterne als auch externe Anwendungen unterstützt: Applikationen wie LocalChat – ein lokales ChatGPT, unternehmensweite Suche, Kundensupport-Agenten und rechtliche Assistenzsysteme sollen dabei alle lokal ohne die Risiken einer Cloud-Verbindung funktionieren.

Die offene Architektur von LocalCore erlaubt zudem über Programmierschnittstellen die Automatisierung von Prozessen und eine nahtlose, flexible Anbindung von zusätzlichen Tools von Drittanbietern.

„LocalCore gibt Kontrolle zurück“

Die Lösung skaliert außerdem ohne zusätzliche Kosten für Cloud-Services, was eine kalkulierbare Kostenstruktur schaffe, so ein weiteres Argument des HeadwAI-Teams. LocalCore erleichtert dabei die Erfüllung regulatorischer Anforderungen wie die Datenschutz-Grundverordnung (DSGVO), die NIS2-Richtlinie und dem kommenden EU AI Act.

„Mit LocalCore geben wir den Unternehmen die Kontrolle über ihre KI-Anwendungen zurück und ermöglichen ihnen eine unabhängige und sichere Datenverarbeitung direkt am eigenen Standort“, betont Zeilinger. „Das bedeutet maximale Sicherheit ohne Kompromisse bei der Leistung oder Flexibilität.“

Deine ungelesenen Artikel:
vor 7 Stunden

Ora Computing: Wiener KI-Startup holt 3,5 Mio. Euro Seed-Finanzierung

Das Wiener KI-Startup Ora Computing hat eine Seed-Finanzierung über 3,5 Millionen Euro abgeschlossen. Mit seiner Technologie zur effizienten Komprimierung großer KI-Modelle will das Unternehmen die Kosten und den Energiebedarf von KI-Anwendungen senken und die Nutzung auf unterschiedlichster Hardware ermöglichen.
/artikel/ora-computing-wiener-ki-startup-holt-35-mio-euro-seed-finanzierung
vor 7 Stunden

Ora Computing: Wiener KI-Startup holt 3,5 Mio. Euro Seed-Finanzierung

Das Wiener KI-Startup Ora Computing hat eine Seed-Finanzierung über 3,5 Millionen Euro abgeschlossen. Mit seiner Technologie zur effizienten Komprimierung großer KI-Modelle will das Unternehmen die Kosten und den Energiebedarf von KI-Anwendungen senken und die Nutzung auf unterschiedlichster Hardware ermöglichen.
/artikel/ora-computing-wiener-ki-startup-holt-35-mio-euro-seed-finanzierung
Ora Computing
© Ora Computing - (l.) Stefan Sack und Raimel Medina.

Ora Computing, ein Startup, das sich auf die Optimierung und Komprimierung von KI-Foundation-Modellen spezialisiert hat, gab heute den Abschluss einer Seed-Finanzierungsrunde in Höhe von 3,5 Millionen Euro bekannt. Die Runde wurde von Constructor Capital und Greencode Ventures angeführt, mit fortgesetzter Unterstützung des Gründungsinvestors XISTA Science Ventures, der beim Aufbau und der Einführung des Unternehmens geholfen hat.

Ora Computing schrumpft Modelle

KI-Inferenz – der Prozess der tatsächlichen Ausführung eines KI-Modells zur Generierung von Outputs – ist zu einem erheblichen und schnell wachsenden Kostenfaktor für jedes Unternehmen geworden, das KI im großen Maßstab einsetzt. Große Implementierungen können mittlerweile allein für die Rechenleistung zig Millionen Euro pro Monat kosten, und das Problem verschärft sich, da die Modelle immer größer werden. Für Unternehmen, die KI lokal auf Geräten wie Autos oder Industrieanlagen ausführen möchten, seien die Modelle oft schlichtweg zu groß.

Hier setzt Ora Computing an. Seine Software komprimiert diese Modelle – sie schrumpft ihre Größe um bis zu 80 Prozent und lässt sie bis zu viermal schneller laufen – während der Genauigkeitsverlust bei Null bis fünf Prozent gehalten wird, so der Claim.

Da komprimierte Modelle deutlich weniger Rechenleistung für die Ausführung benötigen, sollen sich die Effizienzgewinne auch direkt in einem geringeren Energieverbrauch und reduzierten CO2-Emissionen niederschlagen: Ora schätzt, dass seine Technologie bei einer Marktdurchdringung von ein Prozent jährlich mehr als 50.000 Tonnen CO2 einsparen könnte.

Ansatz über verschiedene Hardwaretypen

„Wir haben Ora Computing gegründet, um die Annahme infrage zu stellen, dass eine massive Skalierung erforderlich ist, um nutzbare Intelligenz zu erreichen. Wir glauben, dass die nächste Welle der KI-Einführung durch kompaktere Modelle vorangetrieben wird, die hocheffizient und für spezifische Anwendungsfälle optimiert sind, anstatt durch große, universelle Cloud-Modelle. Ora baut den Software- und Algorithmen-Stack auf, der diesen Übergang ermöglicht“, sagt Stefan Sack, CEO und Mitgründer von Ora Computing.

Im Gegensatz zu bestehenden Komprimierungstools funktioniere der Ansatz von Ora über verschiedene Hardwaretypen hinweg und füge sich direkt in Standard-Inferenz-Frameworks ein – ohne Änderung an der bestehenden Infrastruktur. Wo konkurrierende Ansätze eine binäre Entscheidung zwischen Komprimierungsstufen erzwingen, bilde der Algorithmus von Ora kontinuierlich den gesamten Kompromiss zwischen Modellgröße und Genauigkeit ab, sodass Unternehmen für ihre spezifischen Hardware- und Kostenbeschränkungen optimieren können, so der Mitgründer.

2025: Ora Computing tritt hervor

Ora wurde von Stefan Sack und Raimel Medina gegründet, beide Forscher im Bereich Quantencomputing aus der Serbyn-Gruppe am Institute of Science and Technology Austria (ISTA). Das Unternehmen verließ Ende 2025 den Stealth-Modus und möchte die frischen Mittel dazu nutzen, um das Team zu vergrößern, die Komprimierungsfähigkeiten auf die größten Frontier-Modelle auszuweiten und ein kommerzielles Produkt für Cloud-Inferenz-Anbieter und Unternehmen, die KI am Edge einsetzen, auf den Markt zu bringen.

Ora hat die Anwendbarkeit seiner Technologie nach eigenen Angaben an einem Modell mit 70 Milliarden Parametern nachgewiesen. Der Komprimierungsprozess beanspruchte hierbei wenige Stunden und verursachte Rechenkosten von unter 1.000 US-Dollar, wohingegen der bisherige Branchenstandard für vergleichbare Leistungen ein Vielfaches dieses Betrages erfordere.

„Hunger wächst schneller“

„Der Energiehunger der KI wächst schneller, als die Welt die Infrastruktur aufbauen kann, um ihn zu stillen. Ein wichtiger Ansatz ist es, die KI selbst effizienter zu machen, und genau das tut Ora. Modelle radikal zu komprimieren, ohne die Genauigkeit zu opfern, macht für ihre Kunden einen enormen Unterschied“, sagt Terhi Vapola, Gründerin und Managing Partner bei Greencode Ventures.

Und Valentino Jadrisko, Senior Associate bei Constructor Capital, ergänzt: „Die Ära der Brute-Force-KI stößt an ihre physikalischen Grenzen: Hyperscaler nehmen wieder Kernreaktoren in Betrieb, Frontier-Labs verbrennen Milliarden für Rechenleistung, Reasoning-Modelle vervielfachen die Inferenzkosten jedes Quartal. Die einzige nachhaltige Antwort besteht darin, den Betrieb von Frontier-KI drastisch günstiger zu machen. Das ist es, was Ora Computing tut: Sie komprimieren Frontier-LLMs so, dass sie überall laufen können – in der Cloud, im Auto, in der Hosentasche. Und das ist der Grund, warum Constructor Capital stolz darauf ist, ihre 3,5-Millionen-Euro-Seed-Runde als Co-Lead anzuführen.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

LocalCore: KI-Plattform aus St. Florian schützt sensible Firmendaten durch on-Premise Server