Für das Institute of Science and Technology Austria (ISTA) in Klosterneuburg ist es definitiv eine Erfolgsgeschichte: Das KI-Startup Neural Magic, in das neben Forschung am MIT auch solche am ISTA geflossen ist, wird vom Open-Source-Weltmarktführer Red Hat übernommen. Ein Kaufpreis wurde dabei nicht genannt, es handle sich aber um einen “großen Exit”, heißt es in einer Aussendung. Nachdem das Unternehmen direkt im Boom-Feld Generative AI tätig ist, kann durchaus von einer beachtlichen Summe ausgegangen werden. Als Investor war unter anderem Andreessen Horowitz an Bord.

“Bedeutender Meilenstein für das ISTA”

“Diese Übernahme ist ein bedeutender Meilenstein für das ISTA, da Neural Magic das erste Startup ist, das mit dem Institut zusammenarbeitet und erfolgreich einen großen Exit erzielt”, heißt es von ISTA in einer Aussendung. Konkret spielt ISTA-Professor Dan Alistarh als Gründungsmitarbeiter und Leiter der Machine Learning-Forschung eine zentrale Rolle im Startup. Gegründet wurde das Unternehmen von den MIT-Wissenschaftlern Alex Matveev und Nir Shavit.

Effizientere LLMs durch Neural-Magic-Technologie

Die Technologie von Neural Magic macht Large Language Models (LLMs) effizienter. Konkret werden mit der Software generative KI-Inferenz-Workloads beschleunigt. Das soll die Hardwarekosten und den Energieverbrauch “drastisch” senken und den Einsatz von generativer KI somit kostengünstiger und umweltfreundlicher machen.

Red Hat will mit Integration “LLM-Workloads in hybriden Cloud-Umgebungen optimieren”

Red Hat will die Technologie nun in sein Angebot integrieren. Konkret soll das Kund:innen ermöglichen, “LLM-Workloads in hybriden Cloud-Umgebungen zu optimieren, bereitzustellen, zu skalieren und dabei die volle Kontrolle über die Wahl der Infrastruktur, die Sicherheitsrichtlinien und den Lebenszyklus der Modelle zu behalten”, heißt es vom Unternehmen.

Matt Hicks, Präsident und CEO von Red Hat, kommentiert: “KI-Workloads müssen überall dort ausgeführt werden, wo Kund:innendaten in der Hybrid-Cloud gespeichert sind. Dies macht flexible, standardisierte und offene Plattformen und Tools zu einer Notwendigkeit, da sie es Unternehmen ermöglichen, die Umgebungen, Ressourcen und Architekturen auszuwählen, die am besten zu ihren individuellen Betriebs- und Datenanforderungen passen.”