“AI in a box”: Linzer Firma sperrt KI-Sprachmodell ins Intranet
Die Vorteile generativer KI ohne Datenschutzbedenken nutzen - das verspricht "AI in a box" und wird wortwörtlich als kleines Hardware-Device geliefert.
Dass man sensible Firmeninformationen besser nicht mit den großen bekannten KI-Sprachmodellen, ChatGPT und Co, verarbeiten sollte, hat sich mittlerweile herumgesprochen. Und es hat mehrere Anbieter auf den Plan gerufen, die Lösungen mit entsprechendem Datenschutz versprechen – etwa weil das Sprachmodell auf lokalen Servern betrieben wird. Das Linzer Unternehmen schorn.io reiht sich in die Liste dieser Anbieter ein und bietet mit “AI in a box” dennoch eine ungewöhnliche Lösung.
“Sie können sich AI in a Box ähnlich einem Netzwerkdrucker vorstellen”
Das Sprachmodell wird im Angebot des Unternehmens nämlich tatsächlich in einer Box geliefert. Die KI läuft auf einem kleinen Hardware-Device, das sich ins bestehende Netzwerk integrieren lässt, und kann dort komplett offline und lokal, also ausschließlich innerhalb des Intranets, genutzt werden. “Sie können sich AI in a Box ähnlich einem Netzwerkdrucker vorstellen, der für eine definierte Anzahl von Benutzer:innen verfügbar ist”, sagt schorn.io-CEO Thomas Schorn. Es sei wortwörtlich “eine KI zum Angreifen”.
Offline-Betrieb zur Einhaltung von Datenschutzrichtlinien
Besonders in Branchen, die sensible Daten verarbeiten, wie Recht, Finanzen und Personalwesen, sei der Offline-Betrieb entscheidend für die Einhaltung von Datenschutzrichtlinien, argumentiert man bei schorn.io. Zudem sei die Lösung im Vergleich zu umfangreichen Cloud-Lizenzen kostengünstig. Genutzt werden könne sie etwa in den Bereichen Softwareentwicklung, Assistenz und Buchhaltung, Marketing und Kundensupport, Personalmanagement, Projektmanagement, Rechtsberatung und Vertrieb.
“Meeting in der Box” als konkreter Anwendungsfall
Schorn.io nennt dazu einen konkreten Anwendungsfall von “AI in a box”. “Besonderes Beispiel ist die Nutzung als ‘Meeting in der Box’: Die Transkription von vertraulichen Gesprächen in Echtzeit generiert automatische Protokolle und To-Do-Listen, die direkt in bestehende Workflows integriert werden können”, heißt es vom Unternehmen.
Austrian AI Landscape 2024: Heuer 70 neue Unternehmen
Die Austrian AI Landscape ist wieder da. Diesmal mit 70 neuen Einträgen. Clemens Wasner von EnliteAI erklärt die Gründe für die Steigerung, gibt Prognosen ab und zählt auf, was der heimische KI-Standort künftig benötigt.
Austrian AI Landscape 2024: Heuer 70 neue Unternehmen
Die Austrian AI Landscape ist wieder da. Diesmal mit 70 neuen Einträgen. Clemens Wasner von EnliteAI erklärt die Gründe für die Steigerung, gibt Prognosen ab und zählt auf, was der heimische KI-Standort künftig benötigt.
(c) Stock.Adobe/GamePixel - Die AI Landscape 2024 ist da.
Die Austrian AI Landscape von Clemens Wasner (EnliteAI, AI Austria) zeigt AI-Startups und -Unternehmen aus der heimischen Startup-Szene. Das Branding dazu wurde von Andreas M. Keck, Kopf und Gründer von “beamr. brand consulting studio” pro-bono durchgeführt. Es ist bereits die insgesamt achte Ausgabe der österreichischen KI-Landschaft.
AI Landscape 2024 wird größer als ihre Vorgänger
“Heuer gibt es 70 neue Unternehmen, ein Novum in dieser Größenordnung. Es ist ein internationales Phänomen, denn die Eintrittsbarriere für die Gründung eines KI-Unternehmens ist gesunken. Ein Grund ist, dass viele Basistechnologien als ‘open source’ verfügbar sind und nicht mehr von Grund auf selbst entwickelt werden müssen”, erklärt Wasner die gestiegene Anzahl an KI-Unternehmen in Österreich.
Besonders im Bereich “Corporate Early Adopters” zeigt sich eine starke Steigerung. “Unternehmen, die teilweise 100 Jahre alt sind, haben eigene AI-Business-Units aufgebaut, eigene Teams zusammengestellt und sind Joint Ventures eingegangen. AI ist schlussendlich in der Realwirtschaft angekommen”, so der AI-Experte weiter.
Die AI Landscape Austria 2024
(c) EnliteAI, AI Austria, Andreas M. Keck (beamr) – Die gesamte Austrian AI Landscape.
Cybersecurity-Bereich steigt
Allgemein ist festzustellen, dass sich – entgegen der letzten Jahre – mehr Firmen mit “Cybersecurity & Defence” beschäftigen. Die Gründe dafür sind, dass es einerseits, wie erwähnt, mehr Open-Source-Modelle gibt, auf die man zurückgreifen kann, ohne selbst Basis-Modelle entwickeln zu müssen. Andererseits hat der Ukraine-Krieg ein Bewusstsein für diese Branche geschaffen.
Die EU hat etwa am 15. März 2024 das Arbeitsprogramm für den European Defence Fund veröffentlicht. Die offizielle Ausschreibung wurde am 20. Juni geöffnet, eine Einreichung war bis zum 5. November 2024 möglich. Diese Ausschreibung war mit 1,1 Milliarden Euro dotiert, wovon 40 Millionen Euro für disruptive Technologien und 67 Millionen Euro für KMU vorgesehen sind.
AI Landscape: GenAI als Treiber
Einen anderen Faktor für die Steigerung der Anzahl an KI-Firmen in Österreich sieht Wasner darin, dass viele Unternehmen in der Vergangenheit auf Automatisierung gesetzt hätten. Belege erkennen, den E-Mail-Posteingang lesen und ins CRM schieben – das sei mit der eigenen Technologie natürlich limitiert gewesen, durch Generative AI und LLMs (Large Language Models) wären nun sehr viele in diesem Bereich tätig. “Das ist etwas, das weltweit parallel passiert”, so Wasner. “Und Chatbots oder Dashboards beinhaltet.”
Auch bemerkenswert ist, dass im Bereich “Life Science” mittlerweile 30 Unternehmen aus Österreich vertreten sind. Für den KI-Experten “wenig verwunderlich”, da es hierzulande mit LISAvienna, INITS und mit dem Science Park Graz gleich drei Ökosysteme gibt, die in diesem Feld “Firmen produzieren”.
Zudem ist der Proptech-Bereich auffällig stark geworden, was wiederum an der Nutzung von LLMs liegt, zum Beispiel wenn es um die Auswertung von Dokumenten rund um Bauprojekte geht. Überall dort, wo man auf unstrukturierte Daten treffe – Baupläne, etc. – sei nun GenAI vermehrt einsatzbar und das ganze Proptech-Feld gehe “durch die Decke”. Insgesamt, so Wasner, gebe es heuer einfach mehrere große Themenfelder in der heimischen AI Landscape.
Beachtlich sei zudem, dass in der KI-Branche wenig Firmen pleite gegangen sind. “Dieses Jahr habe ich im Vergleich zum Vorjahr nur drei, vier Firmen herunternehmen müssen”, sagt er. “Davor waren es rund 30.”
Doch der KI-Experte warnt vor zu großer Euphorie. Er sieht den Moment jetzt als “Ruhe vor dem Sturm” und erwartet eine Konsolidierungswelle für das kommende Jahr. In diesem Sinne prognostiziert er einen Akquise-Trend, der uns bevorsteht. Größere Firmen würden, so seine Einschätzung, Unternehmen aus der Sparte “Operations & Search” aufkaufen, weil sich deren Angebot als replizierbares Business für Dienstleister auszeichne (Knowledge-Management, Bots, Suche mit LLMs).
Mehr Deregulierung, aber…
Was den europäischen Standort betrifft, wünscht sich Wasner mehr Deregulierung, allerdings nicht unbedingt auf der KI-Seite, wie er sagt. Europas KI-Problem liege vor allem im Umstand begründet, dass es hier schwieriger sei, zu gründen bzw. etwa Mitarbeiterbeteiligungen schwerer zu implementieren wären. “In Europa gibt es 27 Rechtsformen bei der Unternehmensgründung, das ist einfach nicht ‘investible'”, sagt er. Auch seien die Finanzierungen zu gering, vor allem dann, wenn man eine KI-Foundation baue. Mistral aus Frankreich wäre da der einzige Ausreißer, was europäische Top-KI-Firmen betreffe.
Als zweiten Punkt nennt Wasner, dass sich die “Compute-Infrastruktur” als zu klein für den europäischen Raum zeige und es von der EU-Seite Investitionen von mindestens 20 Milliarden Euro – wenn nicht mehr – bräuchte, um im KI-Konzert der Großen eine Chance zu haben. Der dritte und letzte Faktor, den Wasner in Sachen Wettbewerbsfähigkeit erwähnt, ist, auf “skilled immigration” zu setzen, um die besten Talente ins Land zu holen, wie er sagt: “Das allerdings geht nur, wenn man die ersten beiden Punkte löst.”
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
