10.05.2023

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

FiveSquare richtet sich mit der KI-Anwendung KARLI ausschließlich an Unternehmen und will mit Datensicherheit punkten.
/artikel/fivesquare-karli
Die FiveSquare-Gründer Hans-Peter Pichler und Patrick Haidinger | (c) FiveSquare
Die FiveSquare-Gründer Hans-Peter Pichler und Patrick Haidinger | Foto: Antje Wolm

Der Name klingt sehr österreichisch und er ist es auch: KARLI ist die Linzer Antwort auf den vieldiskutierten KI-Chatbot ChatGPT von OpenAI. Zumindest sieht man das beim dahinter stehenden Startup FiveSquare so. Mit dem “Large Language Model as a Service” richtet man sich ausschließlich an B2B-Kunden und will als in Österreich gehostete Lösung vor allem mit Datensicherheit punkten.

“Massive Sicherheitsrisiken” bei ChatGPT und Bard

Denn FiveSquare ortet “massive Sicherheitsrisiken” bei OpenAIs ChatGPT und Googles Bard. “Die wichtigsten Punkte aus dem Strategiemeeting zusammen fassen lassen – na klar, wenn ich damit einverstanden bin, dass die Umsatzzahlen des Unternehmens bei einer Tech-Firma in den USA landen und dort gespeichert und verwendet werden. Und das auch noch zusammen mit meinem Profil und den dazugehörigen Daten”, lässt CEO Hans Peter Pichler in einer Aussendung zitieren.

Verschiedene Sprachmodelle von Drittanbietern hinter KARLI

FiveSquare hat für KARLI allerdings kein eigenes AI-Sprachmodell entwickelt, sondern setzt auf bestehende Sprachmodelle von Drittanbietern. “Wir verwenden verschiedene Open-Source Modelle, welche wir gezielt weiterentwickelt und finegetuned haben. Durch eine spezielle Architektur können wir mehrere Modelle effizient zusammenführen, um so die Performance noch zusätzlich zu verbessern”, heißt es auf Anfrage des brutkasten vom Startup. Man nutze unter anderem das Modell Pythia von EleutherAI. als ein Teil unserer Modellarchitektur. Man wolle immer die neuesten Entwicklungen integrieren. “Speziell auch, wenn das AustroGPT von Sepp Hochreiter publiziert wird, möchten wir dies natürlich ebenfalls in KARLI integrieren”.

So will FiveSquare die erhöhte Sicherheit gewährleisten

Die genannte Sicherheit will FiveSquare auf mehreren Wegen gewährleisten: So läuft KARLI ausschließlich auf österreichischer, vom Startup gehosteter Serverinfrastruktur. “Dadurch ist unser System zu keinem Zeitpunkt von z.B. dem Cloud-Act aus Amerika betroffen und die Rohdaten befinden sich nur während der Berechnung auf unserer Infrastruktur. Danach, wenn diese nicht mehr benötigt werden, werden diese sofort unwiederbringlich gelöscht”, heißt es gegenüber dem brutkasten.

“Nicht einmal wir können auf diese Informationen zugreifen”

Zudem werden sensible Daten, die durch das Weitertrainieren in das Sprachmodell gelangen, nur für den einen Kunden spezifisch und verschlüsselt bereitgestellt. “Dafür haben wir zusätzlich eigene Techniken entwickelt, um zu jedem Zeitpunkt eine klare und sichere Trennung möglicher vorhandener Daten zu gewährleisten und diese so sicher zu behandeln, wie nur technisch möglich”, so FiveSquare. Dadurch bekomme ausschließlich der Kunde Zugriff auf die im Modell befindlichen Daten – “niemand anderes, nicht einmal wir, können auf diese Informationen zugreifen”.

Zweites FiveSquare-Produkt in ganz anderem Bereich

Der Preis für die Kunden richte sich dann nach der Größe des bereitgestellten Modells und dem Aufwand für das Startup – je nach Individualisierungsbedarf des Unternehmens. KARLI ist aber übrigens nicht das einzige Produkt von FiveSquare. Mit “EPILESPIA” hat das Linzer Startup auch ein Produkt im MedTech-Bereich: ein Wearable zur Früherkennung epileptischer Anfälle.

Deine ungelesenen Artikel:
17.12.2024

Austrian AI Landscape 2024: Heuer 70 neue Unternehmen

Die Austrian AI Landscape ist wieder da. Diesmal mit 70 neuen Einträgen. Clemens Wasner von EnliteAI erklärt die Gründe für die Steigerung, gibt Prognosen ab und zählt auf, was der heimische KI-Standort künftig benötigt.
/artikel/austrian-ai-landscape-2024-heuer-70-neue-unternehmen
17.12.2024

Austrian AI Landscape 2024: Heuer 70 neue Unternehmen

Die Austrian AI Landscape ist wieder da. Diesmal mit 70 neuen Einträgen. Clemens Wasner von EnliteAI erklärt die Gründe für die Steigerung, gibt Prognosen ab und zählt auf, was der heimische KI-Standort künftig benötigt.
/artikel/austrian-ai-landscape-2024-heuer-70-neue-unternehmen
AI Landscape 2024, Wasner, Hochreiter
(c) Stock.Adobe/GamePixel - Die AI Landscape 2024 ist da.

Die Austrian AI Landscape von Clemens Wasner (EnliteAI, AI Austria) zeigt AI-Startups und -Unternehmen aus der heimischen Startup-Szene. Das Branding dazu wurde von Andreas M. Keck, Kopf und Gründer von “beamr. brand consulting studio” pro-bono durchgeführt. Es ist bereits die insgesamt achte Ausgabe der österreichischen KI-Landschaft.

AI Landscape 2024 wird größer als ihre Vorgänger

“Heuer gibt es 70 neue Unternehmen, ein Novum in dieser Größenordnung. Es ist ein internationales Phänomen, denn die Eintrittsbarriere für die Gründung eines KI-Unternehmens ist gesunken. Ein Grund ist, dass viele Basistechnologien als ‘open source’ verfügbar sind und nicht mehr von Grund auf selbst entwickelt werden müssen”, erklärt Wasner die gestiegene Anzahl an KI-Unternehmen in Österreich.

Besonders im Bereich “Corporate Early Adopters” zeigt sich eine starke Steigerung. “Unternehmen, die teilweise 100 Jahre alt sind, haben eigene AI-Business-Units aufgebaut, eigene Teams zusammengestellt und sind Joint Ventures eingegangen. AI ist schlussendlich in der Realwirtschaft angekommen”, so der AI-Experte weiter.

Die AI Landscape Austria 2024

(c) EnliteAI, AI Austria, Andreas M. Keck (beamr) – Die gesamte Austrian AI Landscape.

Cybersecurity-Bereich steigt

Allgemein ist festzustellen, dass sich – entgegen der letzten Jahre – mehr Firmen mit “Cybersecurity & Defence” beschäftigen. Die Gründe dafür sind, dass es einerseits, wie erwähnt, mehr Open-Source-Modelle gibt, auf die man zurückgreifen kann, ohne selbst Basis-Modelle entwickeln zu müssen. Andererseits hat der Ukraine-Krieg ein Bewusstsein für diese Branche geschaffen.

Die EU hat etwa am 15. März 2024 das Arbeitsprogramm für den European Defence Fund veröffentlicht. Die offizielle Ausschreibung wurde am 20. Juni geöffnet, eine Einreichung war bis zum 5. November 2024 möglich. Diese Ausschreibung war mit 1,1 Milliarden Euro dotiert, wovon 40 Millionen Euro für disruptive Technologien und 67 Millionen Euro für KMU vorgesehen sind.

AI Landscape: GenAI als Treiber

Einen anderen Faktor für die Steigerung der Anzahl an KI-Firmen in Österreich sieht Wasner darin, dass viele Unternehmen in der Vergangenheit auf Automatisierung gesetzt hätten. Belege erkennen, den E-Mail-Posteingang lesen und ins CRM schieben – das sei mit der eigenen Technologie natürlich limitiert gewesen, durch Generative AI und LLMs (Large Language Models) wären nun sehr viele in diesem Bereich tätig. “Das ist etwas, das weltweit parallel passiert”, so Wasner. “Und Chatbots oder Dashboards beinhaltet.”

Auch bemerkenswert ist, dass im Bereich “Life Science” mittlerweile 30 Unternehmen aus Österreich vertreten sind. Für den KI-Experten “wenig verwunderlich”, da es hierzulande mit LISAvienna, INITS und mit dem Science Park Graz gleich drei Ökosysteme gibt, die in diesem Feld “Firmen produzieren”.

Zudem ist der Proptech-Bereich auffällig stark geworden, was wiederum an der Nutzung von LLMs liegt, zum Beispiel wenn es um die Auswertung von Dokumenten rund um Bauprojekte geht. Überall dort, wo man auf unstrukturierte Daten treffe – Baupläne, etc. – sei nun GenAI vermehrt einsatzbar und das ganze Proptech-Feld gehe “durch die Decke”. Insgesamt, so Wasner, gebe es heuer einfach mehrere große Themenfelder in der heimischen AI Landscape.

Beachtlich sei zudem, dass in der KI-Branche wenig Firmen pleite gegangen sind. “Dieses Jahr habe ich im Vergleich zum Vorjahr nur drei, vier Firmen herunternehmen müssen”, sagt er. “Davor waren es rund 30.”

Doch der KI-Experte warnt vor zu großer Euphorie. Er sieht den Moment jetzt als “Ruhe vor dem Sturm” und erwartet eine Konsolidierungswelle für das kommende Jahr. In diesem Sinne prognostiziert er einen Akquise-Trend, der uns bevorsteht. Größere Firmen würden, so seine Einschätzung, Unternehmen aus der Sparte “Operations & Search” aufkaufen, weil sich deren Angebot als replizierbares Business für Dienstleister auszeichne (Knowledge-Management, Bots, Suche mit LLMs).

Mehr Deregulierung, aber…

Was den europäischen Standort betrifft, wünscht sich Wasner mehr Deregulierung, allerdings nicht unbedingt auf der KI-Seite, wie er sagt. Europas KI-Problem liege vor allem im Umstand begründet, dass es hier schwieriger sei, zu gründen bzw. etwa Mitarbeiterbeteiligungen schwerer zu implementieren wären. “In Europa gibt es 27 Rechtsformen bei der Unternehmensgründung, das ist einfach nicht ‘investible'”, sagt er. Auch seien die Finanzierungen zu gering, vor allem dann, wenn man eine KI-Foundation baue. Mistral aus Frankreich wäre da der einzige Ausreißer, was europäische Top-KI-Firmen betreffe.

Als zweiten Punkt nennt Wasner, dass sich die “Compute-Infrastruktur” als zu klein für den europäischen Raum zeige und es von der EU-Seite Investitionen von mindestens 20 Milliarden Euro – wenn nicht mehr – bräuchte, um im KI-Konzert der Großen eine Chance zu haben. Der dritte und letzte Faktor, den Wasner in Sachen Wettbewerbsfähigkeit erwähnt, ist, auf “skilled immigration” zu setzen, um die besten Talente ins Land zu holen, wie er sagt: “Das allerdings geht nur, wenn man die ersten beiden Punkte löst.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

FiveSquare: Linzer Startup will mit “KARLI” ChatGPT herausfordern