Nicht unbedingt im Radio, wie es eine Liedzeile der Ersten Allgemeinen Verunsicherung aus 1984 mutmaßt, aber dennoch hier erwähnenswert: Karli von FiveSquare sieht sich als die Linzer Antwort auf den vieldiskutierten KI-Chatbot ChatGPT von OpenAI – wie brutkasten berichtete. Die Gründer hinter dem KI-Projekt Hans-Peter Pichler und Patrick Haidinger richten sich ausschließlich an B2B-Kunden und wollen als in Österreich gehostete Lösung vor allem mit Datensicherheit punkten.

Karli als CO₂-neutrales Modell

FiveSquare hat für Karli allerdings kein eigenes KI-Sprachmodell entwickelt, sondern setzt auf bestehende Sprachmodelle von Drittanbietern. „Wir verwenden verschiedene Open-Source Modelle, welche wir gezielt weiterentwickelt und finegetuned haben. Durch eine spezielle Architektur können wir mehrere Modelle effizient zusammenführen, um so die Performance noch zusätzlich zu verbessern“, hieß es 2023 auf Anfrage vom Startup. Heute rühmt man sich damit, eines der ersten CO₂-neutralen betriebenen LLMs (Large Language Model) Europas zu sein.

„KI wirkt auf den ersten Blick wie Magie: Fragen rein, Antworten raus – und das in Sekunden. Was aber oft übersehen wird, ist der massive Ressourcenverbrauch im Hintergrund. Rechenzentren mit tausenden GPUs [Anm.: Grafikprozessoren], die Tag und Nacht laufen, um Sprachmodelle wie Karli zu trainieren und zu betreiben. Dazu kommt der immense Kühlungsbedarf und der Stromverbrauch – sowohl für die Hardwareherstellung als auch den laufenden Betrieb“, schreibt das Startup auf seiner Seite.

Laut einer Studie der University of Massachusetts Amherst könne allein das Training eines großen Sprachmodells mehr als 280.000 kg CO₂ verursachen – das entspreche etwa fünfmal dem CO₂-Ausstoß eines durchschnittlichen Autos über seine gesamte Lebensdauer.

Zwei zentrale Wege für Nachhaltigkeit oder: Nur wenn man muss…

Deswegen hat sich FiveSquare von Anfang zum Ziel gesetzt, ihre Systeme und Prozesse so nachhaltig wie möglich zu gestalten. Konkret bedeutet das, dass der gesamte Betrieb der Linzer mit 100 Prozent Ökostrom laufe, zertifiziert aus erneuerbaren Quellen wie Wasser- und Windkraft sowie Solarenergie. Zudem nutze der Rechenzentrumspartner eww ITandTEL grüne Kühlung und Strom und sei ISO 50001-zertifiziert. Das ist ein internationaler Standard für Energiemanagement und unterstützt Unternehmen dabei, ihren Energieverbrauch zu optimieren und die Effizienz kontinuierlich zu verbessern.

Das Startup hat dabei zwei zentrale Wege ausgemacht, wie ein Large Language Model (LLM) wie Karli einen Beitrag zum Klimaschutz leisten kann: Erstens gilt es, saubere Energiequellen zu nutzen. Bei FiveSquare kommt der Strom für alle AI-Agents und Services ausschließlich aus erneuerbaren Energien. In Zukunft plane man sogar, an den Standorten selbst Strom zu erzeugen.

Doch der Betrieb sei nur die halbe Miete. Genauso entscheidend erweise es sich, die KI-Systeme effizient zu betreiben: „Unsere Modelle werden so optimiert, dass sie auch auf kleinerer Hardware performant laufen – das spart Energie. Zudem setzen wir auf intelligente Load-Balancer und dynamische Skalierung, sodass unsere Server nur dann auf voller Leistung laufen, wenn sie es wirklich müssen“, präzisiert das Startup weiter.

Als zweiten wichtigen Schritt sieht man es als Aufgabe, den eigenen Kund:innen zu helfen, deren Prozesse nachhaltiger zu gestalten. Beispiele dafür:

• AI-Agents analysieren Produktionsdaten, um Maschinen effizienter zu betreiben – das reduziert Ausschuss und Energieverbrauch.
• Im Gebäudemanagement hilft man beim Energie-Monitoring: Wo wird zu viel Strom oder Wasser verbraucht? Welche Geräte sind ineffizient?
• In der Logistik plant FiveSquare Routen optimierter; mit der einfachen Rechnung: weniger Kilometer, weniger CO₂.
• Im Büroalltag automatisiert man langwierige Prozesse, wodurch nicht nur Zeit, sondern auch Rechen- und Stromleistung gespart werde.

Karli und die Zertifikate

Da es aber trotz dieser Maßnahmen (in Koordination mit dem EU AI Act) noch keine hundertprozentig klimaneutrale KI gibt – und sich einige Emissionen nicht vermeiden lassen, etwa bei der Hardwareproduktion oder durch externe Partner, auf die man keinen direkten Einfluss hat – setzen die Karli-Entwickler zusätzlich auf Zertifikate, um CO₂ zu kompensieren.

„Diese Zertifikate unterstützen Umweltprojekte weltweit, die aktiv CO₂ aus der Atmosphäre entfernen – etwa durch Aufforstung, Renaturierung von Mooren oder die Förderung erneuerbarer Energien in Entwicklungsländern“, heißt es. „Für uns ist das kein ‚Freikaufen‘, sondern eine verantwortungsvolle Ergänzung zu unseren eigenen Maßnahmen.“