Mit Wiener Startup: Stadtwerke Klagenfurt starten Inhouse-GPT-Projekt

Künstliche Intelligenz im Unternehmensalltag nutzen, ohne sensible Daten aus der Hand zu geben: Die Stadtwerke Klagenfurt machen gemeinsam mit dem Wiener Startup BReact vor, wie ein souveräner, DSGVO-konformer KI-Assistent funktionieren kann, unterstützt durch die IÖB-Toolbox-Förderung der Austria Wirtschaftsservice (aws).

/artikel/mit-wiener-startup-stadtwerke-klagenfurt-starten-inhouse-gpt-projekt

✨ AI Kontextualisierung

Ob E-Mails, vertrauliche Kunden-Dokumente oder interne Richtlinien: Viele österreichische Unternehmen haben verstanden, dass der Einsatz von künstlicher Intelligenz unausweichlich wird, stehen allerdings vor der Herausforderung, KI sicher in die eigenen Arbeitsabläufe zu integrieren. Bei den Stadtwerken Klagenfurt entschied man sich bewusst gegen Standard-Lizenzen externer US-Hyperscaler und entwickelte stattdessen eine maßgeschneiderte Inhouse-Lösung: den „Stadtwerke GPT“, auch liebevoll „Susi-Sorglos“ genannt.

Die Vision: Ein DSGVO-konformer „Büro-Buddy“

Das Hauptziel war von Beginn an klar definiert: eine sichere Umgebung zu schaffen, in der Mitarbeiter:innen Bedenken bezüglich des Datenschutzes komplett ausräumen können. „Wir wollten unseren Mitarbeitern einen souveränen, DSGVO-konformen Chatbot anbieten, den sie komplett bedenkenlos nutzen können, wo sie personenbezogene Daten von Kunden reinkopieren und vertrauliche Dokumente hochladen können“, erklärt Peter Weratschnig, IT-Bereichsleiter der Stadtwerke Klagenfurt.

Neben der Chatbot-Funktion dient die KI als intelligenter „Büro-Buddy“. Über ein Retrieval-Augmented-Generation-System (RAG) wurden ca. 2.000 Seiten an internen Dokumenten, von Konzernrichtlinien bis hin zu IT-Anleitungen, eingebunden, um Fragen zu regulatorischen Vorgaben oder Systembedienungen direkt zu beantworten.

Der Gamechanger: Die Austria Wirtschaftsservice (aws)-Förderung

Das Projekt hat man nicht alleine umgesetzt, sondern entstand durch den Kontakt mit dem Wiener KI-Startup BReact, das 2022 von Raphael Fakhir und Nemanja Klincov gegründet wurde. Der entscheidende Impuls für die Realisierung lag in der Förderlandschaft. Denn das finanzielle Gesamtinvestment bewegte sich im fast sechsstelligen Bereich, erklärte Weratschnig im Interview.

Hier kam die IÖB-Toolbox-Förderung der Austria Wirtschaftsservice (aws) als entscheidender Beschleuniger ins Spiel. „Ohne diese Förderung hätten wir es nicht gemacht“, betont Weratschnig rückblickend. Die Förderung reduzierte das finanzielle Risiko für die Stadtwerke entscheidend und machte den Weg frei für die gemeinsame Entwicklung mit dem Startup.

Das Förderungsprogramm aws IÖB-Toolbox richtet sich an öffentliche Beschaffer und hat den Zweck, die Planung und Umsetzung von IÖB-Challenges als innovativem Instrument der Markterkundung, juristische und/oder technische Expertise für die Erstellung von Unterlagen für eine geplante Ausschreibung (Modul Prepare), sowie die Durchführung von innovativen Beschaffungen (Modul Transfer) zu ermöglichen. Damit sollen Anreize für eine verstärkte Innovationsnachfrage durch den öffentlichen Sektor gesetzt werden, insbesondere für Vorhaben mit positiven Beiträgen in den Bereichen Nachhaltigkeit und Digitalisierung.

Europäische KI-Architektur On-Premise

Auch technisch setzten die Partner auf digitale Souveränität: Als Sprachmodell dient ein Modell des französischen KI-Unternehmens Mistral, das Mitte des Jahres auch das Linzer Startup EmmiAI kaufte. Die Datenhaltung erfolgt laut Weratschnig ausschließlich On-Premise in eigenen IT-Systemen. Lediglich die reine GPU-Rechenleistung wird bei einem italienischen Anbieter angemietet. „Sobald das Modell nachdenkt, tut es das in dieser Infrastruktur ohne persistente Datenspeicherung. Danach sind keine Datenspuren außerhalb unseres IT-Systems zu finden“, erklärt der IT-Bereichsleiter. Das Resultat ist der angestrebte „Susi Sorglos“-Bot für den internen Arbeitsalltag.

Große Begehrlichkeiten & wertvolle Erkenntnisse

Nach der schrittweisen Bereitstellung als internes Web-Service stieß das Tool auf enormes Interesse in den Fachbereichen. Neben Fachfragen zu Richtlinien entstehen bereits Ideen für eigene Teil-Wissensdatenbanken oder interaktive Schulungsassistenten.

Gleichzeitig liefert das Projekt wertvolle Erkenntnisse für künftige KI-Initiativen. „Der Benefit aus unseren Lessons Learned ist fast ebenso hoch einzustufen wie das Tool an sich“, fasst Weratschnig zusammen. Seine zentralen Ratschläge an andere Unternehmen: Von Beginn an die eigene IT-Architektur und Lieferkette der Dienstleister genau prüfen sowie die Qualität der zugrundeliegenden Analog-Dokumente gründlich analysieren.

Disclaimer: Dieser Artikel ist im Rahmen einer Medienbeauftragung mit der Austria Wirtschaftsservice (aws) entstanden.

Deine ungelesenen Artikel:

Timon Hausböck

vor 15 Stunden

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

Die EU-Kommission hat einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. Dabei sollen Testversionen nicht automatisch zu kostenpflichtigen Abos führen können. Startups, die Trial-Modelle anbieten, brauchen in Zukunft die ausdrückliche Zustimmung der Kund:innen. Iab austria befürchtet durch ein weiteres Gesetz Unklarheiten und unterschiedliche Auslegungen. Der deutsche Startup-Verband sieht eine mögliche finanzielle Belastung für Startups und Scaleups.

/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen

Timon Hausböck

vor 15 Stunden

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen

Jede:r kennt wohl die Situation: Man bezahlt für ein Abo, das man nie bewusst abgeschlossen hat. Aus einer kostenlosen Testversion rutscht man still und leise in ein kostenpflichtiges Abo. Das soll in Zukunft nicht mehr passieren können. Heute hat die EU-Kommission einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. De facto handelt es sich um eine Aktualisierung der EU-Verbraucherschutzvorschriften. Man wolle damit sicherstellen, dass Verbraucher:innen „in der EU online das gleiche hohe Schutzniveau genießen wie offline“. Die Werbebranche sieht in dem Vorschlag vor allem neue Rechtsunsicherheiten.

Die wichtigsten Neuerungen

Verboten werde sollen etwa manipulative Marketingtaktiken, sogenannte „Dark Patterns“. Darunter fallen gefälschte Behauptungen, die Kund:innen dazu bewegen, ein Produkt zu kaufen, das sie sonst nicht gekauft hätten. EU-Bürger:innen werden durch Behauptungen wie „Ein Produkt sei schnell ausverkauft“ dazu bewogen. Neben gratis Testversionen wie Trail-Modelle, die sich nicht automatisch in kostenpflichtige Versionen verwandeln dürfen, müssen Abonnements auch einfach zu kündigen sein.

Die EU-Kommission fordert zudem eine transparente Preisgestaltung, insbesondere bei Käufen mit virtuellen In-App-Währungen und bei dynamischen Preisen für Kultur- und Sportveranstaltungen. In virtuellen Warteschlangen wären Unternehmen verpflichtet, den aktuellen Preis in Echtzeit und den höchstmöglichen Preis anzuzeigen. Außerdem sollen unfaire personalisierte Anzeigen und Preise, die sich an Minderjährige richten, eingeschränkt werden.

Ersparnis von jährlich bis zu 13,7 Mrd. Euro

Parallel zum Gesetz über digitale Fairness schlägt die Kommission eine Überarbeitung der Verordnung über die Zusammenarbeit im Verbraucherschutz vor, mit der der Kommission mehr Befugnisse zur direkten Untersuchung und Verhängung von Geldbußen in Großfällen übertragen würden.

In Brüssel erwarte man einen faireren Wettbewerb, „damit Unternehmen mit Vertrauen wachsen und innovativ sein können“. Außerdem will man, dass Verbraucher:innen durch die Überarbeitungen besser geschützt und fairer behandelt werden. EU-Bürger:innen sollen insgesamt bis zu 13,7 Milliarden Euro pro Jahr sparen.

„Fairness entsteht nicht durch eine weitere Schicht an Vorschriften“

Die Werbebranche sieht das anders: „Niemand in unserer Branche stellt infrage, dass Konsument:innen online fair behandelt werden müssen. Aber Fairness entsteht nicht durch eine weitere Schicht an Vorschriften, sondern durch die konsequente Durchsetzung der bestehenden Regeln“, sagt Hannes Wurzwallner, Präsident des iab austria.

Viele der diskutierten Maßnahmen seien bereits im EU-Recht, wie in der DSGVO oder der UGP-Richtlinie, geregelt. Die Vertretung der Digitalwirtschaft betont in einer Aussendung, dass „überschneidende Regelungen aus Sicht des iab austria zu Rechtsunsicherheit, unterschiedlichen Auslegungen in den Mitgliedstaaten und zusätzlichen Belastungen insbesondere für kleine und mittlere Unternehmen führen könnten“ und spricht sich dafür aus, „bestehende Regeln zu evaluieren, bevor neue entstehen“. Bezüglich der „Dark Patterns“ müsse berücksichtigt werden, dass die Bewertung von Interface-Design vom jeweiligen Kontext abhänge.

Deutscher Startup-Verband warnt vor Mehrbelastung

Von AustrianStartups gibt es bei Veröffentlichung noch keine Stellungnahme. In Deutschland unterstützt man „das Ziel, Verbraucher:innen vor unfairen Praktiken zu schützen, und begrüßt einheitliche Regeln in der EU“, wie der deutsche Startupverband heute mitteilte. Er warnt jedoch vor einer Mehrbelastung für Startups und Scaleups. “Der Digital Fairness Act darf das Skalieren in Europa nicht verteuern. Startups und Scaleups brauchen Regeln, die Verbraucher schützen und Wachstum zulassen”, kommentiert Christoph J. Stresing, Geschäftsführer des Startup-Verbands. Die laufenden Kosten für Unternehmen werden laut Kommission auf 678 Millionen bis 1,2 Milliarden Euro im Jahr beziffert, wie der Startupverband mitteilte.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag