01.06.2021

Guiding Light: Wiener NGO für soziale Tech-Nutzung kooperiert mit Massive Attack

Die Wiener NGO Guiding Light hat mit seiner Initiative im Sinne von "Tech for Good" zum Ziel neuartige und nachhaltige Technologien für soziale Zwecke einsatzbereit zu machen. Und arbeitet dabei mit prominenten Personen des öffentlichen Lebens und Künstlern zusammen.
/artikel/guiding-light-wiener-ngo-fuer-soziale-tech-nutzung-kooperiert-mit-massive-attack
Guiding Light, Tech for Good, Massive Attack
(c) Alexander Gotter - Guiding Light-Director Christian Stiegler möchte den Zugang zu Technologien demokratisieren

Tech for Good ist eine globale Bewegung, die es sich mit der Wiener NGO Guiding Light zum Ziel gesetzt hat neuartige Technologien wie „Extended Reality“ (XR), „Artificial Intelligence“ (AI), Blockchain und „Robotics“ für gesellschaftlich relevante und soziale Zwecke einzusetzen. Sie besteht eigener Definition nach aus klassischen Einzelkämpfern im unternehmerischen Bereich, die mit nachhaltigen Geschäftsmodellen die Welt ein klein wenig besser machen möchten, bis hin zu Vertretern aus Politik, Wissenschaft und Kultur, die in ihren jeweiligen Bereichen mit neuartigen Technologien Thematiken wie etwa Bildung, Klimawandel, Gesundheit und Gleichstellung Positives bewirken wollen.

Zentrum für Ethik und nachhaltige Technologien

„Guiding Light ist die erste internationale NGO für das Thema ‚Tech for Good‘ mit Sitz in Wien. Wir verstehen uns als Zentrum für Ethik und nachhaltige Technologien und haben in einer längeren konzeptionellen Vorarbeit drei Eckpfeiler unserer Tätigkeit definiert“, erklärt Director Christian Stiegler, der gemeinsam mit Co-Director Carina Zehetmaier, Mitgründerin und CEO von taxtastic, die Organisation leitet.

Mit „Residencies“ neue Technologien kennenlernen

„Wir möchten einerseits als Plattform für Einzelkämpfer fungieren und sind sozusagen der erste Orientierungspunkt für jene, die etwas in diesem Bereich bewegen möchten. Der klassische Leuchtturm eben, der Orientierung geben soll“, so Stiegler weiter. „Dabei ist es uns auch wichtig den Diskurs über Ethik, Recht und Nachhaltigkeit in Bezug auf neue Technologien einer Vielzahl von Menschen aus diversen Bereichen zugänglich zu machen. Das ist eine Debatte, die uns alle angeht, und die wir im Rahmen von Events, Workshops, und Seminaren möglichst vielen Zielgruppen näher bringen wollen. Diese ‚Workshops‘, die wir viel lieber ‚Residencies‘ nennen, sind eine völlig neue Erfahrung Technologien kennenzulernen. Sie sind niemals von oben herab – ein Experte kommt und erklärt die Welt -, sondern immer auf Augenhöhe, gegenseitigem Respekt und mit Verständnis für die gesellschaftlichen und sozialen Anliegen konzipiert.“

Lighthouse-Projekt

Der zweite Eckpfeiler umfasst die „Lighthouse“-Projekte. Hier geht darum Partner zu finden, die das „Gute“ in „Tech for Good“ repräsentieren. In erster Linie seien das laut Stiegler NGOs, karitativen Einrichtungen, Charity-Organisationen und auch Künstler wie Clara Blume oder Ex-Politiker Matthias Strolz, die bereits seit vielen Jahren mit Aktionen und Initiativen positiv auf die Gesellschaft einwirken, indem sie z.B. Menschen in Armut oder mit Beeinträchtigungen unterstützen, auf die Gefahren des Klimawandels hinweisen, oder obdachlosen Menschen Hilfsangebote eröffnen.

„Das sind aber ausgerechnet jene Institutionen, die am wenigsten mit Technologien wie AI oder XR zu tun haben. Es geht uns bei unseren Projekten also auch um das Thema ‚Empowerment‘ und um die Bemächtigung von Wissen und Einsatzmöglichkeiten“, so Stiegler weiter.

Ethische Leitlinien erstellen

Als dritter Eckpfeiler gelten ethische Leitlinien mit denen all jene unterstützt werden, die sich nachhaltig, verantwortungsbewusst im Umgang mit neuartigen Technologien aufstellen wollen. Stiegler dazu: „Wir glauben fest daran, dass das möglich ist und wir nur gemeinsam diese Leitlinien immer wieder neu überdenken, anpassen und reflektieren können. In zehn Jahren werden wir über neue Technologien sprechen und uns ihnen stellen müssen, aber die Fragen werden immer wieder relevant bleiben.“

Zuckerberg als Ideen-Katalysator für Tech for Good

Für Stiegler war es ein besonderer Moment, der die Idee zu „Tech for Good“ entfaltete. Er war rund zehn Jahre lang Professor für immersive Medien an Universitäten in UK und Deutschland gewesen. 2016 war Facebook-Gründer Mark Zuckerberg durch eine Menge, von hauptsächlich Journalisten, geschritten, die allesamt Virtual Reality-Headsets trugen.

„Er marschierte an ihnen vorbei, unbemerkt und hell erstrahlt im Scheinwerferlicht, während er dem Publikum seine Realität und Vision für Oculus durch die Headsets vorgab. Eine Realität, die er bzw. Facebook bestimmt hat. Das war eine enorme Machtdemonstration, die wir natürlich etwa von Google auch in anderen Bereichen unserer Gesellschaft beobachten können“, so Stiegler. „Ich hatte das Gefühl, dass sich hier etwas in eine falsche Richtung bewegt und wir gegensteuern müssten. Und ich habe sehr rasch viele Verbündete gefunden, die genauso dachten.“

(c) Zuckerberg/FB – Facebook-Gründer Mark Zuckerberg bei seiner „Machtdemonstration“.

Kurzum, Guiding Light will den Zugang zu Technologien demokratisieren und versteht sich als ein längst überfälliges Gegen-Narrativ zu den übermächtigen multinational agierenden Technologiekonzernen wie Google, Facebook und Amazon. „Das soll nicht heißen, dass diese Konzerne von Grund auf schlecht sind, nur weil sie wirtschaftlichen Zielsetzungen folgen. Aber die Macht neuartige – und daher bisher noch zu wenig reflektierte – Technologien zu nutzen, darf nicht nur in den Händen weniger liegen – und das ist derzeit der Fall“, so Stiegler weiter.

Fremdbestimmung durch Big Player

Diese Unternehmen würden dem Director nach nicht nur unseren Wirtschafts-, sondern auch unsere sozialen und kulturellen Räume bestimmen. Thematiken wie etwa Kommunikation, Identität, Demokratie und Datensicherheit hätten sich durch diese Global Player und wie sie Technologien einsetzen maßgeblich verändert.

„Sie geben tagtäglich den Weg vor welche Technologien wir nutzen und vor allem auf welche Weise wir das tun. Die Frage stellt sich also: Wie kann man eine breite Gesellschaft befähigen diese Technologien nicht nur zu verstehen, sondern sie auch dazu bemächtigen eigene, neue, und bessere Ideen zu entwickeln? Wie kann der Zugang etwa zu XR, Blockchain oder AI dezentralisiert gestaltet werden? Wie können unterschiedliche Communities diesen Zugang finden und befähigt werden Technologien für gesellschaftlich nachhaltige Zwecke einzusetzen? Und wie können wir garantieren, dass Debatten um Ethik und Nachhaltigkeit immer parallel dazu geführt werden, und niemals als abgeschlossen gelten?“, führt Stiegler die drängendsten Fragen unserer Zeit an.

Privilegien des weißen Mannes

Tech for Good und Guiding Light sind streng genommen Ansätze, die die Befähigung neue Technologien zu nutzen wieder zurück in eine diverse Gesellschaft führen möchte. Stiegler als weißer Cis-Mann mit den damit verbundenen Privilegien fühlt sich am wenigsten geeignet über Diversität zu sprechen. Seine Organisation lege aber großen Wert darauf die Gesellschaft in ihrer Vielfältigkeit auch im Bereich Technologie abzubilden.

„Meine Co-Direktorin Carina Zehetmaier ist etwa nicht nur Menschenrechtsaktivistin, sondern auch Präsidentin von ‚Women in Artificial Intelligence Austria‚. Wir arbeiten mit bestehenden Communities wie ‚Women in Immersive Tech, XR Vienna und The Female Factor und wollen insbesondere Frauen, BAME und ‚LGBTQ+ Communities‘ im Technologiebereich eine Plattform bieten, um ihre Ideen und Anliegen mit neuartigen Technologien umzusetzen. Wir sind fest davon überzeugt, wenn all diese Stimmen sich vereinen, dann haben wir tatsächlich die Möglichkeit etwas zu verändern“, sagt Stiegler.

Die Projektbereiche

In den kommenden Monaten werden die ersten „Lighthouse“-Projekte genauer vorgestellt. Mittlerweile haben sich aber bereits einige Bereiche herauskristallisiert, die für Tech for Good wesentlich sind. Darunter Augmented Reality, die laut Stiegler, Menschen in psychisch herausfordernden Krisensituationen Halt in ihrer vermutlich sonst sehr belastenden Umgebung ermöglicht: „Wir sind hier dabei gemeinsam mit karitativen Einrichtungen einen ersten Schritt zu ermöglichen, der den digitalen Erstkontakt weitaus persönlicher und immersiver gestaltet, als ein einfacher Chat das derzeit zu leisten imstande ist.“

Bei Blockchain geht es uns um die Dezentralisierung dieser Technologie, die derzeit in erster Linie einer Elite (mit Wissen und Kapital) zugänglich sei. Stiegler dazu: „Wir arbeiten hier mit einer spannenden Runde Künstlern zusammen, um dieses Modell neu und ‚eco friendly‘ zu denken und werden es in demnächst präsentieren.“

Klimakrise und Machine Learning

Ein weiteres Thema ist die Klimakrise, die man mit AI angeht: „Machine Learning kann in mehreren Einsatzgebieten angewendet werden, u.a. um CO2 zu reduzieren, energieeffiziente Gebäude zu bauen, die Abholzung unserer Wälder nachhaltiger zu denken, und nachhaltigere Transportmittel zu entwickeln. Auch hier haben wir tolle Partner gefunden, die in Guiding Light eine passende Plattform zur Umsetzung ihrer Projekte sehen“, so Stiegler weiter.

Vorträge von Menschenrechtsaktivisten über Musik gelegt

Guiding Light wird bei seinem Vorhaben Technologie für Gutes zu ermöglichen von diversen Künstlern unterstützt. Einer der namhaftesten ist die Band Massive Attack, die mit „Teardrop“ einen weltweiten Hit gelandet hat und einer breiten Masse bekannt ist. Zur Kooperation kam es, da Stiegler als Professor in Bristol, England, um den Einfluss der Musiker nicht herumkam. „Aber abgesehen davon, ich bin ein großer Fan und die Band ist sich seit vielen Jahrzehnten ihrer gesellschaftspolitischen Verantwortung bewusst, und arbeitet u.a. an einer klimaneutralen Form von Tourneen. Für ihre letzte Veröffentlichung ‚Eutopia‘ haben sie u.a. die Vorträge von Klima- und Menschenrechtsaktivisten über ihre Musik gelegt, um eine neue Zielgruppe mit diesen Themen zu erreichen“, sagt Stiegler.

Und führt aus: „Mit solchen Künstlern wollen wir kooperieren und es ist eine extrem große Ehre, dass Massive Attack mit uns arbeiten wollen. Zuviel darf ich noch nicht verraten, an was wir genau tüfteln, aber unser Anliegen ist es, das finale Ergebnis vielen karitativen Einrichtungen zugutekommen zu lassen und dadurch hoffentlich vielen Menschen ein besseres Leben ermöglichen zu können.“

Kooperationspartner von Guiding Light: Massive Attack und ihr Song „Teardrop“

Interessierte können sich über die Webseite bei Tech for Good melden, um die NGO zu unterstützen oder mitzumachen. Zu den nächsten Schritten der NGO gehört es ihr Zentrum stärker in Wien zu verankern – einer Stadt, die Stiegler aufgrund ihrer sozialen Komponente insbesondere in der EU für prädestiniert dafür erachtet, eine gemeinsame europäische Perspektive für den nachhaltigen Umgang mit Technologien zu entwickeln. „In einem weiteren Schritt und als längerfristiges Ziel wäre es sicher sinnvoll, wenn ‚Guiding Light‘ regional in unterschiedlichen Ländern verankert ist, um auch mit regionalen Partnern Projekte zu erarbeiten. Nur auf diese Weise kann man den Gedanken der Dezentralisierung voll und ganz leben“, sagt er und schließt bezüglich der zukünftigen Entwicklung der Organisation mit einem Filmzitat ab: „Roads? Where we’re going we don’t need roads.“

Deine ungelesenen Artikel:
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.
/artikel/no-hype-ki-folge-5
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.
/artikel/no-hype-ki-folge-5

„No Hype KI“ wird unterstützt von CANCOM AustriaIBMITSVMicrosoftNagarroRed Hat und Universität Graz.

Kollaborativ, transparent, frei zugänglich und nicht profit-orientiert – mit Open-Source-Software wird eine Reihe von Eigenschaften assoziiert. Und oftmals stehen bei der Nutzung ethische Überlegungen im Zentrum. Dabei gibt es auch ganz praktische Gründe, die für eine Verwendung durch Unternehmen sprechen – auch bei der Implementierung von KI-Anwendungen, ist Stephan Kraft, Community Advocate & Business Development OpenShift & Application Services bei Red Hat, überzeugt. In Folge fünf der Serie „No Hype KI“ diskutierte er dieses und weitere Themen mit Florian Böttcher, Solution Architect bei CANCOM Austria, Natalie Ségur-Cabanac, Policy Lead bei Women in AI und Patrick Ratheiser, Gründer & CEO von Leftshift.One.

„Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“

„Ich will das Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“, sagt Stephan Kraft. Für Red Hat als weltweit führenden Anbieter für Open-Source-Lösungen für Unternehmen gehen die Argumente für eine Nutzung nämlich weit darüber hinaus. „Es geht nicht darum, Open Source als Selbstzweck zu sehen, um zu den Guten zu gehören“, so der Experte. Tatsächlich sei die Verwendung von Open Source gerade bei der Etablierung von KI im Unternehmen für Startups und KMU eine wichtige Weichenstellung.

Offenheit, um Diskriminierung entgegenzuwirken

Auch Natalie Ségur-Cabanac sieht Open Source als „Key Technology“ im KI-Bereich. Für „Women in AI“ spiele die Offenheit eine zentrale Rolle: „Diese Offenheit braucht es, um Diskriminierung entgegenzuwirken.“ Open Source verbessere den Zugang für Frauen zur Technologie, die Abbildung von Frauen in den Daten und es vergrößere die Möglichkeiten in der Forschung. Man müsse aber auch aufpassen, ob Software wirklich so offen sei, wie behauptet, sagt sie bezogen auf die aktuellen Diskussionen rund um OpenAI, das sich – ursprünglich als offenes Projekt gestartet – zum profitorientierten Unternehmen entwickelte. Es brauche auch eine klare Definition, was „open“ sei.

Masse an Möglichkeiten

Leftshift.One-Gründer Patrick Ratheiser betont auch die schiere Masse an Möglichkeiten, die Open Source bietet. „2021 hatten wir weltweit Zugriff auf circa 5.000 Open-Source-Modelle. Jetzt sind es bereits mehr als eine Million.“ Die Nutzbarkeit sei also klar gegeben, zudem biete die Technologie eine gewisse Unabhängigkeit und werde über ihre Vielfalt zum Innovationstreiber.

Ist Open Source immer die beste Lösung?

Doch bedeutet das, dass Open Source immer die optimale Lösung ist? Ratheiser sieht das differenziert: „Es ist ganz wichtig zu erkennen, was der Kunde braucht und was in dem Fall gerade notwendig ist. Egal, ob es nun On-Premise, in der Cloud, Open Source oder Closed Source ist.“ Florian Böttcher von CANCOM Austria pflichtet hier bei: „Wir setzen genau so auf hybrid.“

Datenstruktur im Hintergrund ist entscheidend

Ein Thema, bei dem bei Open Source Vorsicht geboten ist, spricht Natalie Ségur-Cabanac an. Besonders wichtig sei es bei KI-Anwendungen, eine gute Datenstruktur im Hintergrund zu haben. „Die Verantwortung, dass ein Modell mit sauberen Daten trainiert worden ist, liegt bei den Anbietern. Bei Open Source verschwimmt das ein bisschen. Wer ist wofür zuständig? Das ist eine Herausforderung für die Compliance zu schauen, wo man selbst verantwortlich ist und wo man sich auf einen Anbieter verlassen kann.“

Compliance: Großes Thema – mehr Sichereheit mit professioneller Unterstützung

Stephan Kraft hakt hier ein. Genau aus solchen Gründen gebe es Unternehmen wie Red Hat, die mit ihrem Enterprise-Support für Open-Source-Lösungen die Qualitätssicherung auch im rechtlichen Bereich übernehmen. „Das ist ein ganz wichtiger Teil unseres Versprechens gegenüber Kunden“, so Kraft. Unbedacht im Unternehmen mit Open Source zu arbeiten, könne dagegen in „Compliance-Fallen“ führen, pflichtet er Ségur-Cabanac bei.

Das sieht auch Patrick Ratheiser als Thema bei Leftshift.One: „Unsere Lösung ist Closed Source, wir setzen aber im Hintergrund Open Source ein. Wichtig ist, dass wir dem Kunden Compliance garantieren können.“ Stephan Kraft empfiehlt Unternehmen bei der Open-Source-Nutzung: „Man kann nicht immer gleich die neueste ‚bleeding edge‘-Lösung nehmen sondern sollte etwas konservativer herangehen.“

Infrastruktur: Gut planen, was man wirklich braucht

Unabhängig davon, ob man nun Open Source oder Closed Source nutzt, braucht es für die Nutzung von KI die richtige Infrastruktur. „Es kommt natürlich auf den Use Case an, den ein Unternehmen umsetzen will. Da sind die Anforderungen an die Infrastruktur sehr unterschiedlich“, grenzt Florian Böttcher ein. CANCOM Austria unterstützt seine Kunden in genau der Frage. Anwendungen wie das Training von KI-Modellen würde aus gutem Grund kaum in Österreich umgesetzt. „KI ist sehr stromhungrig und entwickelt viel Hitze. Das ist schwierig für ein eigenes Data-Center im Unternehmen, gerade wenn man die Strompreise in Österreich ansieht“, so Böttcher.

„Rechenleistungs-Hunger“ von KI könnte sich in Zukunft verringern

Wichtig sei es letztlich, sich als Unternehmen sehr klar darüber zu sein, was man umsetzen wolle. „Danach, welche Software-Lösung man für seinen Use Case einsetzen muss, richtet sich auch die Infrastruktur“, so Böttcher. Er erwarte aber auch, dass die KI-Modelle im nächsten Entwicklungsschritt effizienter werden und der „Rechenleistungs-Hunger“ sich verringere.

Patrick Ratheiser ergänzt: „Es ist grundsätzlich eine Kostenfrage.“ Unternehmen müssten sich sehr gut überlegen, ob sie ein eigenes LLM (Large Language Model) betreiben und dieses sogar selbst trainieren wollen, oder lieber doch eine Usage-basierte Lösung wählen. Er sehe bei österreichischen Unternehmen – auch bei größeren – eine klare Tendenz zur zweiten Variante. „Es lässt sich deutlich schneller einrichten, ist kalkulierbarer und auch viel schneller skalierbar“, erklärt Ratheiser.

Etwa im Forschungsbereich sei es jedoch wichtig und notwendig, auch eigene LLMs und die damit verbundene Infrastruktur zu betreiben. Doch auch die Möglichkeit von hybriden Lösungen biete sich an. „Man kann mittlerweile auch Teile in der Cloud lassen und Teile On-Premise. Man kann etwa nur ein datenschutzsicheres LLM selbst betreiben“, erklärt der Experte, der auch bei der Wahl der genutzten Modelle einen hybriden Ansatz empfiehlt: „Man braucht nicht für alle Use Cases das neueste Modell. Manchmal braucht man überhaupt kein LLM.“

Datenschutz: Einige Herausforderungen bei LLMs

Stichwort: Datenschutz. Hier schafft die europäische Datenschutzgrundverordnung (DSGVO) im KI-Bereich besondere Herausforderungen, weiß Natalie Ségur-Cabanac, die vorab betont: „Ich persönlich halte die DSGVO für ein gutes Regulierungswerk, weil sie sehr viel Spielraum gibt. Ich sage immer: Datenschutz ist sehr komplex, aber nicht kompliziert.“ Konkret seien etwa der Grundsatz der Zweckbezogenheit, also dass man Daten nur für konkrete Zwecke einsetzen darf, und dass man sie minimierend einsetzen muss, relevant für den KI-Bereich. „Da haben wir schon einen Konflikt, weil man ja [bei LLMs] erst einmal schaut, was man aus möglichst vielen Daten machen kann“, so die Expertin.

Ist KI rechtlich innerhalb der EU sogar per se in einem Graubereich?

Auch Transparenzbestimmungen – sowohl in der DSGVO als auch im AI-Act der EU – seien zu beachten. „Wenn ich KI verwende, muss ich auch wissen, was drinnen ist“, fasst Ségur-Cabanac zusammen. Ist KI also rechtlich innerhalb der EU sogar per se in einem Graubereich? „Nein, das glaube ich nicht. Aber man muss seine Hausaufgaben schon gut machen“, sagt die Expertin. Wichtig sei daher auch die im Rahmen des EU-AI-Acts eingeforderte KI-Kompetenz in Unternehmen – im technischen und rechtlichen Bereich.

KI-Kompetenz als zentrales Thema

Patrick Ratheiser stimmt zu: „Neben der Technologie selber sind bei unseren Kunden die Mitarbeiter ein Riesen-Thema. Man muss sie nicht nur wegen dem AI-Act fit bekommen, sondern es geht darum, sie wirklich auf die Anwendungen einzuschulen.“ Wichtig seien dabei auch die Kolleg:innen, die sich bereits mit dem Thema auskennen – die „Pioniere“ im Unternehmen. „AI Literacy ist sicherlich das Thema 2025 und in nächster Zeit. So, wie wir gelernt haben, mit dem Smartphone umzugehen, werden wir es auch mit generativer KI lernen“, so Ratheiser.

„Einfach einmal ausprobieren“

Stephan Kraft ergänzt: Neben einer soliden Datenbasis und der notwendigen Kompetenz brauche es bei KI – gerade auch im Bereich Open Source – noch etwas: „Einfach einmal ausprobieren. Es braucht auch Trial and Error. Das ist vielleicht oft das Schwierigste für CFOs und Geschäftsführer.“ Dieses Ausprobieren sollte aber innerhalb eines festgelegten Rahmens passieren, damit die KI-Implementierung gelingt, meint Natalie Ségur-Cabanac: „Unternehmen brauchen eine KI-Strategie und müssen wissen, was sie mit der Technologie erreichen wollen.“ Auch sich mit den zuvor angesprochenen rechtlichen Anforderungen – Stichwort Compliance – zu beschäftigen, komme zeitlich erst nach der Festlegung der Strategie.


Die gesamte Folge ansehen:

Die Nachlesen der bisherigen Folgen:

Folge 1: “No Hype KI – wo stehen wir nach zwei Jahren ChatGPT?

Folge 2: “Was kann KI in Gesundheit, Bildung und im öffentlichen Sektor leisten?

Folge 3: “Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis”

Folge 4: KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”


Die Serie wird von brutkasten in redaktioneller Unabhängigkeit mit finanzieller Unterstützung unserer Partner:innen produziert.

No Hype KI
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.

„No Hype KI“ wird unterstützt von CANCOM AustriaIBMITSVMicrosoftNagarroRed Hat und Universität Graz.

Kollaborativ, transparent, frei zugänglich und nicht profit-orientiert – mit Open-Source-Software wird eine Reihe von Eigenschaften assoziiert. Und oftmals stehen bei der Nutzung ethische Überlegungen im Zentrum. Dabei gibt es auch ganz praktische Gründe, die für eine Verwendung durch Unternehmen sprechen – auch bei der Implementierung von KI-Anwendungen, ist Stephan Kraft, Community Advocate & Business Development OpenShift & Application Services bei Red Hat, überzeugt. In Folge fünf der Serie „No Hype KI“ diskutierte er dieses und weitere Themen mit Florian Böttcher, Solution Architect bei CANCOM Austria, Natalie Ségur-Cabanac, Policy Lead bei Women in AI und Patrick Ratheiser, Gründer & CEO von Leftshift.One.

„Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“

„Ich will das Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“, sagt Stephan Kraft. Für Red Hat als weltweit führenden Anbieter für Open-Source-Lösungen für Unternehmen gehen die Argumente für eine Nutzung nämlich weit darüber hinaus. „Es geht nicht darum, Open Source als Selbstzweck zu sehen, um zu den Guten zu gehören“, so der Experte. Tatsächlich sei die Verwendung von Open Source gerade bei der Etablierung von KI im Unternehmen für Startups und KMU eine wichtige Weichenstellung.

Offenheit, um Diskriminierung entgegenzuwirken

Auch Natalie Ségur-Cabanac sieht Open Source als „Key Technology“ im KI-Bereich. Für „Women in AI“ spiele die Offenheit eine zentrale Rolle: „Diese Offenheit braucht es, um Diskriminierung entgegenzuwirken.“ Open Source verbessere den Zugang für Frauen zur Technologie, die Abbildung von Frauen in den Daten und es vergrößere die Möglichkeiten in der Forschung. Man müsse aber auch aufpassen, ob Software wirklich so offen sei, wie behauptet, sagt sie bezogen auf die aktuellen Diskussionen rund um OpenAI, das sich – ursprünglich als offenes Projekt gestartet – zum profitorientierten Unternehmen entwickelte. Es brauche auch eine klare Definition, was „open“ sei.

Masse an Möglichkeiten

Leftshift.One-Gründer Patrick Ratheiser betont auch die schiere Masse an Möglichkeiten, die Open Source bietet. „2021 hatten wir weltweit Zugriff auf circa 5.000 Open-Source-Modelle. Jetzt sind es bereits mehr als eine Million.“ Die Nutzbarkeit sei also klar gegeben, zudem biete die Technologie eine gewisse Unabhängigkeit und werde über ihre Vielfalt zum Innovationstreiber.

Ist Open Source immer die beste Lösung?

Doch bedeutet das, dass Open Source immer die optimale Lösung ist? Ratheiser sieht das differenziert: „Es ist ganz wichtig zu erkennen, was der Kunde braucht und was in dem Fall gerade notwendig ist. Egal, ob es nun On-Premise, in der Cloud, Open Source oder Closed Source ist.“ Florian Böttcher von CANCOM Austria pflichtet hier bei: „Wir setzen genau so auf hybrid.“

Datenstruktur im Hintergrund ist entscheidend

Ein Thema, bei dem bei Open Source Vorsicht geboten ist, spricht Natalie Ségur-Cabanac an. Besonders wichtig sei es bei KI-Anwendungen, eine gute Datenstruktur im Hintergrund zu haben. „Die Verantwortung, dass ein Modell mit sauberen Daten trainiert worden ist, liegt bei den Anbietern. Bei Open Source verschwimmt das ein bisschen. Wer ist wofür zuständig? Das ist eine Herausforderung für die Compliance zu schauen, wo man selbst verantwortlich ist und wo man sich auf einen Anbieter verlassen kann.“

Compliance: Großes Thema – mehr Sichereheit mit professioneller Unterstützung

Stephan Kraft hakt hier ein. Genau aus solchen Gründen gebe es Unternehmen wie Red Hat, die mit ihrem Enterprise-Support für Open-Source-Lösungen die Qualitätssicherung auch im rechtlichen Bereich übernehmen. „Das ist ein ganz wichtiger Teil unseres Versprechens gegenüber Kunden“, so Kraft. Unbedacht im Unternehmen mit Open Source zu arbeiten, könne dagegen in „Compliance-Fallen“ führen, pflichtet er Ségur-Cabanac bei.

Das sieht auch Patrick Ratheiser als Thema bei Leftshift.One: „Unsere Lösung ist Closed Source, wir setzen aber im Hintergrund Open Source ein. Wichtig ist, dass wir dem Kunden Compliance garantieren können.“ Stephan Kraft empfiehlt Unternehmen bei der Open-Source-Nutzung: „Man kann nicht immer gleich die neueste ‚bleeding edge‘-Lösung nehmen sondern sollte etwas konservativer herangehen.“

Infrastruktur: Gut planen, was man wirklich braucht

Unabhängig davon, ob man nun Open Source oder Closed Source nutzt, braucht es für die Nutzung von KI die richtige Infrastruktur. „Es kommt natürlich auf den Use Case an, den ein Unternehmen umsetzen will. Da sind die Anforderungen an die Infrastruktur sehr unterschiedlich“, grenzt Florian Böttcher ein. CANCOM Austria unterstützt seine Kunden in genau der Frage. Anwendungen wie das Training von KI-Modellen würde aus gutem Grund kaum in Österreich umgesetzt. „KI ist sehr stromhungrig und entwickelt viel Hitze. Das ist schwierig für ein eigenes Data-Center im Unternehmen, gerade wenn man die Strompreise in Österreich ansieht“, so Böttcher.

„Rechenleistungs-Hunger“ von KI könnte sich in Zukunft verringern

Wichtig sei es letztlich, sich als Unternehmen sehr klar darüber zu sein, was man umsetzen wolle. „Danach, welche Software-Lösung man für seinen Use Case einsetzen muss, richtet sich auch die Infrastruktur“, so Böttcher. Er erwarte aber auch, dass die KI-Modelle im nächsten Entwicklungsschritt effizienter werden und der „Rechenleistungs-Hunger“ sich verringere.

Patrick Ratheiser ergänzt: „Es ist grundsätzlich eine Kostenfrage.“ Unternehmen müssten sich sehr gut überlegen, ob sie ein eigenes LLM (Large Language Model) betreiben und dieses sogar selbst trainieren wollen, oder lieber doch eine Usage-basierte Lösung wählen. Er sehe bei österreichischen Unternehmen – auch bei größeren – eine klare Tendenz zur zweiten Variante. „Es lässt sich deutlich schneller einrichten, ist kalkulierbarer und auch viel schneller skalierbar“, erklärt Ratheiser.

Etwa im Forschungsbereich sei es jedoch wichtig und notwendig, auch eigene LLMs und die damit verbundene Infrastruktur zu betreiben. Doch auch die Möglichkeit von hybriden Lösungen biete sich an. „Man kann mittlerweile auch Teile in der Cloud lassen und Teile On-Premise. Man kann etwa nur ein datenschutzsicheres LLM selbst betreiben“, erklärt der Experte, der auch bei der Wahl der genutzten Modelle einen hybriden Ansatz empfiehlt: „Man braucht nicht für alle Use Cases das neueste Modell. Manchmal braucht man überhaupt kein LLM.“

Datenschutz: Einige Herausforderungen bei LLMs

Stichwort: Datenschutz. Hier schafft die europäische Datenschutzgrundverordnung (DSGVO) im KI-Bereich besondere Herausforderungen, weiß Natalie Ségur-Cabanac, die vorab betont: „Ich persönlich halte die DSGVO für ein gutes Regulierungswerk, weil sie sehr viel Spielraum gibt. Ich sage immer: Datenschutz ist sehr komplex, aber nicht kompliziert.“ Konkret seien etwa der Grundsatz der Zweckbezogenheit, also dass man Daten nur für konkrete Zwecke einsetzen darf, und dass man sie minimierend einsetzen muss, relevant für den KI-Bereich. „Da haben wir schon einen Konflikt, weil man ja [bei LLMs] erst einmal schaut, was man aus möglichst vielen Daten machen kann“, so die Expertin.

Ist KI rechtlich innerhalb der EU sogar per se in einem Graubereich?

Auch Transparenzbestimmungen – sowohl in der DSGVO als auch im AI-Act der EU – seien zu beachten. „Wenn ich KI verwende, muss ich auch wissen, was drinnen ist“, fasst Ségur-Cabanac zusammen. Ist KI also rechtlich innerhalb der EU sogar per se in einem Graubereich? „Nein, das glaube ich nicht. Aber man muss seine Hausaufgaben schon gut machen“, sagt die Expertin. Wichtig sei daher auch die im Rahmen des EU-AI-Acts eingeforderte KI-Kompetenz in Unternehmen – im technischen und rechtlichen Bereich.

KI-Kompetenz als zentrales Thema

Patrick Ratheiser stimmt zu: „Neben der Technologie selber sind bei unseren Kunden die Mitarbeiter ein Riesen-Thema. Man muss sie nicht nur wegen dem AI-Act fit bekommen, sondern es geht darum, sie wirklich auf die Anwendungen einzuschulen.“ Wichtig seien dabei auch die Kolleg:innen, die sich bereits mit dem Thema auskennen – die „Pioniere“ im Unternehmen. „AI Literacy ist sicherlich das Thema 2025 und in nächster Zeit. So, wie wir gelernt haben, mit dem Smartphone umzugehen, werden wir es auch mit generativer KI lernen“, so Ratheiser.

„Einfach einmal ausprobieren“

Stephan Kraft ergänzt: Neben einer soliden Datenbasis und der notwendigen Kompetenz brauche es bei KI – gerade auch im Bereich Open Source – noch etwas: „Einfach einmal ausprobieren. Es braucht auch Trial and Error. Das ist vielleicht oft das Schwierigste für CFOs und Geschäftsführer.“ Dieses Ausprobieren sollte aber innerhalb eines festgelegten Rahmens passieren, damit die KI-Implementierung gelingt, meint Natalie Ségur-Cabanac: „Unternehmen brauchen eine KI-Strategie und müssen wissen, was sie mit der Technologie erreichen wollen.“ Auch sich mit den zuvor angesprochenen rechtlichen Anforderungen – Stichwort Compliance – zu beschäftigen, komme zeitlich erst nach der Festlegung der Strategie.


Die gesamte Folge ansehen:

Die Nachlesen der bisherigen Folgen:

Folge 1: “No Hype KI – wo stehen wir nach zwei Jahren ChatGPT?

Folge 2: “Was kann KI in Gesundheit, Bildung und im öffentlichen Sektor leisten?

Folge 3: “Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis”

Folge 4: KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”


Die Serie wird von brutkasten in redaktioneller Unabhängigkeit mit finanzieller Unterstützung unserer Partner:innen produziert.

No Hype KI
Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag