27.01.2025
FOLGE 5 | NACHLESE

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.
/artikel/no-hype-ki-folge-5

„No Hype KI“ wird unterstützt von CANCOM Austria, IBM, ITSV, Microsoft, Nagarro, Red Hat und Universität Graz.

Kollaborativ, transparent, frei zugänglich und nicht profit-orientiert – mit Open-Source-Software wird eine Reihe von Eigenschaften assoziiert. Und oftmals stehen bei der Nutzung ethische Überlegungen im Zentrum. Dabei gibt es auch ganz praktische Gründe, die für eine Verwendung durch Unternehmen sprechen – auch bei der Implementierung von KI-Anwendungen, ist Stephan Kraft, Community Advocate & Business Development OpenShift & Application Services bei Red Hat, überzeugt. In Folge fünf der Serie „No Hype KI“ diskutierte er dieses und weitere Themen mit Florian Böttcher, Solution Architect bei CANCOM Austria, Natalie Ségur-Cabanac, Policy Lead bei Women in AI und Patrick Ratheiser, Gründer & CEO von Leftshift.One.

„Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“

„Ich will das Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“, sagt Stephan Kraft. Für Red Hat als weltweit führenden Anbieter für Open-Source-Lösungen für Unternehmen gehen die Argumente für eine Nutzung nämlich weit darüber hinaus. „Es geht nicht darum, Open Source als Selbstzweck zu sehen, um zu den Guten zu gehören“, so der Experte. Tatsächlich sei die Verwendung von Open Source gerade bei der Etablierung von KI im Unternehmen für Startups und KMU eine wichtige Weichenstellung.

Offenheit, um Diskriminierung entgegenzuwirken

Auch Natalie Ségur-Cabanac sieht Open Source als „Key Technology“ im KI-Bereich. Für „Women in AI“ spiele die Offenheit eine zentrale Rolle: „Diese Offenheit braucht es, um Diskriminierung entgegenzuwirken.“ Open Source verbessere den Zugang für Frauen zur Technologie, die Abbildung von Frauen in den Daten und es vergrößere die Möglichkeiten in der Forschung. Man müsse aber auch aufpassen, ob Software wirklich so offen sei, wie behauptet, sagt sie bezogen auf die aktuellen Diskussionen rund um OpenAI, das sich – ursprünglich als offenes Projekt gestartet – zum profitorientierten Unternehmen entwickelte. Es brauche auch eine klare Definition, was „open“ sei.

Masse an Möglichkeiten

Leftshift.One-Gründer Patrick Ratheiser betont auch die schiere Masse an Möglichkeiten, die Open Source bietet. „2021 hatten wir weltweit Zugriff auf circa 5.000 Open-Source-Modelle. Jetzt sind es bereits mehr als eine Million.“ Die Nutzbarkeit sei also klar gegeben, zudem biete die Technologie eine gewisse Unabhängigkeit und werde über ihre Vielfalt zum Innovationstreiber.

Ist Open Source immer die beste Lösung?

Doch bedeutet das, dass Open Source immer die optimale Lösung ist? Ratheiser sieht das differenziert: „Es ist ganz wichtig zu erkennen, was der Kunde braucht und was in dem Fall gerade notwendig ist. Egal, ob es nun On-Premise, in der Cloud, Open Source oder Closed Source ist.“ Florian Böttcher von CANCOM Austria pflichtet hier bei: „Wir setzen genau so auf hybrid.“

Datenstruktur im Hintergrund ist entscheidend

Ein Thema, bei dem bei Open Source Vorsicht geboten ist, spricht Natalie Ségur-Cabanac an. Besonders wichtig sei es bei KI-Anwendungen, eine gute Datenstruktur im Hintergrund zu haben. „Die Verantwortung, dass ein Modell mit sauberen Daten trainiert worden ist, liegt bei den Anbietern. Bei Open Source verschwimmt das ein bisschen. Wer ist wofür zuständig? Das ist eine Herausforderung für die Compliance zu schauen, wo man selbst verantwortlich ist und wo man sich auf einen Anbieter verlassen kann.“

Compliance: Großes Thema – mehr Sichereheit mit professioneller Unterstützung

Stephan Kraft hakt hier ein. Genau aus solchen Gründen gebe es Unternehmen wie Red Hat, die mit ihrem Enterprise-Support für Open-Source-Lösungen die Qualitätssicherung auch im rechtlichen Bereich übernehmen. „Das ist ein ganz wichtiger Teil unseres Versprechens gegenüber Kunden“, so Kraft. Unbedacht im Unternehmen mit Open Source zu arbeiten, könne dagegen in „Compliance-Fallen“ führen, pflichtet er Ségur-Cabanac bei.

Das sieht auch Patrick Ratheiser als Thema bei Leftshift.One: „Unsere Lösung ist Closed Source, wir setzen aber im Hintergrund Open Source ein. Wichtig ist, dass wir dem Kunden Compliance garantieren können.“ Stephan Kraft empfiehlt Unternehmen bei der Open-Source-Nutzung: „Man kann nicht immer gleich die neueste ‚bleeding edge‘-Lösung nehmen sondern sollte etwas konservativer herangehen.“

Infrastruktur: Gut planen, was man wirklich braucht

Unabhängig davon, ob man nun Open Source oder Closed Source nutzt, braucht es für die Nutzung von KI die richtige Infrastruktur. „Es kommt natürlich auf den Use Case an, den ein Unternehmen umsetzen will. Da sind die Anforderungen an die Infrastruktur sehr unterschiedlich“, grenzt Florian Böttcher ein. CANCOM Austria unterstützt seine Kunden in genau der Frage. Anwendungen wie das Training von KI-Modellen würde aus gutem Grund kaum in Österreich umgesetzt. „KI ist sehr stromhungrig und entwickelt viel Hitze. Das ist schwierig für ein eigenes Data-Center im Unternehmen, gerade wenn man die Strompreise in Österreich ansieht“, so Böttcher.

„Rechenleistungs-Hunger“ von KI könnte sich in Zukunft verringern

Wichtig sei es letztlich, sich als Unternehmen sehr klar darüber zu sein, was man umsetzen wolle. „Danach, welche Software-Lösung man für seinen Use Case einsetzen muss, richtet sich auch die Infrastruktur“, so Böttcher. Er erwarte aber auch, dass die KI-Modelle im nächsten Entwicklungsschritt effizienter werden und der „Rechenleistungs-Hunger“ sich verringere.

Patrick Ratheiser ergänzt: „Es ist grundsätzlich eine Kostenfrage.“ Unternehmen müssten sich sehr gut überlegen, ob sie ein eigenes LLM (Large Language Model) betreiben und dieses sogar selbst trainieren wollen, oder lieber doch eine Usage-basierte Lösung wählen. Er sehe bei österreichischen Unternehmen – auch bei größeren – eine klare Tendenz zur zweiten Variante. „Es lässt sich deutlich schneller einrichten, ist kalkulierbarer und auch viel schneller skalierbar“, erklärt Ratheiser.

Etwa im Forschungsbereich sei es jedoch wichtig und notwendig, auch eigene LLMs und die damit verbundene Infrastruktur zu betreiben. Doch auch die Möglichkeit von hybriden Lösungen biete sich an. „Man kann mittlerweile auch Teile in der Cloud lassen und Teile On-Premise. Man kann etwa nur ein datenschutzsicheres LLM selbst betreiben“, erklärt der Experte, der auch bei der Wahl der genutzten Modelle einen hybriden Ansatz empfiehlt: „Man braucht nicht für alle Use Cases das neueste Modell. Manchmal braucht man überhaupt kein LLM.“

Datenschutz: Einige Herausforderungen bei LLMs

Stichwort: Datenschutz. Hier schafft die europäische Datenschutzgrundverordnung (DSGVO) im KI-Bereich besondere Herausforderungen, weiß Natalie Ségur-Cabanac, die vorab betont: „Ich persönlich halte die DSGVO für ein gutes Regulierungswerk, weil sie sehr viel Spielraum gibt. Ich sage immer: Datenschutz ist sehr komplex, aber nicht kompliziert.“ Konkret seien etwa der Grundsatz der Zweckbezogenheit, also dass man Daten nur für konkrete Zwecke einsetzen darf, und dass man sie minimierend einsetzen muss, relevant für den KI-Bereich. „Da haben wir schon einen Konflikt, weil man ja [bei LLMs] erst einmal schaut, was man aus möglichst vielen Daten machen kann“, so die Expertin.

Ist KI rechtlich innerhalb der EU sogar per se in einem Graubereich?

Auch Transparenzbestimmungen – sowohl in der DSGVO als auch im AI-Act der EU – seien zu beachten. „Wenn ich KI verwende, muss ich auch wissen, was drinnen ist“, fasst Ségur-Cabanac zusammen. Ist KI also rechtlich innerhalb der EU sogar per se in einem Graubereich? „Nein, das glaube ich nicht. Aber man muss seine Hausaufgaben schon gut machen“, sagt die Expertin. Wichtig sei daher auch die im Rahmen des EU-AI-Acts eingeforderte KI-Kompetenz in Unternehmen – im technischen und rechtlichen Bereich.

KI-Kompetenz als zentrales Thema

Patrick Ratheiser stimmt zu: „Neben der Technologie selber sind bei unseren Kunden die Mitarbeiter ein Riesen-Thema. Man muss sie nicht nur wegen dem AI-Act fit bekommen, sondern es geht darum, sie wirklich auf die Anwendungen einzuschulen.“ Wichtig seien dabei auch die Kolleg:innen, die sich bereits mit dem Thema auskennen – die „Pioniere“ im Unternehmen. „AI Literacy ist sicherlich das Thema 2025 und in nächster Zeit. So, wie wir gelernt haben, mit dem Smartphone umzugehen, werden wir es auch mit generativer KI lernen“, so Ratheiser.

„Einfach einmal ausprobieren“

Stephan Kraft ergänzt: Neben einer soliden Datenbasis und der notwendigen Kompetenz brauche es bei KI – gerade auch im Bereich Open Source – noch etwas: „Einfach einmal ausprobieren. Es braucht auch Trial and Error. Das ist vielleicht oft das Schwierigste für CFOs und Geschäftsführer.“ Dieses Ausprobieren sollte aber innerhalb eines festgelegten Rahmens passieren, damit die KI-Implementierung gelingt, meint Natalie Ségur-Cabanac: „Unternehmen brauchen eine KI-Strategie und müssen wissen, was sie mit der Technologie erreichen wollen.“ Auch sich mit den zuvor angesprochenen rechtlichen Anforderungen – Stichwort Compliance – zu beschäftigen, komme zeitlich erst nach der Festlegung der Strategie.


Die gesamte Folge ansehen:

Die Nachlesen der bisherigen Folgen:

Folge 1: “No Hype KI – wo stehen wir nach zwei Jahren ChatGPT?“

Folge 2: “Was kann KI in Gesundheit, Bildung und im öffentlichen Sektor leisten?“

Folge 3: “Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis”

Folge 4: KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”


Die Serie wird von brutkasten in redaktioneller Unabhängigkeit mit finanzieller Unterstützung unserer Partner:innen produziert.

No Hype KI
Deine ungelesenen Artikel:
13.10.2026

Codesphere: die europäische Hyperscaler-Alternative ohne eigene Rechenzentren

Mit Codesphere baut Elias Schneider in Deutschland einen virtuellen Cloud-Provider und kann bereits große Regierungsaufträge vorweisen. Im brutkasten-Talk sprach er über sein Scaleup, digitale Souveränität, den Staat als Kunden und Hemmschuhe für europäische Scaleups.
/artikel/codesphere-die-europaeische-hyperscaler-alternative-ohne-eigene-rechenzentren
13.10.2026

Codesphere: die europäische Hyperscaler-Alternative ohne eigene Rechenzentren

Mit Codesphere baut Elias Schneider in Deutschland einen virtuellen Cloud-Provider und kann bereits große Regierungsaufträge vorweisen. Im brutkasten-Talk sprach er über sein Scaleup, digitale Souveränität, den Staat als Kunden und Hemmschuhe für europäische Scaleups.
/artikel/codesphere-die-europaeische-hyperscaler-alternative-ohne-eigene-rechenzentren
Codesphere-Gründer Elias Schneider | (c) brutkasten / Dervisevic
Codesphere-Gründer Elias Schneider | (c) brutkasten / Dervisevic

„Es hat sich noch nie so echt angefühlt, wirklich eine Alternative zu den US-Hyperscalern bauen zu können”, sagt Elias Schneider, Gründer und CEO von Codesphere, im brutkasten-Talk über die aktuelle Dynamik auf dem europäischen Cloud-Markt. Das deutsche Scaleup will mit seinem Modell den großen US-Anbietern die Stirn bieten.

Deutsche Regierungsinstitutionen als Referenzkunden

„Wir bauen einen virtuellen Cloud-Provider, also nicht den gesamten Stack eines Hyperscalers mit Rechenzentren und Servern, sondern quasi nur die Software“, erklärt Schneider. Damit konnte man bereits denkbar namhafte Kunden gewinnen: Das System kommt etwa in unterschiedlichen souveränen Plattformen der deutschen Bundesregierung zum Einsatz. Über das Plattform-Modell funktioniere das Angebot wie ein App-Store für jegliche Infrastruktur, sagt der Gründer. Damit könne Software beschleunigt beschafft und im kritischen Infrastrukturmarkt betrieben werden.

Dass Codesphere als europäischer Technologieanbieter auch im direkten Wettbewerb mit etablierten US-Konzernen bestehen kann, erläutert Schneider an einer kürzlich erfolgten Großausschreibung: „Wir haben gemeinsam mit der Schwarz-Gruppe, der Telekom und anderen Partnern eine Ausschreibung für die KI-Plattform der deutschen Bundesregierung im Wert von 250 Millionen Euro gewonnen – und das auch gegen Google.“ Die zuletzt gewonnenen Rahmenverträge des Unternehmens beliefen sich auf ein Gesamtvolumen von mehr als 500 Millionen Euro. „Das eigentliche Hauptargument, heute keine europäischen Lösungen zu kaufen, ist, dass sie nicht so viele Managed Services anbieten können wie die US-Hyperscaler. Dieses Bundle aufzubrechen, geht nur mit starken Partnerschaften in Europa und wenn wir es schaffen, dass man alles zusammen macht.“

“Einer unserer größten Skalierungs-Blocker”

Die Motivation für die Nutzung souveräner Plattformen begründet Schneider mit zentralen Sicherheits- und Wirtschaftsfragen. „Es geht einmal um Autonomie und darum, dass die Infrastruktur der kritischen Infrastruktur dem Bund gehört und man nicht von US-Lösungen abgeklemmt werden kann.“ Gleichzeitig schränke die Aufsplitterung des europäischen Marktes das Wachstum heimischer Unternehmen bisher stark ein. In den USA existierten einheitliche politische Interessen und dieselbe Regulatorik für einen riesigen Markt. In Europa gebe es hingegen pro Land, Bundesland und Sektor unterschiedliche politische Interessen sowie abweichende Regeln. „Das ist einer unserer größten Skalierungs-Blocker, weil wir in Europa keinen Markt haben, der groß genug ist, um Unternehmen zu bauen, die 100 oder 1.000 Milliarden wert sind. Und das liegt daran, dass wir zu wenig miteinander arbeiten.“

Elias Schneider (r.) im brutkasten-Studio mit Dejan Jovicevic | (c) brutkasten / Dervisevic

Um diese Hürden zu überwinden, spiele die öffentliche Hand als Auftraggeber eine Schlüsselrolle. Vor der veränderten geopolitischen Lage habe sich Codesphere zunächst auf regulatorisch anspruchsvolle Nischen und die kritische Infrastruktur fokussiert – wie etwa beim Gefängnis-Telefoniedienstleister Lawful Intercept oder der Staatsbank Baden-Württemberg. „Bei der kritischen Infrastruktur konnten Kunden aus regulatorischen Gründen nicht mit US-Anbietern arbeiten, weil es zu unflexibel war.“ Als sich die geopolitische Lage drehte und der Wandel einsetzte, profitierte Codesphere davon, dass das eigene Produkt diese strengen Sicherheitsstandards und Zertifizierungen aus den Nischenprojekten bereits erfüllte und gehärtet war.

Er wünsche sich, dass der Staat jungen Unternehmen frühzeitig als verlässlicher Ankerkunde zur Seite stehe, sagt Schneider. „Der Staat kann sehr helfen, gerade bei frühphasigen Startups, um die Sicherheit aufzubauen, dass das Startup nicht in sechs Monaten pleite ist. Es braucht keine Förderungen, sondern echte Aufträge, die dazu führen, dass man die Referenz hat, um den Rest der kritischen Infrastruktur zu gewinnen.“

“Sollten Importweltmeister von europäischen Lösungen werden”

Kritisch bewertet Schneider die europäische Neigung, digitale Souveränität primär über Regulierungen und Risikovermeidung zu definieren. „Wir denken viel zu viel darüber nach, was schiefgehen könnte, wenn wir in moderne Technologie investieren. Unsere Währung ist viel zu sehr Blame und wir haben viel zu viel Angst, etwas falsch zu machen.“ Anstatt sich lediglich auf Anwendungsschichten oder Regularien wie die DSGVO zu beschränken, müsse Europa mutig in Kerntechnologien wie Cloud-Infrastrukturen, Kernfusion oder eigene KI-Modelle investieren.

Schneider erzählt eine Anekdote: Auf einer Konferenz habe eine Meta-Vertreterin gefordert, Europa solle bloß „Adoption-Weltmeister“ werden, worauf sein Chief of Staff sarkastisch gefragt habe, ob man stattdessen “Importweltmeister” werden wolle. Schneider warnt davor, sich mit einer reinen Konsumentenrolle abzufinden: „Ich glaube schon, dass Deutschland Importweltmeister werden sollte, allerdings von europäischen Lösungen.“ Dafür müsse ein offener Binnenmarkt geschaffen werden, damit globale Player entstehen können.

Von den USA zurück nach Europa

Seinen Firmensitz verlegte Codesphere über einen sogenannten Reverse Flip bewusst von den USA als Europäische Aktiengesellschaft nach Europa zurück – vor allem, weil Schneider durch die geopolitische Wende im europäischen Staats- und Sicherheitssektor eine enorme Marktchance sah. Unabhängig davon bleibe der Kapitalmarkt ein Nadelöhr für das Wachstum europäischer Scaleups. Dabei konnte Codesphere selbst bisher rund 40 Millionen Euro an Gesamtkapital aufnehmen – darunter knapp 30 Millionen Euro in einer Series-A-Finanzierungsrunde unter Führung des Investors Creandum.

Dennoch bestehe beim Thema Wachstumskapital in Europa weiterhin Nachholbedarf: „Wir haben wahrscheinlich ungefähr zehn große europäische Wachstumsinvestoren – das ist schlichtweg zu wenig, um als Gründer echten Wettbewerb in den Verhandlungen zu haben.“ Zwar sei es vorübergehend akzeptabel, internationales Kapital ohne Kontrollrechte zu nutzen, doch brauche Europa nachhaltige eigene Strukturen. „Wir brauchen unbedingt einen europäischen Kapitalmarkt, und zwar so schnell es geht. Wir müssen dahin kommen, dass wir einen Börsengang mit einem attraktiven Bewertungsmultiple machen können, was die Börse in Frankfurt heute nicht bietet.“

Trotz der Herausforderungen blickt Schneider aber optimistisch auf die Zukunft des Standorts. Durch grenzüberschreitende Kooperationen und gemeinsame Beschaffung lasse sich das vorhandene Talent in Europa erfolgreich nutzen. „Wir müssen mehr zusammenarbeiten, uns mehr gegenseitig unterstützen, mehr voneinander einkaufen – sowohl politisch als auch in der Industrie.“ Wenn die Politik helfe, Barrieren abzubauen und grenzüberschreitend zusammenzuarbeiten, könnten in Europa auch echte globale Player skalieren.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“