Abgeordnete des Europäischen Parlaments stimmen am Mittwoch über ihr Position zu einem lang diskutierten Gesetzespaket ab, welches die Nutzung von Künstlicher Intelligenz reglementieren soll. Es gibt jedoch Kritik an dem neuen Rechtsrahmen.
Allerspätestens seit ChatGPT in unseren Schulklassen eingesetzt wird oder in praktisch jedem Medium thematisiert wurde, ist Künstliche Intelligenz (KI) im Mainstream gelandet. Nun kommt es in der Europäischen Union (EU) zu weiteren Schritten, um auch die gesetzlichen Rahmenbedingungen zu schaffen. Am Mittwoch entscheidet das Europäische Parlament über seine Verhandlugnsposition zum AI Act. Das Gesetzespaket soll ein Regelwerk für KI-Anwendungen festlegen. Somit sollen die Pflichten von Anbieter:innen und Nutzer:innen juristisch verankert werden.
KI-Risikos erkennen und minimieren
So groß das Potenzial von Künstlicher Intelligenz ist, so groß sind auch die Befürchtungen vor dem Missbrauch der Technologie. Im AI Act werden vier unterschiedliche Risikoklassen kategorisiert. So gibt es etwa inakzeptable Risiken, die verboten werden. Darunter fallen Systeme, die Menschen ausnutzen, die Menschen aufgrund ihrer Aussagen oder Taten bewerten (Social Scoring), die biometrische Daten in Echtzeit erfassen oder auch KI-gestützte Spielwaren, die Kinder negativ beeinflussen könnten.
Zwar nicht verboten, aber unter strengen Bestimmungen reguliert werden Programme mit einem hohen Risiko, die im Bildungsbereich, Arbeitsmarkt, Grenzkontrollen oder bei kritischer Infrastruktur zum Einsatz kommen. Hier muss beispielsweise auf die Qualität der Datenfütterung geachtet werden und Transparenz gegeben sein. Anwendungen mit einem begrenztem Risiko müssen gekennzeichnet werden – dazu zählt etwa Chatbots wie ChatGPT. Jene, die laut dem Entwurf ein geringes Risiko beherbergen, also z. B. KI in Videospielen, sind frei nutzbar.
Kritik und Zeit zur Nachjustierung
Skeptiker:Innen bezweifeln, dass eine Technologie, die sich so rasant entwickelt, in dieser Form und auf diesem Wege reglementiert werden kann. Zudem wird kritisiert, dass das neue Regelwerk, die Europäische Union und seine Mitgliedsstaaten im internationalen Wettbewerb limitiert, während in den Vereinigten Staaten noch keine ernstzunehmenden juristischen Schritte in Gang gekommen sind. Andere fordern hingegen mehr Regeln und fordern weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede.
Bis der AI Act in Kraft tritt, dürfte es wohl noch zwei bis drei Jahre dauern. Nach der Abstimmung am Mittwoch starten die Verhandlungen zwischen EU-Rat, -Parlament und Kommission. Im Trilog werden Details ausgehandelt und eventuell auch etwaige Verbesserungen vorgenommen. Was der AI Act für Startups bedeuten könnte, lest ihr hier.
„Software ist nicht tot“: Amodei, Benioff und Huang stellen neuestes Salesforce-Produkt „AIforce“ vor
Bei seiner Dreamforce-Eröffnungskeynote stellte Salesforce-CEO Marc Benioff AIforce vor und holte die CEOs von Anthropic und Nvidia auf die Bühne – inklusive Debatte über KI-Sicherheit und Europas Rückstand. Der brutkasten vor Ort.
„Software ist nicht tot“: Amodei, Benioff und Huang stellen neuestes Salesforce-Produkt „AIforce“ vor
Bei seiner Dreamforce-Eröffnungskeynote stellte Salesforce-CEO Marc Benioff AIforce vor und holte die CEOs von Anthropic und Nvidia auf die Bühne – inklusive Debatte über KI-Sicherheit und Europas Rückstand. Der brutkasten vor Ort.
Rund 45.000 Besucher:innen versammeln sich beim jährlichen Flaggschiff-Event des CRM-Riesen Salesforce rund um das Moscone Center in San Francisco. Höhepunkt ist die Eröffnungskeynote von CEO Marc Benioff: Wer einen Platz im größten Saal des Dreamforce-Areals ergattern will, muss bereits Stunden zuvor vor Ort sein.
Hawaiianische Rituale und ein Kurzauftritt von Grammy-Preisträgerin Gwen Stefani überbrücken die Wartezeit, ehe der Salesforce-Mitgründer eindrucksvoll inszeniert die Bühne betritt, um sich dem Leitthema der diesjährigen Konferenz zu widmen: der Transformation von Unternehmen durch autonome KI-Agenten.
Der Dreamforce-Haupteingang in San Francisco.
Anthropic- und Nvidia-CEO mit auf der Bühne
Den Auftakt zum dreitägigen Programm bestreitet Benioff nicht allein. An seiner Seite: Dario Amodei, Co-Founder und CEO von Anthropic, Jensen Huang, CEO von Nvidia, Siemens-CEO Roland Busch sowie mehrere Vertreter:innen aus dem eigenen Haus.
Die Auswahl ist alles andere als Zufall. Mit Claudeforce holt Salesforce seine Applikationen direkt in die Anthropic-Umgebung. Parallel dazu entsteht mit Nvidia das hauseigene Modell „Koa“, das auf Nvidias Nemotron-Architektur aufbaut und mit synthetischen Daten, die auf 27 Jahren Salesforce-CRM-Wissen basieren, trainiert wurde.
„Ich habe kein einziges autonomes Fahrzeug in Europa gesehen“
Geografisch spielt sich Dreamforce zwar in den Vereinigten Staaten ab, dennoch nimmt Europas Position im globalen KI-Wettlauf breiten Raum in Benioffs Eröffnungskeynote ein. Das Bild, das der Salesforce-Mitgründer zeichnet, fällt ernüchternd aus: „Ich war einige Monate in Europa und habe kein einziges autonomes Fahrzeug gesehen“, berichtet der CEO, als Sinnbild für die ungleiche globale Verteilung und die zögerliche Nutzung von KI-Technologien.
„Die Tür ist offen, aber noch nicht jeder ist hindurchgegangen“, führt Benioff aus. Kund:innen, so seine Einschätzung, seien teilweise noch in einer alten Welt verhaftet und hätten die unternehmerische Transformation durch KI noch nicht vollzogen. Genau hier will Salesforce ansetzen, um die Adoption zu beschleunigen.
AIforce vorgestellt
AIforce soll die Arbeitsweise von Unternehmen transformieren.
Konkret wird dieser Anspruch bei der zentralen Produktankündigung, die Benioff im Rahmen seiner Keynote als „die aufregendste in der Geschichte von Salesforce“ bezeichnet: Mit AIforce möchte das Unternehmen Daten, Workflows, Geschäftslogik und Governance direkt in Arbeitsumgebungen wie Slack, Claude oder Salesforce Lightning bringen, ohne dass Nutzer:innen Salesforce selbst öffnen müssen. „KI führt zu einer Revolution der Benutzeroberflächen“, so Benioff laut offizieller Ankündigung. Dabei betont Salesforce von Beginn an, dass das System auf Zero Data Retention setzt. „Deine Daten sind deine Daten“, versichert der CEO mehrfach.
Technisch stützt sich AIforce auf drei bestehende Bausteine: Data 360 liefert den einheitlichen Datenkontext, Customer 360 die Anwendungs- und semantische Intelligenz, Agentforce die digitale Belegschaft aus KI-Agenten. Zum Start zählen dazu Claudeforce, Slackforce und Agentforce Coworker.
Amodei plädiert für Industriestandards
Die Partnerschaftsmarke Claudeforce ist seit August 2026 bekannt; Amodeis Anwesenheit unterstreicht dennoch das Gewicht der Partnerschaft. Auf Benioffs Frage, was ihn zuletzt am meisten überrascht habe, antwortet Amodei: „Das Tempo, nicht nur auf technologischer, sondern auch auf wirtschaftlicher Seite. Ich war schlicht überrascht, dass eine solche Geschwindigkeit in der Geschäftswelt überhaupt möglich ist.“
Auf Benioffs Frage, wie er die „Pacing“-Debatte und den aktuellen Stand der Sicherheit einschätze, antwortet Amodei mit einem Drei-Stufen-Plan, den er wenige Tage zuvor in seinem Essay „We Must Pace the Frontier“ veröffentlicht hatte: zunächst die eigenen Praktiken prüfen und in Transparenz investieren, dann gemeinsame Industriestandards erarbeiten, schließlich eine internationale Abstimmung anstoßen. Umgesetzt sei bislang erst der erste Schritt. Begleitet von drei Sicherheitskräften verlässt Amodei den Saal umgehend nach seinem kurzen Auftritt.
Huang sieht Verantwortung bei den Entwickler:innen
Salesforce-CEO Marc Benioff und Nvidia-CEO Jensen Huang bei der Eröffnungs-Keynote.
Während Amodei bei Sicherheitsfragen einen bedachten, koordinierten Kurs einfordert, vertritt Nvidia-CEO Jensen Huang eine andere Linie: „Sicherheit hat oberste Priorität, in vielerlei Hinsicht ist sie die wichtigste Aufgabe. Allerdings ist Sicherheit zugleich ein Ingenieursproblem“, ein komplexes Rechensystem wie jedes andere, das sich technisch beherrschen lasse. Sein Rezept: zunächst sichere Testumgebungen schaffen, in denen sich Systeme prüfen lassen, und Produkte erst freigeben, wenn man von deren Sicherheit überzeugt ist. Regulatorische Eingriffe des Staates lehnt er ab.
Die Devise laute stattdessen, Innovationen so rasch wie möglich voranzutreiben, ohne Sicherheit zu opfern: „Laufen Sie so schnell Sie können, doch sobald Sie das Gefühl haben, […] das Produkt werde nicht sicher sein, legen Sie eine Pause ein“, so der Nvidia-Chef. Tempo und Sicherheit seien für ihn kein Widerspruch, sondern gleichzeitig erreichbar. Ob sich Unternehmen im permanenten Wettlauf um Marktanteile tatsächlich so diszipliniert selbst bremsen, wie Huang es beschreibt, bleibt allerdings offen.
Das Mantra: „Software ist nicht tot“
Wie ein roter Faden zog sich zudem das Gegennarrativ zur „SaaSpocalypse“ durch den Vormittag. Huang bezeichnete die These vom Ende der Software als „kompletten Unsinn“, Benioff präzisierte: „Software ist nicht tot. Es ist das Ende jener Software, die Menschen die ganze Arbeit machen lässt.“ Ob sich diese Neuerfindung tatsächlich so reibungslos vollzieht, wie auf der Bühne suggeriert, wird sich außerhalb des Moscone Centers erst noch zeigen müssen.
Transparenzhinweis: Die Reise- und Aufenthaltskosten zur Dreamforce wurden von Salesforce übernommen. Auswahl und Bewertung der Themen erfolgten unabhängig davon.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?
Der Inhalt des Artikels betrifft die gesetzlichen Rahmenbedingungen für die Anwendung von künstlicher Intelligenz in der Europäischen Union. Durch die Kategorisierung von KI-Risiken und die Festlegung von Pflichten für Anbieter und Nutzer soll ein Regelwerk geschaffen werden, um den Missbrauch der Technologie zu vermeiden. Die Einführung des AI Act könnte somit zu mehr Transparenz und Sicherheit im Umgang mit KI beitragen und mögliche negative gesellschaftliche Auswirkungen minimieren. Allerdings gibt es auch Kritik an dem Regelwerk und Fragen bezüglich seiner Umsetzbarkeit und Folgen im internationalen Wettbewerb.
Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?
Der AI Act der Europäischen Union könnte bedeutende wirtschaftliche Auswirkungen auf Unternehmen haben, die KI-Anwendungen entwickeln und nutzen. Das Regelwerk soll Pflichten für Anbieter und Nutzer von KI-Anwendungen juristisch verankern und KI-Risiken erkennen und minimieren. Unternehmen, die KI-Systeme entwickeln und verwenden, müssen sich auf strengere Regulierungen einstellen und möglicherweise ihre Geschäftsmodelle anpassen. Startups könnten von dem AI Act ebenfalls betroffen sein.
Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?
Dieser Artikel hat als Innovationsmanager:in eine wichtige Relevanz, da er sich mit der gesetzlichen Regelung von Künstlicher Intelligenz-Anwendungen in der Europäischen Union beschäftigt. Dies könnte mögliche Innovationen und Anwendungen beeinflussen, einschränken oder auch fördern und somit Auswirkungen auf die Entwicklungen im eigenen Unternehmen haben. Es ist daher wichtig, über die geplanten Regelungen informiert zu sein und gegebenenfalls Anpassungen vorzunehmen.
Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?
Als Investor:in sollten Sie sich über die möglichen Auswirkungen des AI Act auf Unternehmen, die auf KI-Technologie setzen oder davon betroffen sein könnten, informieren. Insbesondere sollten Sie die Kategorisierung von KI-Anwendungen mit hohem Risiko prüfen und die regulatorischen Anforderungen im Auge behalten, um mögliche Risiken für Ihre Investitionen frühzeitig zu erkennen.
Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?
Als Politiker:in ist es wichtig das Thema Künstliche Intelligenz im Auge zu behalten, da es eine immer größer werdende Rolle in unserer Gesellschaft und Wirtschaft spielt. Der AI Act der Europäischen Union soll dabei helfen, gesetzliche Rahmenbedingungen für KI-Anwendungen zu schaffen und die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Somit wird es auch für Politiker:innen von Bedeutung sein, sich mit den rechtlichen Rahmenbedingungen von Künstlicher Intelligenz vertraut zu machen und diese gegebenenfalls mitzugestalten.
Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?
Der AI Act ist ein Gesetzespaket, das ein Regelwerk für KI-Anwendungen festlegen soll, um die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Dabei werden verschiedene Risikoklassen kategorisiert, um die Wahl der Anwendungen mit Videoüberwachung, biometrischen Daten und Social Scoring zu regulieren. Während einige Skeptiker:innen die Regulierung kritisieren, fordern andere weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede. Die Abstimmung am Mittwoch ist ein wichtiger Schritt, und es wird einige Jahre dauern, bis der AI Act in Kraft tritt.