06.07.2023

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

Bei einer Konferenz in der Schweiz sprechen führende KI-Expert:innen darüber, wie uns KI bei der Bewältigung von Krisen helfen kann. Auch der israelische Historiker Yuval Harari war dabei.
/artikel/harari-20-prozent-von-jedem-ki-investment-sollen-in-die-sicherheit-von-ki-fliessen
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash

„Wir haben weniger als 10 Jahre Zeit, um die Ziele für nachhaltige Entwicklung (SDGs) der Vereinten Nationen zu erreichen“, so die Initiative „AI for Good“, die sich am Donnerstag zum Summit in Genf traf. Die Vertreter:innen sind überzeugt, dass in der KI viele Lösungswege für Probleme stecken. KI könne dafür riesige Datenmengen nutzen, die derzeit zu menschlichen Emotionen, unserem Verhalten, der Gesundheit, Handel, Kommunikation, Migration und in anderen Bereichen gesammelt werden.

KI soll bei Sustainable Development Goals helfen

Die Initiative „AI for Good“ will KI-Anwendungen finden, welche die Sustainable Development Goals der Vereinten Nationen vorantreiben und Lösungen für Probleme wie die Klimakrise, die Verschmutzung der Meere oder den Welthunger finden. „AI for Good“ ist ein gemeinsames Projekt von der Internationalen Fernmeldeunion (ITU) und 40 UN-Organisationen.

Viele Vortragende erzählen, welche Lösungen die KI für unsere Probleme anbietet. Roboter sind in Genf auch reichlich vertreten, ob auf der Bühne oder als Servicepersonal. Als Roboter „Sofia“ auf der Bühne aber zum Singen aufgefordert wird, bleibt sie peinlich still.

Harari: Die gefährlichste Technologie aller Zeiten

Der amerikanische Journalist Nick Thompson (The Atlantic) und der israelische Historiker und Bestseller-Autor Yuval Noah Harari sprachen über KI und die Zukunft der Demokratie. Der Historiker warnt eindrücklich vor der aktuellen, aus seiner Sicht zu schnellen KI-Entwicklung: „Es ist das erste Tool in der menschlichen Geschichte, das selbst Entscheidungen treffen kann“, so Harari. Zudem sei es auch noch nie der Fall gewesen, dass ein Tool „selbstständig neue Ideen entwickeln kann“.

Besonders eindringlich warnt Harari daher vor der immensen Geschwindigkeit der technischen Entwicklung: „Menschen sind nicht sehr gut darin, neue Tools zu verwenden, denn wir machen Fehler. Wir brauchen Zeit“. Er zieht dabei Parallelen zu Fehlern der Vergangenheit – etwa dem Nationalsozialismus. „Wenn wir mit KI ähnliche Fehler machen, könnte es das Ende unserer Spezies sein“, so der Historiker. Die Zeit wäre so knapp wie nie zuvor. Als Negativbeispiel nennt er auch Social Media: Algorithmen hätten schnell erkannt, dass sie für Aufregung sorgen müssten, um Engagement zu erzeugen.

KI-Entwicklung einbremsen

„KI ist die gefährlichste und zu gleich beste, chancenreichste Technologie, die jemals erfunden wurde“, meinte Harari. Die KI-Geschichte von heute sei erst zehn Jahre alt. Aber: „Es schreitet mit enorm schneller Geschwindigkeit fort, niemand weiß wo wir in zehn Jahren sein werden“, warnt Harari. Er wünscht sich daher einen stärkeren Fokus auf KI-Regulierung.

„Ein neues Auto darf auch nicht ohne Sicherheitschecks auf die Straße. Für KI sollte das selbe gelten, vorher sollten wir sie viel besser verstehen“, so der Historiker. Vor allem bräuchten die Regulierungsbehörden aber mehr Budget. Harari findet, dass 20 Prozent des in KI investierten Kapitals in die Regulierung fließen sollten. „Ein fixer Prozentsatz von jedem KI-Investment soll in die Sicherheit von KI fließen“, meint er.

Demokratien am Leben lassen

„Jetzt ist es zum ersten Mal in der Geschichte möglich, falsche Menschen zu erschaffen. Es wird fast unmöglich sein, zwischen Deepfakes und realen Menschen zu unterscheiden“, warnt er. Vor allem Demokratien würden damit nicht klar kommen. Daher fordert Harari rasch Gesetze: „Wenn ich mit einem KI-Doktor oder KI-Journalisten interagiere, muss ich das wissen“, findet Harari. „Um die demokratische Gesellschaft am Leben zu halten, müssen wir verhindern, dass der Diskurs online von Bots bestimmt wird“, so der Historiker. Andernfalls würde die Demokratie nicht überleben.

Die „UN AI for Good Summit“ findet vom 6. Juli bis zum 7. Juli 2023 in Genf statt.

Deine ungelesenen Artikel:
04.11.2026

SAP stellt neue KI-Tools vor – eines davon kommt auf der Internationalen Raumstation (ISS) zum Einsatz

SAP arbeitet an einem umfassenderen Einsatz von KI in Unternehmen und stellte dafür bei seiner Entwicklerkonferenz TechEd neue Technologien vor. Sie sollen unter anderem die Zusammenarbeit von KI-Agenten verbessern, ihren Einsatz besser kontrollierbar machen und Datenanalysen selbst unter den besonderen Bedingungen der ISS ermöglichen.
/artikel/sap-stellt-neue-ki-tools-vor-eines-davon-kommt-auf-der-internationalen-raumstation-iss-zum-einsatz
04.11.2026

SAP stellt neue KI-Tools vor – eines davon kommt auf der Internationalen Raumstation (ISS) zum Einsatz

SAP arbeitet an einem umfassenderen Einsatz von KI in Unternehmen und stellte dafür bei seiner Entwicklerkonferenz TechEd neue Technologien vor. Sie sollen unter anderem die Zusammenarbeit von KI-Agenten verbessern, ihren Einsatz besser kontrollierbar machen und Datenanalysen selbst unter den besonderen Bedingungen der ISS ermöglichen.
/artikel/sap-stellt-neue-ki-tools-vor-eines-davon-kommt-auf-der-internationalen-raumstation-iss-zum-einsatz
ISS, SAP
Philipp Herzig, CTO SAP I © SAP

SAP hat auf seiner jährlichen Entwicklerkonferenz „SAP TechEd“ Ende Oktober eine Reihe von KI-Innovationen bekannt gegeben, die das SAP-Portfolio für Entwickler erweitern. Erweiterungen der Joule-Lösungen und der SAP Business AI Platform – einschließlich des neuesten Foundation Models von SAP für tabellarische Daten – sollen neue Tools zur Entwicklung und Erweiterung von KI-Agenten bereitstellen. Zugleich sollen sie den Agenten Daten- und Geschäftskontext für logisches Denken sowie zusätzliche Governance-Kontrollen bieten. Um sie unternehmensweit verantwortungsvoll einsetzen zu können, so der Plan.

SAP Business AI Plattform als Basis

„Auf der SAP TechEd präsentieren Entwickler seit jeher die neuesten Innovationen“ sagt Philipp Herzig, CTO von SAP. „In diesem Jahr zeigen wir, wie KI nicht einfach nur lernt, Unternehmen zu verstehen, sondern auch Geschäftsprozesse abzuwickeln. In ‚Joule Work‘ machen Nutzer ihre Eingaben und erledigen Aufgaben in einer durchgängigen Anwendungsumgebung, in der gesamten SAP-Landschaft und darüber hinaus. Das ist die Neuerung, die wir in großem Maßstab bereitstellen.“

Die Basis von allem bildet die SAP Business AI Plattform. Sie sorge für eine schnellere Wertschöpfung, da Geschäftsprozesse von Anfang an verstanden würden, und biete eine höhere Genauigkeit. „Außerdem erfüllt sie die Anforderungen von Unternehmen, gewährleistet ab der ersten Implementierung einen sicheren, kontrollierten und konformen Betrieb und bietet eine einzigartige Kontextebene, die auf dem Prozess- und Branchenwissen aus über 50 Jahren aufbaut, das in jeder Agenten-Aktion verankert ist“, so Herzig weiter.

Code und No-Code

Gebaut werden KI-Agenten im „Joule Studio“. Das ist sowohl ohne Programmierkenntnisse per Klick-Baukasten (No-Code) möglich, als auch mit eigenem Code (Pro-Code). Dafür stehen über 70 verschiedene KI-Modelle zur Auswahl.

Durch neue Funktionen für „Joule Work“ sollen KI-Agenten noch wirkungsvoller komplexe Geschäftsprozesse über offene Protokolle (A2A und MCP) handhaben können. Diese Innovationen machen „Joule Work“ leistungsfähiger, um den Kontext besser zu verstehen, Entscheidungen zu treffen und mehrstufige Workflows über Unternehmenssysteme und Geschäftsbereiche hinweg auszuführen, so der Claim.

SAP erweitert seine KI-Plattform damit eigenen Angaben zufolge um eine neue Orchestrierungsschicht, damit Assistenten und Agenten komplexe, mehrstufige Abläufe über verschiedene SAP-Systeme hinweg zuverlässiger erledigen können. Der SAP Knowledge Graph soll künftig auch Daten aus kundeneigenen SAP- und Drittquellen einbinden, sodass Nutzer ihre Informationen in natürlicher Sprache durchsuchen und exakte, auf den eigenen Daten basierende Antworten erhalten.

Auch andere Anbieter-Einbindung möglich

Agenten anderer Anbieter sollen außerdem über ein kontrolliertes Agenten-Gateway sicher auf „Joule Agents“ zugreifen und mit ihnen zusammenarbeiten können, ohne dass „Kontrolle und Governance verloren gehen“. Das neue „SAP Enterprise AI Gateway“ bündelt zudem Authentifizierung, Richtlinien, Routing, Überwachung, Nutzungsverfolgung und Auditing des gesamten KI-Datenverkehrs im Unternehmen. Ergänzend sollen ein neuer „Joule Assistent“, der „SAP AI Agent Hub“ und ein „AI Governance Assistant“ Kunden dabei helfen, die EU-KI-Verordnung einzuhalten.

Beim „Tabular Foundation Model“ kündigt SAP das Modell „SAP-RPT-2.0“ an, das künftig auch Anomalien und Ausreißer in Tabellendaten erkennen soll. „SAP-RPT-TS“ hingegen soll Geschäftskennzahlen prognostizieren können.

Einsatz auf der ISS

„Es gibt große Weiterentwicklungen bei unseren Tabular Foundation Models“, ergänzt Herzig. „Daraus ist inzwischen eine ganze Modellfamilie geworden. Ein etwas ausgefallener technischer Ausblick ist, dass wir diese Modelle gemeinsam mit Hewlett Packard Enterprise auch auf der Internationalen Raumstation (ISS) einsetzen – für die vorausschauende Wartung im Weltraum.“ Das Modell soll zudem Ausfälle vorhersagen können, ohne dass die dafür benötigten Daten zur Erde übertragen werden müssen.

„SAP-RPT wurde generisch trainiert und kann– ähnlich wie große Sprachmodelle im Bereich Sprache – auf eine Vielzahl unterschiedlicher Anwendungsgebiete übertragen werden“, so Herzig weiter. „Creditplus verwendet solche Modelle beispielsweise für die Risikobewertung. Hitachi setzt sie für die vorausschauende Wartung seiner Maschinen ein. ‚Oxford Cancer‚ nutzt sie, um anhand von Proteinmarkern Krebserkrankungen bei Patienten besser vorherzusagen als mit bisherigen Modellen“, sagt er.

Wenn man sich die Internationale Raumstation ansehe, genauer gesagt das Columbus-Modul, in dem SAP das Modell einsetzt, gebe es dort enorme Datenmengen.

„Nicht einfach zur Erde herunterladen“

„Die Maschinen auf der ISS erzeugen Telemetriedaten, die sehr nützlich sind. Allerdings handelt es sich um rund zehn Gigabyte an Daten. Diese kann man nicht einfach zur Erde herunterladen – das würde viel zu lange dauern, wenn man schnell reagieren möchte, etwa um bestimmte Muster oder Auffälligkeiten in Zeitreihen zu erkennen“, erklärt Herzig. „Die Modelle lassen sich direkt vor Ort einsetzen, weil sie im Vergleich zu großen Sprachmodellen relativ klein sind. Sie können also unmittelbar auf der Raumstation betrieben werden. Und es ist kein Training erforderlich. Man speist die aktuellen Daten direkt als Live-Datenstrom ein und erhält sofort Vorhersagen.“

Der CTO sieht den Anwendungsfall auf der Raumstation nicht bloß als eine Marketingaktion, sondern als Zeugnis dafür, wie weit man gehen könne. Er sagt: „Wie nützlich ist die Technologie unter solch extremen Bedingungen? Auf der Erde ist heute vieles einfach. Wir haben schnelle Internetverbindungen und leistungsfähige GPUs. Bei solchen Anwendungsfällen spielt die Latenz kaum eine Rolle. Aber können wir auch in einer Umgebung echten Mehrwert schaffen, die nur eingeschränkt angebunden ist – oder zumindest sehr weit entfernt? Genau das wollten wir zeigen: Mit einer lokalen Verarbeitungsumgebung lassen sich Probleme lösen, deren Lösung sonst schwierig wäre, weil man zunächst sämtliche Daten zur Erde übertragen müsste. Anschließend müsste man sie dort auswerten und die Ergebnisse zurückübermitteln. Dann könnte es aber bereits zu spät sein.“

SAP löst „Data Drift“-Problem

Ein zentrales Problem bei klassischen KI-Modellen ist der sogenannte Data Drift: Data Scientists trainieren ihre Modelle auf historischen Daten, doch schon beim Abschluss des Trainings können sich die eintreffenden Daten statistisch verändert haben. Die neuen Modelle von SAP wollen genau hier ansetzen.

Man könne jederzeit aktuelle Daten ins Kontextfenster geben und erhalte darauf basierend präzise Vorhersagen, ohne neu trainieren zu müssen. „Veränderungen in Struktur oder Eigenschaften der Daten erkennt das Modell unmittelbar“, betont Herzig. „Das wollten wir demonstrieren: Müsste man bei veränderten Bedingungen erst alle Informationen zur Erde übertragen und das gesamte Modell neu trainieren, wäre es dafür viel zu spät. Dann würde man auf der ISS sagen: ‚Schön, dass ihr uns das jetzt mitteilt – aber das hättet ihr uns schon vor einem oder zwei Monaten sagen müssen‘.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Artikel hebt die Bedeutung der künstlichen Intelligenz (KI) bei der Bewältigung gesellschaftlicher Herausforderungen hervor, insbesondere im Zusammenhang mit den Zielen für nachhaltige Entwicklung der Vereinten Nationen. Es wird betont, dass KI das Potenzial hat, Lösungen für Probleme wie Klimakrise, Umweltverschmutzung und Welthunger zu finden. Gleichzeitig werden jedoch auch Bedenken bezüglich der Sicherheit und Regulierung von KI ausgedrückt. Der Historiker Yuval Noah Harari warnt vor den potenziellen Gefahren von KI, insbesondere vor ihrer Fähigkeit, selbst Entscheidungen zu treffen und neue Ideen zu entwickeln. Er fordert daher eine stärkere Regulierung und Sicherheitschecks für KI-Anwendungen. Darüber hinaus warnt er vor der Manipulation von Informationen und dem Einfluss von Bots auf den demokratischen Diskurs. Insgesamt verdeutlicht der Artikel die gesellschaftspolitischen Auswirkungen von KI und betont die Notwendigkeit einer verantwortungsvollen und gezielten Nutzung dieser Technologie, um die demokratische Gesellschaft zu schützen und die Ziele für nachhaltige Entwicklung zu erreichen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Initiative „AI for Good“ und die Befürwortung von Yuval Noah Harari für Investitionen in die Sicherheit von KI haben potenzielle wirtschaftliche Auswirkungen. Durch die Konzentration von 20 Prozent des KI-Investitionskapitals auf die Regulierung und Sicherheit von KI könnte dies zu einer erhöhten Nachfrage nach KI-Regulierungsbehörden und Sicherheitsmaßnahmen führen. Dies könnte wiederum neue Arbeitsplätze und Investitionsmöglichkeiten in diesen Bereichen schaffen. Darüber hinaus kann die Nutzung von KI zur Lösung globaler Probleme wie der Klimakrise und der Bekämpfung des Welthungers auch einen positiven Einfluss auf die Wirtschaft haben, indem neue Geschäftsmöglichkeiten und Innovationen entstehen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in ist der Inhalt dieses Artikels für Sie von großer Relevanz. Die Diskussion um künstliche Intelligenz (KI) und ihre Auswirkungen auf die Gesellschaft wird immer wichtiger. Der Historiker Yuval Noah Harari warnt vor den Gefahren einer zu schnellen KI-Entwicklung und stellt die Notwendigkeit einer besseren Regulierung heraus. Dies betrifft auch Sie als Innovationsmanager:in, da Sie dafür verantwortlich sind, Innovationen voranzutreiben und gleichzeitig sicherzustellen, dass sie ethisch und sicher sind. Die Forderungen nach Investitionen in die Sicherheit von KI und nach Gesetzen zur Erkennung von Fälschungen haben direkte Auswirkungen auf Ihre Arbeit und könnten Ihre Innovationsstrategien beeinflussen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in ist der Inhalt dieses Artikels relevant, da er darauf hinweist, dass die Entwicklung von künstlicher Intelligenz (KI) sowohl große Chancen als auch potenzielle Gefahren mit sich bringt. Der Historiker Yuval Noah Harari rät dazu, einen stärkeren Fokus auf die Regulierung von KI zu setzen, um deren Sicherheit zu gewährleisten. Zusätzlich empfiehlt er, 20 Prozent der Investitionen in KI in die Sicherheit zu investieren. Für Investor:innen bedeutet dies, die potenziellen Risiken von KI zu berücksichtigen und sicherzustellen, dass ihre Investitionen in KI-Projekte auch die notwendigen Sicherheitsmaßnahmen berücksichtigen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist der Inhalt dieses Artikels von großer Relevanz, da er sich mit der Bedeutung von künstlicher Intelligenz (KI) für die Nachhaltigkeitsziele der Vereinten Nationen befasst. Die Initiative „AI for Good“ strebt an, mithilfe von KI-Lösungen Probleme wie die Klimakrise, die Meeresschmutzung und den Welthunger anzugehen. Der Historiker Yuval Noah Harari warnt jedoch vor den Gefahren der raschen KI-Entwicklung und fordert eine verstärkte Regulierung und Investitionen in die Sicherheit von KI. Als Politiker:in sollten Sie daher die Auswirkungen und Herausforderungen im Zusammenhang mit KI-Technologien in Betracht ziehen, um angemessene politische Maßnahmen zu entwickeln und die demokratische Gesellschaft zu schützen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel befasst sich mit der Initiative „AI for Good“, die sich zum Ziel gesetzt hat, Künstliche Intelligenz (KI) zur Lösung globaler Herausforderungen einzusetzen und dabei die nachhaltigen Entwicklungsziele der Vereinten Nationen zu fördern. Während viele Vortragende die positiven Potenziale von KI hervorheben, warnt der Historiker Yuval Noah Harari vor den Risiken einer unregulierten und zu schnellen Entwicklung von KI. Er betont die Notwendigkeit, die Sicherheit und Regulierung von KI zu gewährleisten und hält es für entscheidend, dass ein Teil der Investitionen in KI in die Sicherheit fließt. Zudem warnt Harari vor den Konsequenzen von Deepfakes für die Demokratie und fordert die Einführung entsprechender Gesetze. Das Bigger Picture dieses Artikels liegt darin, dass die KI-Entwicklung nicht nur enorme Chancen, sondern auch erhebliche Herausforderungen mit sich bringt, die hinsichtlich der Sicherheit, Regulierung und dem Schutz demokratischer Prinzipien angegangen werden müssen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • „AI for Good“: Initiative
  • Nick Thompson: amerikanischer Journalist (The Atlantic)
  • Yuval Noah Harari: israelischer Historiker und Bestseller-Autor

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Die relevantesten Organisationen und Unternehmen in diesem Artikel sind:
  • Initiative „AI for Good“
  • Internationale Fernmeldeunion (ITU)
  • 40 UN-Organisationen
  • Nick Thompson (The Atlantic)
  • Yuval Noah Harari

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“