06.07.2023

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

Bei einer Konferenz in der Schweiz sprechen führende KI-Expert:innen darüber, wie uns KI bei der Bewältigung von Krisen helfen kann. Auch der israelische Historiker Yuval Harari war dabei.
/artikel/harari-20-prozent-von-jedem-ki-investment-sollen-in-die-sicherheit-von-ki-fliessen
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash

„Wir haben weniger als 10 Jahre Zeit, um die Ziele für nachhaltige Entwicklung (SDGs) der Vereinten Nationen zu erreichen“, so die Initiative „AI for Good“, die sich am Donnerstag zum Summit in Genf traf. Die Vertreter:innen sind überzeugt, dass in der KI viele Lösungswege für Probleme stecken. KI könne dafür riesige Datenmengen nutzen, die derzeit zu menschlichen Emotionen, unserem Verhalten, der Gesundheit, Handel, Kommunikation, Migration und in anderen Bereichen gesammelt werden.

KI soll bei Sustainable Development Goals helfen

Die Initiative „AI for Good“ will KI-Anwendungen finden, welche die Sustainable Development Goals der Vereinten Nationen vorantreiben und Lösungen für Probleme wie die Klimakrise, die Verschmutzung der Meere oder den Welthunger finden. „AI for Good“ ist ein gemeinsames Projekt von der Internationalen Fernmeldeunion (ITU) und 40 UN-Organisationen.

Viele Vortragende erzählen, welche Lösungen die KI für unsere Probleme anbietet. Roboter sind in Genf auch reichlich vertreten, ob auf der Bühne oder als Servicepersonal. Als Roboter „Sofia“ auf der Bühne aber zum Singen aufgefordert wird, bleibt sie peinlich still.

Harari: Die gefährlichste Technologie aller Zeiten

Der amerikanische Journalist Nick Thompson (The Atlantic) und der israelische Historiker und Bestseller-Autor Yuval Noah Harari sprachen über KI und die Zukunft der Demokratie. Der Historiker warnt eindrücklich vor der aktuellen, aus seiner Sicht zu schnellen KI-Entwicklung: „Es ist das erste Tool in der menschlichen Geschichte, das selbst Entscheidungen treffen kann“, so Harari. Zudem sei es auch noch nie der Fall gewesen, dass ein Tool „selbstständig neue Ideen entwickeln kann“.

Besonders eindringlich warnt Harari daher vor der immensen Geschwindigkeit der technischen Entwicklung: „Menschen sind nicht sehr gut darin, neue Tools zu verwenden, denn wir machen Fehler. Wir brauchen Zeit“. Er zieht dabei Parallelen zu Fehlern der Vergangenheit – etwa dem Nationalsozialismus. „Wenn wir mit KI ähnliche Fehler machen, könnte es das Ende unserer Spezies sein“, so der Historiker. Die Zeit wäre so knapp wie nie zuvor. Als Negativbeispiel nennt er auch Social Media: Algorithmen hätten schnell erkannt, dass sie für Aufregung sorgen müssten, um Engagement zu erzeugen.

KI-Entwicklung einbremsen

„KI ist die gefährlichste und zu gleich beste, chancenreichste Technologie, die jemals erfunden wurde“, meinte Harari. Die KI-Geschichte von heute sei erst zehn Jahre alt. Aber: „Es schreitet mit enorm schneller Geschwindigkeit fort, niemand weiß wo wir in zehn Jahren sein werden“, warnt Harari. Er wünscht sich daher einen stärkeren Fokus auf KI-Regulierung.

„Ein neues Auto darf auch nicht ohne Sicherheitschecks auf die Straße. Für KI sollte das selbe gelten, vorher sollten wir sie viel besser verstehen“, so der Historiker. Vor allem bräuchten die Regulierungsbehörden aber mehr Budget. Harari findet, dass 20 Prozent des in KI investierten Kapitals in die Regulierung fließen sollten. „Ein fixer Prozentsatz von jedem KI-Investment soll in die Sicherheit von KI fließen“, meint er.

Demokratien am Leben lassen

„Jetzt ist es zum ersten Mal in der Geschichte möglich, falsche Menschen zu erschaffen. Es wird fast unmöglich sein, zwischen Deepfakes und realen Menschen zu unterscheiden“, warnt er. Vor allem Demokratien würden damit nicht klar kommen. Daher fordert Harari rasch Gesetze: „Wenn ich mit einem KI-Doktor oder KI-Journalisten interagiere, muss ich das wissen“, findet Harari. „Um die demokratische Gesellschaft am Leben zu halten, müssen wir verhindern, dass der Diskurs online von Bots bestimmt wird“, so der Historiker. Andernfalls würde die Demokratie nicht überleben.

Die „UN AI for Good Summit“ findet vom 6. Juli bis zum 7. Juli 2023 in Genf statt.

Deine ungelesenen Artikel:
vor 14 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
vor 14 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
USB-Stick Erfinder Dov Moran im Interview. (c) LinkedIn/Dov Moran

Mit der Gründung von M-Systems und der Erfindung des USB-Flash-Laufwerks sowie revolutionärer Speicherlösungen schrieb der israelische Halbleiter-Pionier Dov Moran Technologiegeschichte, bevor er sein Unternehmen für rund 1,6 Milliarden US-Dollar an SanDisk verkaufte. Heute lenkt er als Managing Partner beim Deep-Tech-Fonds Grove Ventures als einer der angesehensten Tech-Investoren Israels die Zukunft von KI, Halbleitern, Cloud-Infrastruktur und digitaler Gesundheit.

Der Tech-Pionier und Investor erklärt im Interview, dass im aktuellen KI-Boom vor allem die physische Infrastruktur entscheidend ist und sich Europa statt auf Defense-Tech auf Nischen wie Quantentechnologie konzentrieren sollte. Darüber hinaus empfiehlt er staatliche Unternehmensbeteiligungen nach taiwanesischem Vorbild sowie eine Kultur, die echten Gründergeist und Mut zum Risiko fördert.

brutkasten: Sie haben geholfen, mit dem USB-Flash-Laufwerk eine der am weitesten verbreiteten Technologien der Welt zu erfinden. Wenn Sie zurückblicken: Was unterscheidet bahnbrechende Innovationen von Technologien, die niemals skalieren?

Dov Moran: Zunächst einmal ist der USB-Stick heute ein totes Produkt. Nur noch sehr wenige Menschen benutzen ihn, aber genau das ist das Wesen von Technologie: Man baut etwas auf, und das dient dann als Fundament für etwas Fortschrittlicheres. Ich bin sehr stolz darauf, dass ich einen kleinen Teil zu dieser Infrastruktur beitragen konnte.

Bei M-Systems haben wir damals allerdings noch andere Dinge erfunden, die ich für fast noch wichtiger halte, auch wenn sie für Endkunden weniger sichtbar waren. Damals gab es zwei Arten von Flash-Speicher: NAND-Flash für reine Daten und NOR-Flash – dominiert von Intel und AMD –, um den Code für das Betriebssystem zu speichern. Das gesamte Marktkonzept sah vor, dass jedes System beide Komponenten benötigt. Wir haben damals eine technologische Lösung gefunden, um den NOR-Flash komplett zu eliminieren und den Code direkt in den NAND-Flash zu integrieren. Unser Weg, dieses Problem zu lösen, hat das NOR-Flash-Geschäft für Intel und AMD grundlegend verändert, aber gleichzeitig in jedem einzelnen Telefon auf der Welt den Platzbedarf reduziert und etwa drei Dollar pro Gerät gespart. Bei rund einer Milliarde produzierten Telefonen pro Jahr haben wir der Welt somit jährlich drei Milliarden Dollar eingespart.

Welche Technologie erinnert Sie heute am meisten an die Anfangstage des Flash-Speichers?

Ich denke, wir sehen derzeit eine grundlegende Wende auf dem Markt – weg von einer rein softwaregetriebenen Welt hin zu einer Welt der Infrastruktur. Marc Andreessen sagte einmal: „Software eats the world.“ Heute geht es jedoch vor allem darum, die richtige Hardware- und Infrastrukturbasis zu schaffen: Wir brauchen die richtigen CPUs, wir müssen das enorme Problem des Energieverbrauchs und der Kühlung lösen und wir müssen Rechenzentren bauen, die deutlich effizienter und effektiver sind.

Was heute an Infrastruktur existiert, kann die weltweite Nachfrage schlichtweg nicht bedienen, wenn bald jeder Mensch KI nutzt, forscht und eigene Agenten baut. Wenn auch nur zehn Prozent der Bevölkerung anfangen, intensiv KI-Agenten zu bauen und zu nutzen, würden unsere heutigen Systeme zusammenbrechen. Die Infrastruktur für Künstliche Intelligenz steht genau vor solchen fundamentalen technologischen Skalierungsaufgaben.

Alle sprechen über KI. Wo sehen Sie die größten Chancen jenseits der aktuellen KI-Welle beziehungsweise wo sollte sich Europa positionieren?

KI ist eine gewaltige Revolution, die das Leben aller Menschen beeinflussen wird – vom Reinigungspersonal bis hin zum Leiter einer Onkologie-Abteilung, dessen Diagnostik und Behandlungsweisen sich grundlegend verändern werden. Eine so große Transformation bringt natürlich für jeden enorme Chancen mit sich – für Einzelpersonen, Krankenhäuser, das Bildungswesen und für ganze Staaten.

Wenn ein Land wie Österreich entscheidet, in diesen Markt zu investieren, sollte der Fokus auf der Infrastrukturebene oder auf sehr gezielten Nischen liegen, nicht auf reinen Anwendungen. Ich glaube zum Beispiel nicht, dass Österreich versuchen sollte, im Bereich Defense Tech zu konkurrieren. Dieser Markt erfordert gewaltige Kapazitäten, riesige Budgets und spezifisches Know-how, wie es in den USA oder aufgrund ständiger Konflikte in Israel und der Ukraine existiert.

Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann. Das könnte zum Beispiel die Quantentechnologie sein, die Kombination aus Gesundheitswesen und KI oder hochentwickelte Sensorik für eine bessere medizinische Überwachung von zu Hause aus.

Israel bringt trotz seines relativ kleinen Marktes kontinuierlich globale Technologie-Champions hervor. Was erklärt diesen Erfolg und wie wird Unternehmertum dort gefördert?

Es gibt einen großen Unterschied zwischen Erfindern, Unternehmern und operativen Managern. Viele Erfinder kommen von Universitäten, aber selbst die beste Erfindung oder das beste Patent scheitert, wenn man nicht weiß, wie man ein Unternehmen führt und skaliert. Ich bin der festen Überzeugung, dass Unternehmertum und Innovation viel früher im Bildungssystem verankert werden müssen – spätestens an den weiterführenden Schulen.

Das Bildungssystem muss weg vom reinen Frontalunterricht und Auswendiglernen, hin zu echter Interaktion, Teamwork und praktischer Projektarbeit. Ich bin selbst Verwaltungsratsmitglied einer 150 Jahre alten jüdischen Schulkette namens ORT. Um den Schülern dieses Denken nahezubringen, habe ich ein Buch über Unternehmer geschrieben, das nach jedem Kapitel Diskussionsfragen aufwirft. Ich beginne darin mit Abraham als dem „ersten jüdischen Unternehmer“, der den Monotheismus erfunden hat.

Im Talmud gibt es die Geschichte, dass Abraham die Götzenstatuen im Laden seines Vaters zerstörte, weil er die Logik dahinter hinterfragte, und danach seine Heimat verließ, um ins Ungewisse nach Israel zu ziehen. Genau das passiert vielen Gründerinnen und Gründern: Sie haben eine Vision, jeder sagt ihnen, dass es unmöglich ist, und sie müssen bereit sein, ihre gewohnte Umgebung zu verlassen, um ihr Ziel zu erreichen. Schüler müssen lernen, solche kritischen Fragen zu diskutieren: Was bedeutet es, ins Ungewisse zu gehen? Ist Unternehmertum immer gut oder birgt es auch Risiken? Diese mentale Vorbereitung ist die Basis für eine Innovationskultur.

Was kann Europa und speziell ein Land wie Österreich von der israelischen Innovationskultur und anderen globalen Vorreitern lernen?

Zunächst einmal können auch wir viel von Europa lernen – zum Beispiel, wie man ein Land so lebenswert und friedlich gestaltet. Was die Förderung von Technologie betrifft, lohnt sich für Europa jedoch ein Blick nach Taiwan, speziell auf das ITRI-Institut (Industrial Technology Research Institute).

Der Staat dort verteilt nicht einfach nur passiv Fördergelder an Unternehmen, was oft nicht der klügste Weg ist. Stattdessen definieren kluge Köpfe alle paar Jahre strategische Zukunftsmärkte. So wurde vor Jahrzehnten entschieden, dass der Bau von Halbleiterwerken entscheidend sein wird, woraufhin man gezielt den Gründer von TSMC aus den USA zurückholte. Heute hängt die gesamte Weltwirtschaft von TSMC ab, was für Taiwan zugleich ein enorm starkes sicherheitspolitisches Instrument ist.

Ein weiterer entscheidender Punkt ist, wie Staaten investieren: Wenn staatliche Innovationsbehörden Unternehmen mit Kapital unterstützen, sollten sie dafür im Gegenzug auch Unternehmensanteile (Equity) erhalten, anstatt nur verlorene Zuschüsse zu verteilen. Der Staat sollte sich als stiller Gesellschafter beteiligen, sich nicht in das operative Tagesgeschäft einmischen, aber bei einem erfolgreichen Exit sein Geld inklusive Rendite zurückerhalten. So kann ein Staat mit Innovation tatsächlich Geld verdienen, das wieder in das Ökosystem zurückfließen kann.

Welchen Rat würden Sie Gründern geben, die heute in Europa Deep-Tech-Unternehmen aufbauen?

Schauen Sie sich genau an, wer in der aktuellen Marktphase wirklich Geld verdient. Im KI-Bereich verlieren viele Software- und Anwendungsunternehmen derzeit Milliarden, während diejenigen, die die Infrastruktur und Hardware bereitstellen – wie Nvidia oder TSMC als deren Auftragsfertiger –, enorm erfolgreich sind.

Wir erleben eine Wende: Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen. Die wahren Deep-Tech-Chancen liegen heute in der Lösung fundamentaler physischer und technischer Probleme – sei es bei der Energieeffizienz, der Kühlung von Rechenzentren, fortschrittlichen Halbleitern oder auch in der Weltraumtechnologie (Space Tech). Wenn Sie ein Unternehmen aufbauen, fokussieren Sie sich auf diese harten Infrastruktur- und Technologieprobleme, die die Welt zwingend lösen muss.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Artikel hebt die Bedeutung der künstlichen Intelligenz (KI) bei der Bewältigung gesellschaftlicher Herausforderungen hervor, insbesondere im Zusammenhang mit den Zielen für nachhaltige Entwicklung der Vereinten Nationen. Es wird betont, dass KI das Potenzial hat, Lösungen für Probleme wie Klimakrise, Umweltverschmutzung und Welthunger zu finden. Gleichzeitig werden jedoch auch Bedenken bezüglich der Sicherheit und Regulierung von KI ausgedrückt. Der Historiker Yuval Noah Harari warnt vor den potenziellen Gefahren von KI, insbesondere vor ihrer Fähigkeit, selbst Entscheidungen zu treffen und neue Ideen zu entwickeln. Er fordert daher eine stärkere Regulierung und Sicherheitschecks für KI-Anwendungen. Darüber hinaus warnt er vor der Manipulation von Informationen und dem Einfluss von Bots auf den demokratischen Diskurs. Insgesamt verdeutlicht der Artikel die gesellschaftspolitischen Auswirkungen von KI und betont die Notwendigkeit einer verantwortungsvollen und gezielten Nutzung dieser Technologie, um die demokratische Gesellschaft zu schützen und die Ziele für nachhaltige Entwicklung zu erreichen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Initiative „AI for Good“ und die Befürwortung von Yuval Noah Harari für Investitionen in die Sicherheit von KI haben potenzielle wirtschaftliche Auswirkungen. Durch die Konzentration von 20 Prozent des KI-Investitionskapitals auf die Regulierung und Sicherheit von KI könnte dies zu einer erhöhten Nachfrage nach KI-Regulierungsbehörden und Sicherheitsmaßnahmen führen. Dies könnte wiederum neue Arbeitsplätze und Investitionsmöglichkeiten in diesen Bereichen schaffen. Darüber hinaus kann die Nutzung von KI zur Lösung globaler Probleme wie der Klimakrise und der Bekämpfung des Welthungers auch einen positiven Einfluss auf die Wirtschaft haben, indem neue Geschäftsmöglichkeiten und Innovationen entstehen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in ist der Inhalt dieses Artikels für Sie von großer Relevanz. Die Diskussion um künstliche Intelligenz (KI) und ihre Auswirkungen auf die Gesellschaft wird immer wichtiger. Der Historiker Yuval Noah Harari warnt vor den Gefahren einer zu schnellen KI-Entwicklung und stellt die Notwendigkeit einer besseren Regulierung heraus. Dies betrifft auch Sie als Innovationsmanager:in, da Sie dafür verantwortlich sind, Innovationen voranzutreiben und gleichzeitig sicherzustellen, dass sie ethisch und sicher sind. Die Forderungen nach Investitionen in die Sicherheit von KI und nach Gesetzen zur Erkennung von Fälschungen haben direkte Auswirkungen auf Ihre Arbeit und könnten Ihre Innovationsstrategien beeinflussen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in ist der Inhalt dieses Artikels relevant, da er darauf hinweist, dass die Entwicklung von künstlicher Intelligenz (KI) sowohl große Chancen als auch potenzielle Gefahren mit sich bringt. Der Historiker Yuval Noah Harari rät dazu, einen stärkeren Fokus auf die Regulierung von KI zu setzen, um deren Sicherheit zu gewährleisten. Zusätzlich empfiehlt er, 20 Prozent der Investitionen in KI in die Sicherheit zu investieren. Für Investor:innen bedeutet dies, die potenziellen Risiken von KI zu berücksichtigen und sicherzustellen, dass ihre Investitionen in KI-Projekte auch die notwendigen Sicherheitsmaßnahmen berücksichtigen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist der Inhalt dieses Artikels von großer Relevanz, da er sich mit der Bedeutung von künstlicher Intelligenz (KI) für die Nachhaltigkeitsziele der Vereinten Nationen befasst. Die Initiative „AI for Good“ strebt an, mithilfe von KI-Lösungen Probleme wie die Klimakrise, die Meeresschmutzung und den Welthunger anzugehen. Der Historiker Yuval Noah Harari warnt jedoch vor den Gefahren der raschen KI-Entwicklung und fordert eine verstärkte Regulierung und Investitionen in die Sicherheit von KI. Als Politiker:in sollten Sie daher die Auswirkungen und Herausforderungen im Zusammenhang mit KI-Technologien in Betracht ziehen, um angemessene politische Maßnahmen zu entwickeln und die demokratische Gesellschaft zu schützen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel befasst sich mit der Initiative „AI for Good“, die sich zum Ziel gesetzt hat, Künstliche Intelligenz (KI) zur Lösung globaler Herausforderungen einzusetzen und dabei die nachhaltigen Entwicklungsziele der Vereinten Nationen zu fördern. Während viele Vortragende die positiven Potenziale von KI hervorheben, warnt der Historiker Yuval Noah Harari vor den Risiken einer unregulierten und zu schnellen Entwicklung von KI. Er betont die Notwendigkeit, die Sicherheit und Regulierung von KI zu gewährleisten und hält es für entscheidend, dass ein Teil der Investitionen in KI in die Sicherheit fließt. Zudem warnt Harari vor den Konsequenzen von Deepfakes für die Demokratie und fordert die Einführung entsprechender Gesetze. Das Bigger Picture dieses Artikels liegt darin, dass die KI-Entwicklung nicht nur enorme Chancen, sondern auch erhebliche Herausforderungen mit sich bringt, die hinsichtlich der Sicherheit, Regulierung und dem Schutz demokratischer Prinzipien angegangen werden müssen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • „AI for Good“: Initiative
  • Nick Thompson: amerikanischer Journalist (The Atlantic)
  • Yuval Noah Harari: israelischer Historiker und Bestseller-Autor

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Die relevantesten Organisationen und Unternehmen in diesem Artikel sind:
  • Initiative „AI for Good“
  • Internationale Fernmeldeunion (ITU)
  • 40 UN-Organisationen
  • Nick Thompson (The Atlantic)
  • Yuval Noah Harari

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“