10.07.2023

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

Der Vatikan hat das Thema KI entdeckt. Und einen Leitfaden für Tech-Unternehmen erstellt.
/artikel/papst-ki-handbuch
KI, Papst, Franziskus
(c) L'Osservatore Romano - Papst Franziskus wendet sich mit einem Handbuch an KI-Verantwortliche.

Der Hype um Künstliche Intelligenz macht auch vor der Kirche nicht halt. Während die KI (noch) nicht an einen Gott glaubt – ChatGPT etwa meint, es sei „neutral und habe keinen Glauben an einen bestimmten Gott oder eine bestimmte religiöse Vorstellung“ – so hat der Vatikan das Thema für sich entdeckt. Und einen Leitfaden zur KI-Ethik entwickelt.

Ein KI-Think-Tank

Zur Erklärung: Das Institut für Technologie, Ethik und Kultur (ITEC), das im Markkula-Zentrum für angewandte Ethik untergebracht ist, ist eine Kooperation zwischen dem Zentrum und dem Dikasterium für Kultur und Bildung des Vatikans. Das Institut versammelt dabei führende Persönlichkeiten aus Wirtschaft, Zivilgesellschaft, Wissenschaft, Regierung und allen Glaubensrichtungen und -traditionen, um ein tieferes Nachdenken über die Auswirkungen der Technologie auf die Menschheit zu fördern. Ähnlich einem vom Vatikan geleiteten KI-Think-Tank.

Die erste Aufgabe ist die Veröffentlichung eines leitenden Handbuchs mit dem Titel „Ethics in the Age of Disruptive Technologies: An Operational Roadmap„, das Technologieunternehmen helfen soll, sich in den vielen Grauzonen der KI-Ethik zurechtzufinden.

Papst glaubt an Technologie

„Der Papst hatte schon immer eine große Sicht auf die Welt und die Menschheit, und er glaubt, dass Technologie eine gute Sache ist“, sagte Pater Brendan McGuire, ein Pfarrer und ITEC-Berater, gegenüber der Plattform Gizmodo. „Aber wenn wir sie entwickeln, ist es an der Zeit, die tieferen Fragen zu stellen. Technologie-Führungskräfte aus dem ganzen Silicon Valley kommen seit Jahren zu mir und sagen: ‚Sie müssen uns helfen, es gibt eine Menge Zeug am Horizont und wir sind nicht bereit‘. Die Idee war, die einladende Macht des Vatikans zu nutzen, um Führungskräfte aus der ganzen Welt zusammenzubringen.“

Im Leitfaden heißt es konkret: „Dieses Handbuch ist aus dem Wunsch heraus entstanden, hochmotivierten und gutwilligen Führungskräften dabei zu helfen, diese gemeinsamen Grundsätze in der Kultur ihrer Unternehmen und der Branche im Allgemeinen zu verankern. Dabei erkennt es die legitime Pluralität der Glaubens- und Wertesysteme der im Technologiesektor Tätigen an und appelliert an die grundlegenden menschlichen Ideale und Werte, die eine allgemeine Akzeptanz finden können und gefunden haben. (…) Es handelt sich um ein laufendes Projekt, das im Lichte der Rückmeldungen derjenigen, die es in ihrer Organisation anwenden wollen, aktualisiert und erweitert werden wird.“

KI-Handbuch: Nicht nur Künstliche Intelligenz als Thema

Das 140-seitige Handbuch fokussiert dabei nicht bloß auf KI und maschinelles Lernen, auch Themen wie Verschlüsselung, Tracking und Face-Recognition-Technologie sind Bestandteil des Inhaltes.

„Es mag für einige überraschend sein, dass der Vatikan sich an diesem Projekt beteiligt, aber es ist letztlich das Ergebnis von Begegnungen – ‚Begegnungen‘, um eines der Lieblingsworte von Papst Franziskus zu verwenden – zwischen dem Vatikan und der Welt der Technologie“, schreibt der irische Bischof Paul Tighe, aus dessen Feder das Handbuch stammt.

Und weiter: „Seit ich begonnen habe, mich mit hochrangigen Vertretern des Silicon Valley zu treffen und mit ihnen zu sprechen, insbesondere mit denen, die im Bereich der Künstlichen Intelligenz und des maschinellen Lernens arbeiten, bin ich von ihrem Wunsch beeindruckt, hohe ethische Standards für sich selbst und für ihre Branche aufrechtzuerhalten.“

Dies zeige sich bereits in der Anzahl der Initiativen, die sicherstellen wollen, dass die Technologie im „Dienst der Menschheit“, „für das Gute“, „menschenzentriert“, „ethisch durchdacht“ und „offen“ eingesetzt werde.

An anderer Stelle beschreibt Tighe das Handbuch als „Frucht einer unwahrscheinlichen Zusammenarbeit“, doch allein die Existenz des „ITEC“ sei als ein Zeichen für die reale und potenziell transformative Kraft der KI zu deuten.

Kein Ersatz für Regulierung

Bemerkenswert ist zudem, dass das Zentrum beteuert, sein Handbuch sei kein effektiver Ersatz für staatliche Regulierung. Aber: „Große ‚guardrails‘ sind absolut notwendig, und die Länder und Regierungen werden sie zu gegebener Zeit umsetzen“, präzisierte McGuire weiter bei Gizmodo, der angeblich nicht weiß, ob der Papst ChatGPT benutzt. „Dieses Buch spielt eine wichtige Rolle dabei, den Ansatz für das Design und die Implementierung durch die Verbraucher zu beschleunigen. Wir versuchen, die Unternehmen in die Lage zu versetzen, die erforderlichen Standards frühzeitig zu erfüllen.“

In fünf Stufen zu notwendigen Standards

Dies soll mit einem 5-Stufen-Plan gelingen, der im Handbuch die Felder „Technology Ethics Leadership Discernment & Direction“, „Current Technology Ethics & Management Practices Baseline Assessment“, „Responsible Technology Governance Framework Definition“, “ Mindset and Culture Management System Planning and Implementation“ und „Responsible Technology Management Ongoing Operations & Continuous Improvement“ durchleuchtet.

Der Fünf-Stufen-Plan dieses Handbuchs sei ein praktischer Weg, um Technologieethik in einer Organisation zu operationalisieren.

Jedoch: „Kein Buch, und sei es noch so lang, kann alles auflisten, was in einem bestimmten Unternehmen getan werden muss. Letztendlich kann ein Buch helfen, aber der eigentliche Ort, an dem diese Ideen existieren müssen, ist nicht in Büchern, sondern in den Menschen, und zwar in den Menschen, die in der Organisation arbeiten und diese Organisationskultur zum Leben erwecken. Bei der Ethik geht es darum, nach dem Guten zu streben und das Falsche zu vermeiden. (…) Die Autoren hoffen aufrichtig, dass die Leser dieses Buches nun eine klarere Vorstellung davon haben, wie Ethik operationalisiert werden kann, und dass es ihnen leichter fällt, gute Absichten in ihrer Organisation in die Tat umzusetzen.“

Deine ungelesenen Artikel:
vor 16 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
vor 16 Stunden

USB-Stick-Erfinder Dov Moran: „Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann“

„Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen“, warnt USB-Stick-Erfinder Dov Moran im brutkasten-Interview. Der israelische Tech-Pionier und heutige Deep-Tech-Investor erklärt, warum beim KI-Boom vor allem Hardware und Energieeffizienz zählen und warum Österreich sich nicht im Defense-Tech versuchen sollte. Brutkasten hat ihn auf der Restart Innovation & Investment Vienna getroffen.
/artikel/erfinder-des-usb-sticks-dov-moran-man-muss-nischen-finden-in-denen-man-wirkliche-wettbewerbsvorteile-aufbauen-kann
USB-Stick Erfinder Dov Moran im Interview. (c) LinkedIn/Dov Moran

Mit der Gründung von M-Systems und der Erfindung des USB-Flash-Laufwerks sowie revolutionärer Speicherlösungen schrieb der israelische Halbleiter-Pionier Dov Moran Technologiegeschichte, bevor er sein Unternehmen für rund 1,6 Milliarden US-Dollar an SanDisk verkaufte. Heute lenkt er als Managing Partner beim Deep-Tech-Fonds Grove Ventures als einer der angesehensten Tech-Investoren Israels die Zukunft von KI, Halbleitern, Cloud-Infrastruktur und digitaler Gesundheit.

Der Tech-Pionier und Investor erklärt im Interview, dass im aktuellen KI-Boom vor allem die physische Infrastruktur entscheidend ist und sich Europa statt auf Defense-Tech auf Nischen wie Quantentechnologie konzentrieren sollte. Darüber hinaus empfiehlt er staatliche Unternehmensbeteiligungen nach taiwanesischem Vorbild sowie eine Kultur, die echten Gründergeist und Mut zum Risiko fördert.

brutkasten: Sie haben geholfen, mit dem USB-Flash-Laufwerk eine der am weitesten verbreiteten Technologien der Welt zu erfinden. Wenn Sie zurückblicken: Was unterscheidet bahnbrechende Innovationen von Technologien, die niemals skalieren?

Dov Moran: Zunächst einmal ist der USB-Stick heute ein totes Produkt. Nur noch sehr wenige Menschen benutzen ihn, aber genau das ist das Wesen von Technologie: Man baut etwas auf, und das dient dann als Fundament für etwas Fortschrittlicheres. Ich bin sehr stolz darauf, dass ich einen kleinen Teil zu dieser Infrastruktur beitragen konnte.

Bei M-Systems haben wir damals allerdings noch andere Dinge erfunden, die ich für fast noch wichtiger halte, auch wenn sie für Endkunden weniger sichtbar waren. Damals gab es zwei Arten von Flash-Speicher: NAND-Flash für reine Daten und NOR-Flash – dominiert von Intel und AMD –, um den Code für das Betriebssystem zu speichern. Das gesamte Marktkonzept sah vor, dass jedes System beide Komponenten benötigt. Wir haben damals eine technologische Lösung gefunden, um den NOR-Flash komplett zu eliminieren und den Code direkt in den NAND-Flash zu integrieren. Unser Weg, dieses Problem zu lösen, hat das NOR-Flash-Geschäft für Intel und AMD grundlegend verändert, aber gleichzeitig in jedem einzelnen Telefon auf der Welt den Platzbedarf reduziert und etwa drei Dollar pro Gerät gespart. Bei rund einer Milliarde produzierten Telefonen pro Jahr haben wir der Welt somit jährlich drei Milliarden Dollar eingespart.

Welche Technologie erinnert Sie heute am meisten an die Anfangstage des Flash-Speichers?

Ich denke, wir sehen derzeit eine grundlegende Wende auf dem Markt – weg von einer rein softwaregetriebenen Welt hin zu einer Welt der Infrastruktur. Marc Andreessen sagte einmal: „Software eats the world.“ Heute geht es jedoch vor allem darum, die richtige Hardware- und Infrastrukturbasis zu schaffen: Wir brauchen die richtigen CPUs, wir müssen das enorme Problem des Energieverbrauchs und der Kühlung lösen und wir müssen Rechenzentren bauen, die deutlich effizienter und effektiver sind.

Was heute an Infrastruktur existiert, kann die weltweite Nachfrage schlichtweg nicht bedienen, wenn bald jeder Mensch KI nutzt, forscht und eigene Agenten baut. Wenn auch nur zehn Prozent der Bevölkerung anfangen, intensiv KI-Agenten zu bauen und zu nutzen, würden unsere heutigen Systeme zusammenbrechen. Die Infrastruktur für Künstliche Intelligenz steht genau vor solchen fundamentalen technologischen Skalierungsaufgaben.

Alle sprechen über KI. Wo sehen Sie die größten Chancen jenseits der aktuellen KI-Welle beziehungsweise wo sollte sich Europa positionieren?

KI ist eine gewaltige Revolution, die das Leben aller Menschen beeinflussen wird – vom Reinigungspersonal bis hin zum Leiter einer Onkologie-Abteilung, dessen Diagnostik und Behandlungsweisen sich grundlegend verändern werden. Eine so große Transformation bringt natürlich für jeden enorme Chancen mit sich – für Einzelpersonen, Krankenhäuser, das Bildungswesen und für ganze Staaten.

Wenn ein Land wie Österreich entscheidet, in diesen Markt zu investieren, sollte der Fokus auf der Infrastrukturebene oder auf sehr gezielten Nischen liegen, nicht auf reinen Anwendungen. Ich glaube zum Beispiel nicht, dass Österreich versuchen sollte, im Bereich Defense Tech zu konkurrieren. Dieser Markt erfordert gewaltige Kapazitäten, riesige Budgets und spezifisches Know-how, wie es in den USA oder aufgrund ständiger Konflikte in Israel und der Ukraine existiert.

Man muss Nischen finden, in denen man wirkliche Wettbewerbsvorteile aufbauen kann. Das könnte zum Beispiel die Quantentechnologie sein, die Kombination aus Gesundheitswesen und KI oder hochentwickelte Sensorik für eine bessere medizinische Überwachung von zu Hause aus.

Israel bringt trotz seines relativ kleinen Marktes kontinuierlich globale Technologie-Champions hervor. Was erklärt diesen Erfolg und wie wird Unternehmertum dort gefördert?

Es gibt einen großen Unterschied zwischen Erfindern, Unternehmern und operativen Managern. Viele Erfinder kommen von Universitäten, aber selbst die beste Erfindung oder das beste Patent scheitert, wenn man nicht weiß, wie man ein Unternehmen führt und skaliert. Ich bin der festen Überzeugung, dass Unternehmertum und Innovation viel früher im Bildungssystem verankert werden müssen – spätestens an den weiterführenden Schulen.

Das Bildungssystem muss weg vom reinen Frontalunterricht und Auswendiglernen, hin zu echter Interaktion, Teamwork und praktischer Projektarbeit. Ich bin selbst Verwaltungsratsmitglied einer 150 Jahre alten jüdischen Schulkette namens ORT. Um den Schülern dieses Denken nahezubringen, habe ich ein Buch über Unternehmer geschrieben, das nach jedem Kapitel Diskussionsfragen aufwirft. Ich beginne darin mit Abraham als dem „ersten jüdischen Unternehmer“, der den Monotheismus erfunden hat.

Im Talmud gibt es die Geschichte, dass Abraham die Götzenstatuen im Laden seines Vaters zerstörte, weil er die Logik dahinter hinterfragte, und danach seine Heimat verließ, um ins Ungewisse nach Israel zu ziehen. Genau das passiert vielen Gründerinnen und Gründern: Sie haben eine Vision, jeder sagt ihnen, dass es unmöglich ist, und sie müssen bereit sein, ihre gewohnte Umgebung zu verlassen, um ihr Ziel zu erreichen. Schüler müssen lernen, solche kritischen Fragen zu diskutieren: Was bedeutet es, ins Ungewisse zu gehen? Ist Unternehmertum immer gut oder birgt es auch Risiken? Diese mentale Vorbereitung ist die Basis für eine Innovationskultur.

Was kann Europa und speziell ein Land wie Österreich von der israelischen Innovationskultur und anderen globalen Vorreitern lernen?

Zunächst einmal können auch wir viel von Europa lernen – zum Beispiel, wie man ein Land so lebenswert und friedlich gestaltet. Was die Förderung von Technologie betrifft, lohnt sich für Europa jedoch ein Blick nach Taiwan, speziell auf das ITRI-Institut (Industrial Technology Research Institute).

Der Staat dort verteilt nicht einfach nur passiv Fördergelder an Unternehmen, was oft nicht der klügste Weg ist. Stattdessen definieren kluge Köpfe alle paar Jahre strategische Zukunftsmärkte. So wurde vor Jahrzehnten entschieden, dass der Bau von Halbleiterwerken entscheidend sein wird, woraufhin man gezielt den Gründer von TSMC aus den USA zurückholte. Heute hängt die gesamte Weltwirtschaft von TSMC ab, was für Taiwan zugleich ein enorm starkes sicherheitspolitisches Instrument ist.

Ein weiterer entscheidender Punkt ist, wie Staaten investieren: Wenn staatliche Innovationsbehörden Unternehmen mit Kapital unterstützen, sollten sie dafür im Gegenzug auch Unternehmensanteile (Equity) erhalten, anstatt nur verlorene Zuschüsse zu verteilen. Der Staat sollte sich als stiller Gesellschafter beteiligen, sich nicht in das operative Tagesgeschäft einmischen, aber bei einem erfolgreichen Exit sein Geld inklusive Rendite zurückerhalten. So kann ein Staat mit Innovation tatsächlich Geld verdienen, das wieder in das Ökosystem zurückfließen kann.

Welchen Rat würden Sie Gründern geben, die heute in Europa Deep-Tech-Unternehmen aufbauen?

Schauen Sie sich genau an, wer in der aktuellen Marktphase wirklich Geld verdient. Im KI-Bereich verlieren viele Software- und Anwendungsunternehmen derzeit Milliarden, während diejenigen, die die Infrastruktur und Hardware bereitstellen – wie Nvidia oder TSMC als deren Auftragsfertiger –, enorm erfolgreich sind.

Wir erleben eine Wende: Es reicht nicht mehr aus, nur auf reine Software-Anwendungen zu setzen. Die wahren Deep-Tech-Chancen liegen heute in der Lösung fundamentaler physischer und technischer Probleme – sei es bei der Energieeffizienz, der Kühlung von Rechenzentren, fortschrittlichen Halbleitern oder auch in der Weltraumtechnologie (Space Tech). Wenn Sie ein Unternehmen aufbauen, fokussieren Sie sich auf diese harten Infrastruktur- und Technologieprobleme, die die Welt zwingend lösen muss.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für „das Gute“