10.07.2023

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

Der Vatikan hat das Thema KI entdeckt. Und einen Leitfaden für Tech-Unternehmen erstellt.
/artikel/papst-ki-handbuch
KI, Papst, Franziskus
(c) L'Osservatore Romano - Papst Franziskus wendet sich mit einem Handbuch an KI-Verantwortliche.

Der Hype um Künstliche Intelligenz macht auch vor der Kirche nicht halt. Während die KI (noch) nicht an einen Gott glaubt – ChatGPT etwa meint, es sei “neutral und habe keinen Glauben an einen bestimmten Gott oder eine bestimmte religiöse Vorstellung” – so hat der Vatikan das Thema für sich entdeckt. Und einen Leitfaden zur KI-Ethik entwickelt.

Ein KI-Think-Tank

Zur Erklärung: Das Institut für Technologie, Ethik und Kultur (ITEC), das im Markkula-Zentrum für angewandte Ethik untergebracht ist, ist eine Kooperation zwischen dem Zentrum und dem Dikasterium für Kultur und Bildung des Vatikans. Das Institut versammelt dabei führende Persönlichkeiten aus Wirtschaft, Zivilgesellschaft, Wissenschaft, Regierung und allen Glaubensrichtungen und -traditionen, um ein tieferes Nachdenken über die Auswirkungen der Technologie auf die Menschheit zu fördern. Ähnlich einem vom Vatikan geleiteten KI-Think-Tank.

Die erste Aufgabe ist die Veröffentlichung eines leitenden Handbuchs mit dem Titel “Ethics in the Age of Disruptive Technologies: An Operational Roadmap“, das Technologieunternehmen helfen soll, sich in den vielen Grauzonen der KI-Ethik zurechtzufinden.

Papst glaubt an Technologie

“Der Papst hatte schon immer eine große Sicht auf die Welt und die Menschheit, und er glaubt, dass Technologie eine gute Sache ist”, sagte Pater Brendan McGuire, ein Pfarrer und ITEC-Berater, gegenüber der Plattform Gizmodo. “Aber wenn wir sie entwickeln, ist es an der Zeit, die tieferen Fragen zu stellen. Technologie-Führungskräfte aus dem ganzen Silicon Valley kommen seit Jahren zu mir und sagen: ‘Sie müssen uns helfen, es gibt eine Menge Zeug am Horizont und wir sind nicht bereit’. Die Idee war, die einladende Macht des Vatikans zu nutzen, um Führungskräfte aus der ganzen Welt zusammenzubringen.”

Im Leitfaden heißt es konkret: “Dieses Handbuch ist aus dem Wunsch heraus entstanden, hochmotivierten und gutwilligen Führungskräften dabei zu helfen, diese gemeinsamen Grundsätze in der Kultur ihrer Unternehmen und der Branche im Allgemeinen zu verankern. Dabei erkennt es die legitime Pluralität der Glaubens- und Wertesysteme der im Technologiesektor Tätigen an und appelliert an die grundlegenden menschlichen Ideale und Werte, die eine allgemeine Akzeptanz finden können und gefunden haben. (…) Es handelt sich um ein laufendes Projekt, das im Lichte der Rückmeldungen derjenigen, die es in ihrer Organisation anwenden wollen, aktualisiert und erweitert werden wird.”

KI-Handbuch: Nicht nur Künstliche Intelligenz als Thema

Das 140-seitige Handbuch fokussiert dabei nicht bloß auf KI und maschinelles Lernen, auch Themen wie Verschlüsselung, Tracking und Face-Recognition-Technologie sind Bestandteil des Inhaltes.

“Es mag für einige überraschend sein, dass der Vatikan sich an diesem Projekt beteiligt, aber es ist letztlich das Ergebnis von Begegnungen – ‘Begegnungen’, um eines der Lieblingsworte von Papst Franziskus zu verwenden – zwischen dem Vatikan und der Welt der Technologie”, schreibt der irische Bischof Paul Tighe, aus dessen Feder das Handbuch stammt.

Und weiter: “Seit ich begonnen habe, mich mit hochrangigen Vertretern des Silicon Valley zu treffen und mit ihnen zu sprechen, insbesondere mit denen, die im Bereich der Künstlichen Intelligenz und des maschinellen Lernens arbeiten, bin ich von ihrem Wunsch beeindruckt, hohe ethische Standards für sich selbst und für ihre Branche aufrechtzuerhalten.”

Dies zeige sich bereits in der Anzahl der Initiativen, die sicherstellen wollen, dass die Technologie im “Dienst der Menschheit”, “für das Gute”, “menschenzentriert”, “ethisch durchdacht” und “offen” eingesetzt werde.

An anderer Stelle beschreibt Tighe das Handbuch als “Frucht einer unwahrscheinlichen Zusammenarbeit”, doch allein die Existenz des “ITEC” sei als ein Zeichen für die reale und potenziell transformative Kraft der KI zu deuten.

Kein Ersatz für Regulierung

Bemerkenswert ist zudem, dass das Zentrum beteuert, sein Handbuch sei kein effektiver Ersatz für staatliche Regulierung. Aber: “Große ‘guardrails’ sind absolut notwendig, und die Länder und Regierungen werden sie zu gegebener Zeit umsetzen”, präzisierte McGuire weiter bei Gizmodo, der angeblich nicht weiß, ob der Papst ChatGPT benutzt. “Dieses Buch spielt eine wichtige Rolle dabei, den Ansatz für das Design und die Implementierung durch die Verbraucher zu beschleunigen. Wir versuchen, die Unternehmen in die Lage zu versetzen, die erforderlichen Standards frühzeitig zu erfüllen.”

In fünf Stufen zu notwendigen Standards

Dies soll mit einem 5-Stufen-Plan gelingen, der im Handbuch die Felder “Technology Ethics Leadership Discernment & Direction”, “Current Technology Ethics & Management Practices Baseline Assessment”, “Responsible Technology Governance Framework Definition”, ” Mindset and Culture Management System Planning and Implementation” und “Responsible Technology Management Ongoing Operations & Continuous Improvement” durchleuchtet.

Der Fünf-Stufen-Plan dieses Handbuchs sei ein praktischer Weg, um Technologieethik in einer Organisation zu operationalisieren.

Jedoch: “Kein Buch, und sei es noch so lang, kann alles auflisten, was in einem bestimmten Unternehmen getan werden muss. Letztendlich kann ein Buch helfen, aber der eigentliche Ort, an dem diese Ideen existieren müssen, ist nicht in Büchern, sondern in den Menschen, und zwar in den Menschen, die in der Organisation arbeiten und diese Organisationskultur zum Leben erwecken. Bei der Ethik geht es darum, nach dem Guten zu streben und das Falsche zu vermeiden. (…) Die Autoren hoffen aufrichtig, dass die Leser dieses Buches nun eine klarere Vorstellung davon haben, wie Ethik operationalisiert werden kann, und dass es ihnen leichter fällt, gute Absichten in ihrer Organisation in die Tat umzusetzen.”

Deine ungelesenen Artikel:
19.09.2024

Aithyra: Wien erhält neues Institut für KI in Biomedizin

Michael Bronstein aus Oxford wird das neue Aithyra-Institut der Österreichischen Akademie der Wissenschaften (ÖAW) leiten. Boehringer Ingelheim Stiftung fördert das Vorhaben mit 150 Mio. Euro.
/artikel/aithyra-wien-erhaelt-neues-institut-fuer-ki-in-biomedizin
19.09.2024

Aithyra: Wien erhält neues Institut für KI in Biomedizin

Michael Bronstein aus Oxford wird das neue Aithyra-Institut der Österreichischen Akademie der Wissenschaften (ÖAW) leiten. Boehringer Ingelheim Stiftung fördert das Vorhaben mit 150 Mio. Euro.
/artikel/aithyra-wien-erhaelt-neues-institut-fuer-ki-in-biomedizin
Aithyra, KI Insitut, Biomedizin
(c) ÖAW/Natascha Unkart - Michael Bronstein, Gründungsdirektor Aithyra und Anita Ender, Geschäftsführerin.

Die Österreichische Akademie der Wissenschaften (ÖAW) baut ihren Schwerpunkt in den Life Sciences weiter aus und eröffnet mit einer Förderung in Höhe von 150 Millionen Euro der Boehringer Ingelheim Stiftung (BIS) ein Institut für Künstliche Intelligenz in der Biomedizin. Das neue Institut mit dem Namen Aithyra soll über die Entwicklung KI-gestützter Forschungsansätze revolutionäre Fortschritte in der Biomedizin erzielen. Und durch die Mithilfe der KI gewonnenen Erkenntnisse zur Förderung der menschlichen Gesundheit beitragen.

Die BIS und die ÖAW konnten Michael Bronstein, DeepMind Professor an der Universität Oxford, als Gründungsdirektor des Instituts gewinnen. Geschäftsführerin wird Anita Ender.

Aithyra am Vienna BioCenter Campus

Die für die Unterbringung notwendigen Mittel werden zu zwei Dritteln aus Mitteln vom Bundesministerium für Bildung, Wissenschaft und Forschung sowie zu einem Drittel durch eine Förderung der Stadt Wien getragen. Die Neuerrichtung eines Gebäudes, in dem auch das Institut final untergebracht wird, übernimmt im Auftrag der Stadt die Wirtschaftsagentur Wien. Aithyra wird in einem neu zu errichtenden Gebäude am Vienna BioCenter Campus (VBC) in Wien-Landstraße angesiedelt.

“AI wird die biologische Revolution des nächsten Jahrzehnts antreiben. Das langfristige Ziel ist es, die menschliche Gesundheit zu verbessern. Aithyra wird dazu beitragen, das Beste aus der Welt der akademischen Forschungslandschaft, der Wirtschaft und der Startups zu verbinden, indem es einen Mix aus Expert:innen aus der KI und den Lebenswissenschaften zusammenbringt. ,We will make Aithyra the place where magic happens'”, sagt Bronstein.

150 Millionen für 12 Jahre

Die Boehringer Ingelheim Stiftung mit Sitz in Mainz fördert die Gründung und den operativen Betrieb des Instituts wie erwähnt mit 150 Millionen Euro für die kommenden zwölf Jahre. Das gilt als die größte, private Forschungsförderung, die es in Österreich je gab.

Gemeinsam mit der ÖAW will sie mit dieser Initiative ein in Europa einmaliges Exzellenz-Institut etablieren, in dem Forschende aus dem Bereich der KI und der biomedizinischen Forschung von Beginn an ihre jeweilige Expertise kombinieren.

Das Aithyra-Institut als “erstes seiner Art in Österreich und in Europa” soll zudem die besten Forschungsansätze aus der Welt der Academia, forschender Unternehmen und Startups vereinen und sich mit universitären und außeruniversitären Wissenschaftseinrichtungen im In- und Ausland eng vernetzen.

Aithyra: Neue Wege der Kooperation

Konkretes Ziel ist es, ein tieferes Verständnis von biomedizinischen Zusammenhängen zu erlangen, um Erkrankungen besser zu verstehen, schnellere und zuverlässigere Diagnosen zu ermöglichen sowie Therapieentwicklungen für derzeit unheilbare Krankheiten zu unterstützen.

“KI- und Life Sciences-Expert:innen wollen im Institut auf eine neue Weise eng zusammenarbeiten: KI-Forschende sind von Anfang an in die biomedizinische Forschung, in Experimente und in die Auswertung der Daten miteinbezogen – und nicht wie bisher üblich erst im Anschluss”, heißt es per Aussendung. Die Ergebnisse und Daten werden künftig für alle Forschenden weltweit nach dem Open-Access Prinzip zugänglich sein.

Name aus der griechischen Mythologie

Gründungsdirektor Michael Bronstein hat Informatik studiert und am Technion – Israel Institute of Technology in Haifa promoviert. Bevor er Professor in Oxford wurde, hatte er eine Professur am Imperial College London sowie Gastprofessuren in Stanford, am MIT und in Harvard inne. Und hat mehrere Startups gegründet. Er erhielt zudem in seiner Laufbahn bisher fünf Grants des European Research Council (ERC).

Um den “zukunftsgewandten Charakter des Instituts zu unterstreichen”, haben die Projektpartner beschlossen, auch für die Namensfindung einen innovativen Ansatz zu wählen. Sie haben den Namen in Zusammenarbeit mit einer KI entwickelt.

Um den Geist von KI und Biomedizin zu verkörpern, wurde die griechische Mythologie als Inspiration herangezogen und mit den Zielen des neuen Instituts verknüpft – und Aithyra war geboren. Laut der von der KI generierten Hintergrundgeschichte ist sie die Tochter von Athene, der Göttin der Weisheit, und Asclepius, dem Gott der Medizin, und ist somit Schutzpatronin und Quelle der Inspiration.

“Aithyra wird neue Impulse für exzellente Wissenschaft setzen und schafft Freiräume sowie beste Bedingungen für herausragende Forschende”, sagt Christoph Boehringer, Vorsitzender der Boehringer Ingelheim Stiftung. “Damit geht die Boehringer Ingelheim Stiftung den nächsten Schritt in ihrem Engagement für exzellente Grundlagenforschung in Medizin, Biologie, Chemie und Pharmazie.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”