10.07.2023

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

Der Vatikan hat das Thema KI entdeckt. Und einen Leitfaden für Tech-Unternehmen erstellt.
/artikel/papst-ki-handbuch
KI, Papst, Franziskus
(c) L'Osservatore Romano - Papst Franziskus wendet sich mit einem Handbuch an KI-Verantwortliche.

Der Hype um Künstliche Intelligenz macht auch vor der Kirche nicht halt. Während die KI (noch) nicht an einen Gott glaubt – ChatGPT etwa meint, es sei “neutral und habe keinen Glauben an einen bestimmten Gott oder eine bestimmte religiöse Vorstellung” – so hat der Vatikan das Thema für sich entdeckt. Und einen Leitfaden zur KI-Ethik entwickelt.

Ein KI-Think-Tank

Zur Erklärung: Das Institut für Technologie, Ethik und Kultur (ITEC), das im Markkula-Zentrum für angewandte Ethik untergebracht ist, ist eine Kooperation zwischen dem Zentrum und dem Dikasterium für Kultur und Bildung des Vatikans. Das Institut versammelt dabei führende Persönlichkeiten aus Wirtschaft, Zivilgesellschaft, Wissenschaft, Regierung und allen Glaubensrichtungen und -traditionen, um ein tieferes Nachdenken über die Auswirkungen der Technologie auf die Menschheit zu fördern. Ähnlich einem vom Vatikan geleiteten KI-Think-Tank.

Die erste Aufgabe ist die Veröffentlichung eines leitenden Handbuchs mit dem Titel “Ethics in the Age of Disruptive Technologies: An Operational Roadmap“, das Technologieunternehmen helfen soll, sich in den vielen Grauzonen der KI-Ethik zurechtzufinden.

Papst glaubt an Technologie

“Der Papst hatte schon immer eine große Sicht auf die Welt und die Menschheit, und er glaubt, dass Technologie eine gute Sache ist”, sagte Pater Brendan McGuire, ein Pfarrer und ITEC-Berater, gegenüber der Plattform Gizmodo. “Aber wenn wir sie entwickeln, ist es an der Zeit, die tieferen Fragen zu stellen. Technologie-Führungskräfte aus dem ganzen Silicon Valley kommen seit Jahren zu mir und sagen: ‘Sie müssen uns helfen, es gibt eine Menge Zeug am Horizont und wir sind nicht bereit’. Die Idee war, die einladende Macht des Vatikans zu nutzen, um Führungskräfte aus der ganzen Welt zusammenzubringen.”

Im Leitfaden heißt es konkret: “Dieses Handbuch ist aus dem Wunsch heraus entstanden, hochmotivierten und gutwilligen Führungskräften dabei zu helfen, diese gemeinsamen Grundsätze in der Kultur ihrer Unternehmen und der Branche im Allgemeinen zu verankern. Dabei erkennt es die legitime Pluralität der Glaubens- und Wertesysteme der im Technologiesektor Tätigen an und appelliert an die grundlegenden menschlichen Ideale und Werte, die eine allgemeine Akzeptanz finden können und gefunden haben. (…) Es handelt sich um ein laufendes Projekt, das im Lichte der Rückmeldungen derjenigen, die es in ihrer Organisation anwenden wollen, aktualisiert und erweitert werden wird.”

KI-Handbuch: Nicht nur Künstliche Intelligenz als Thema

Das 140-seitige Handbuch fokussiert dabei nicht bloß auf KI und maschinelles Lernen, auch Themen wie Verschlüsselung, Tracking und Face-Recognition-Technologie sind Bestandteil des Inhaltes.

“Es mag für einige überraschend sein, dass der Vatikan sich an diesem Projekt beteiligt, aber es ist letztlich das Ergebnis von Begegnungen – ‘Begegnungen’, um eines der Lieblingsworte von Papst Franziskus zu verwenden – zwischen dem Vatikan und der Welt der Technologie”, schreibt der irische Bischof Paul Tighe, aus dessen Feder das Handbuch stammt.

Und weiter: “Seit ich begonnen habe, mich mit hochrangigen Vertretern des Silicon Valley zu treffen und mit ihnen zu sprechen, insbesondere mit denen, die im Bereich der Künstlichen Intelligenz und des maschinellen Lernens arbeiten, bin ich von ihrem Wunsch beeindruckt, hohe ethische Standards für sich selbst und für ihre Branche aufrechtzuerhalten.”

Dies zeige sich bereits in der Anzahl der Initiativen, die sicherstellen wollen, dass die Technologie im “Dienst der Menschheit”, “für das Gute”, “menschenzentriert”, “ethisch durchdacht” und “offen” eingesetzt werde.

An anderer Stelle beschreibt Tighe das Handbuch als “Frucht einer unwahrscheinlichen Zusammenarbeit”, doch allein die Existenz des “ITEC” sei als ein Zeichen für die reale und potenziell transformative Kraft der KI zu deuten.

Kein Ersatz für Regulierung

Bemerkenswert ist zudem, dass das Zentrum beteuert, sein Handbuch sei kein effektiver Ersatz für staatliche Regulierung. Aber: “Große ‘guardrails’ sind absolut notwendig, und die Länder und Regierungen werden sie zu gegebener Zeit umsetzen”, präzisierte McGuire weiter bei Gizmodo, der angeblich nicht weiß, ob der Papst ChatGPT benutzt. “Dieses Buch spielt eine wichtige Rolle dabei, den Ansatz für das Design und die Implementierung durch die Verbraucher zu beschleunigen. Wir versuchen, die Unternehmen in die Lage zu versetzen, die erforderlichen Standards frühzeitig zu erfüllen.”

In fünf Stufen zu notwendigen Standards

Dies soll mit einem 5-Stufen-Plan gelingen, der im Handbuch die Felder “Technology Ethics Leadership Discernment & Direction”, “Current Technology Ethics & Management Practices Baseline Assessment”, “Responsible Technology Governance Framework Definition”, ” Mindset and Culture Management System Planning and Implementation” und “Responsible Technology Management Ongoing Operations & Continuous Improvement” durchleuchtet.

Der Fünf-Stufen-Plan dieses Handbuchs sei ein praktischer Weg, um Technologieethik in einer Organisation zu operationalisieren.

Jedoch: “Kein Buch, und sei es noch so lang, kann alles auflisten, was in einem bestimmten Unternehmen getan werden muss. Letztendlich kann ein Buch helfen, aber der eigentliche Ort, an dem diese Ideen existieren müssen, ist nicht in Büchern, sondern in den Menschen, und zwar in den Menschen, die in der Organisation arbeiten und diese Organisationskultur zum Leben erwecken. Bei der Ethik geht es darum, nach dem Guten zu streben und das Falsche zu vermeiden. (…) Die Autoren hoffen aufrichtig, dass die Leser dieses Buches nun eine klarere Vorstellung davon haben, wie Ethik operationalisiert werden kann, und dass es ihnen leichter fällt, gute Absichten in ihrer Organisation in die Tat umzusetzen.”

Deine ungelesenen Artikel:
20.09.2024

Callcenter vor dem Aus? – Wie Salesforce mit KI die Kundeninteraktion neu definieren möchte

Interview. Mit Agentforce möchte Salesforce eine neue Ära in der Kundeninteraktion einläuten. brutkasten hat auf der Dreamforce-Konferenz in San Francisco mit David Hable, Salesforce-Co-Country Leader in Österreich, über die neuen Einsatzmöglichkeiten der Technologie und deren Auswirkungen auf die Arbeitswelt gesprochen.
/artikel/salesforce-dreamforce-interview-david-hable
20.09.2024

Callcenter vor dem Aus? – Wie Salesforce mit KI die Kundeninteraktion neu definieren möchte

Interview. Mit Agentforce möchte Salesforce eine neue Ära in der Kundeninteraktion einläuten. brutkasten hat auf der Dreamforce-Konferenz in San Francisco mit David Hable, Salesforce-Co-Country Leader in Österreich, über die neuen Einsatzmöglichkeiten der Technologie und deren Auswirkungen auf die Arbeitswelt gesprochen.
/artikel/salesforce-dreamforce-interview-david-hable
David Hable, Salesforce Co-Country Leader für Österreich | (c) Martin Pacher

Auf der Dreamforce-Konferenz in San Francisco dreht sich dieses Jahr alles um die neue Plattform Agentforce. Salesforce-Gründer Marc Benioff stellte in seiner Keynote am Dienstag die dahinterliegende Technologie und konkrete Use Cases vor, die die “dritte Welle der KI” einläuten soll. Agentforce ermöglicht es Unternehmen, die Kundeninteraktion durch autonome digitale Agents zu automatisieren. Sie sollen eine nahezu menschliche Interaktion ermöglichen. (brutkasten berichtete). Doch welche Vorteile bieten die digitalen Agents konkret, und wie werden sie die Kundeninteraktion und Arbeitswelt verändern? Darüber haben wir auf der Dreamforce mit David Hable gesprochen. Er ist Co-Country Leader von Salesforce in Österreich.


brutkasten: Im Zuge der Dreamforce-Konferenz wurde Agentforce vorgestellt. Die Plattform soll eine neue Ära in der Kundeninteraktion einläuten. Welche Vorteile bieten Agents?

David Hable: Wir stehen definitiv vor einer neuen Ära. Agents werden eine Menge leisten können, denn sie haben über unsere Datacloud und die Plattform direkten Zugriff auf die benötigten Informationen im Hintergrund. Sie müssen diese Daten nicht wie ein Mensch erst lesen oder aufwändig durchsuchen, sondern haben diese sofort zur Verfügung. In vielen Fällen können Agents Informationen sogar schneller und präziser bereitstellen, als es ein Mensch tun könnte. Und mittlerweile geschieht das auf eine Art und Weise, die fast menschenähnlich wirkt.

Diese Entwicklung vereint das Beste aus beiden Welten. Chatbots waren schon immer gut darin, digitale Informationen abzufragen, aber die Interaktion wirkte oft etwas unbeholfen. Es waren vorgefertigte Antworten, die sich nie wirklich natürlich anfühlten. Jetzt gelingt es uns, das Beste aus beiden Welten zu verbinden – die Effizienz und Schnelligkeit digitaler Systeme mit einer natürlichen, menschlichen Interaktion.

Welche Use Cases für Agents wird es künftig geben? 

Wir haben im Zuge der Dreamforce verschiedene Bereiche präsentiert: Sales, Service, Handel und Marketing. Unsere Plattform macht es darüber hinaus sehr einfach, neue Agents zu bauen. Im Sales zum Beispiel geht es um die Schulung von Sales-Leuten. Anstatt neue Vertriebsmitarbeiter sofort mit Kunden in Kontakt zu bringen, können sie zunächst einige Male mit unseren digitalen Agenten interagieren. Ein weiteres Beispiel im Vertriebsumfeld ist Cold Calling. Auch hier haben wir Lösungen vorgestellt, bei denen Agenten diese Aufgabe künftig übernehmen können. Hier gibt es verschiedene Anwendungsfälle im Kundenkontakt.

Man muss sich das so vorstellen: Wenn Sie Informationen zu Kunden in Ihren Systemen haben, können wir die Interaktion mit Agenten automatisieren. Und es müssen nicht nur Salesforce-Systeme sein. Mit Datacloud können wir externe Daten in unser System anbinden. Wenn ein Kunde Informationen wie Rechnungen, Lieferzeiten, Preise oder andere datenbasierte Anfragen stellt, können wir diese Interaktionen automatisieren und die gewünschten Informationen effizient über Agentsforce an den Kunden übermitteln.

Mit 45.000 Teilnehmer:innen zählt die Dreamforce zu den größten Veranstaltungen in der Tech-Welt | (c) martin pacher / brutkasten

Welche Auswirkungen wird dies auf die Arbeitswelt haben. Werden Call-Center-Mitarbeiter:innen in Zukunft überflüssig werden?

Ich glaube nicht, dass sie vollständig verschwinden werden. Es wird immer Anwendungsfälle geben, in denen menschliche Interaktion unverzichtbar ist. Unser Fokus liegt darauf, dem Kunden bei der Interaktion zwischen KI und Menschen das bestmögliche Erlebnis zu bieten. Die Technologie ermöglicht den Mitarbeitern, sich auf die wirklich wesentlichen Aufgaben zu konzentrieren, anstatt sich mit administrativen Aufgaben rumschlagen zu müssen. 

Im Zuge der Dreamforce-Konferenz wurde viel von Trustworthy AI gesprochen. Wie wird ein sicherer Umgang mit Daten sichergestellt? 

Wir haben 1999 begonnen und waren der erste echte öffentliche Cloud-Anbieter. Salesforce hat die SaaS-Lösungen quasi erfunden. Vor uns gab es das noch nicht. Doch schon damals, und auch noch vor fünf bis zehn Jahren, herrschte oft eine gewisse Skepsis gegenüber Cloud-Anwendungen. Es gab Ängste, die Kontrolle über die eigenen Daten an andere Anbieter abzugeben. Von Anfang an sind wir dieser Herausforderung damit begegnet, Vertrauen als Grundwert in Salesforce und in der Interaktion mit unseren Kunden zu etablieren.

Dasselbe Prinzip gilt heute im Bereich der KI. Wir beschäftigen uns seit über zehn Jahren mit KI, und all unsere Entwicklungen basieren auf diesem Vertrauensgrundsatz. In der KI sprechen wir von dem sogenannten Trust-Layer. Dieser stellt sicher, dass die Daten, die in der KI verarbeitet werden, nicht unbefugt genutzt werden. Personenbezogene Daten werden verschlüsselt, bevor sie überhaupt in das Large Language Model (LLM) gelangen. 

David Hable auf der Dreamforce | (c) martin pacehr | brutkasten

Durch diese Sicherheitsmaßnahmen können unsere Kunden sicher sein, dass sie vertrauensvoll mit unserer KI arbeiten und dennoch ihre unternehmensspezifischen Daten nutzen können. Denn ohne diese Daten funktioniert es nicht. Ein LLM allein, das nur allgemeine Informationen aus Quellen wie Wikipedia enthält, reicht nicht aus, um wertvolle Kundeninteraktionen zu ermöglichen. Die KI muss die relevanten Kundendaten kennen, um sinnvolle und wertvolle Interaktionen mit Kunden führen zu können.

Marc Benioff hat bereits im Vorfeld der Dreamforce von einem “Hard Pivot” gesprochen, den Salesforce mit dem Schritt zu Agents macht. Wie wirkt sich dieser Kurswechsel auf Salesforce aus?

Ich sehe darin eine klare Weiterentwicklung, nicht unbedingt als Kurswechsel. Wenn man sich die Keynotes von Marc vor einem Jahr ansehen, war dieser Weg bereits erkennbar – es stand schon auf den Folien. Zunächst haben wir mit prädiktiver KI begonnen, dann sind wir zur generativen KI übergegangen, und der nächste Schritt war schon damals die autonome KI. Jetzt befinden wir uns genau an diesem Punkt.

Wie hebt sich Salesforce von Mitbewerbern wie Microsoft ab?

Wenn man sinnvoll mit KI arbeiten möchte, braucht man kontinuierliche Unternehmensinformationen und Prozesse. Genau das können wir mit unserer Plattform sicherstellen. Unsere Plattform ermöglicht den Zugang zu Informationen aus Bereichen wie Sales, Service, Marketing, Handel und vielen weiteren. Dadurch sind wir in der Lage, diese Prozesse effizient zu steuern und optimal auszubalancieren. Das ist es, was uns vom Wettbewerb unterscheidet – wir sind die Einzigen, die diese umfassende Integration von Informationen und Prozessen so bieten können. 

Wie sieht das Pricing des neuen Agentforce-Modells aus? 

Die Preisgestaltung erfolgt grundsätzlich verbrauchsabhängig, also abhängig davon, wie viel man konsumiert. Ein Gespräch mit einem Agenten wird ab zwei US-Dollar kosten.

Wie sieht es mit der Verfügbarkeit von Agentforce in Österreich aus?

Agentforce wird ab Oktober global ausgerollt – darunter auch in Österreich. Zudem werden wir die Technologie auch bei unserem Innovation Day am 12. November in Wien vorstellen. Dort kann man selbst ausprobieren, wie einfach es ist, einen Agenten zu bauen. Man muss dafür kein Programmier oder Techniker sein.


*Disclaimer: Die Reisekosten wurden von Salesforce übernommen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Papst veröffentlicht Ethik-Handbuch für KI – eine 140-seitige Roadmap für “das Gute”