06.07.2023

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

Bei einer Konferenz in der Schweiz sprechen führende KI-Expert:innen darüber, wie uns KI bei der Bewältigung von Krisen helfen kann. Auch der israelische Historiker Yuval Harari war dabei.
/artikel/harari-20-prozent-von-jedem-ki-investment-sollen-in-die-sicherheit-von-ki-fliessen
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash

„Wir haben weniger als 10 Jahre Zeit, um die Ziele für nachhaltige Entwicklung (SDGs) der Vereinten Nationen zu erreichen“, so die Initiative „AI for Good“, die sich am Donnerstag zum Summit in Genf traf. Die Vertreter:innen sind überzeugt, dass in der KI viele Lösungswege für Probleme stecken. KI könne dafür riesige Datenmengen nutzen, die derzeit zu menschlichen Emotionen, unserem Verhalten, der Gesundheit, Handel, Kommunikation, Migration und in anderen Bereichen gesammelt werden.

KI soll bei Sustainable Development Goals helfen

Die Initiative „AI for Good“ will KI-Anwendungen finden, welche die Sustainable Development Goals der Vereinten Nationen vorantreiben und Lösungen für Probleme wie die Klimakrise, die Verschmutzung der Meere oder den Welthunger finden. „AI for Good“ ist ein gemeinsames Projekt von der Internationalen Fernmeldeunion (ITU) und 40 UN-Organisationen.

Viele Vortragende erzählen, welche Lösungen die KI für unsere Probleme anbietet. Roboter sind in Genf auch reichlich vertreten, ob auf der Bühne oder als Servicepersonal. Als Roboter „Sofia“ auf der Bühne aber zum Singen aufgefordert wird, bleibt sie peinlich still.

Harari: Die gefährlichste Technologie aller Zeiten

Der amerikanische Journalist Nick Thompson (The Atlantic) und der israelische Historiker und Bestseller-Autor Yuval Noah Harari sprachen über KI und die Zukunft der Demokratie. Der Historiker warnt eindrücklich vor der aktuellen, aus seiner Sicht zu schnellen KI-Entwicklung: „Es ist das erste Tool in der menschlichen Geschichte, das selbst Entscheidungen treffen kann“, so Harari. Zudem sei es auch noch nie der Fall gewesen, dass ein Tool „selbstständig neue Ideen entwickeln kann“.

Besonders eindringlich warnt Harari daher vor der immensen Geschwindigkeit der technischen Entwicklung: „Menschen sind nicht sehr gut darin, neue Tools zu verwenden, denn wir machen Fehler. Wir brauchen Zeit“. Er zieht dabei Parallelen zu Fehlern der Vergangenheit – etwa dem Nationalsozialismus. „Wenn wir mit KI ähnliche Fehler machen, könnte es das Ende unserer Spezies sein“, so der Historiker. Die Zeit wäre so knapp wie nie zuvor. Als Negativbeispiel nennt er auch Social Media: Algorithmen hätten schnell erkannt, dass sie für Aufregung sorgen müssten, um Engagement zu erzeugen.

KI-Entwicklung einbremsen

„KI ist die gefährlichste und zu gleich beste, chancenreichste Technologie, die jemals erfunden wurde“, meinte Harari. Die KI-Geschichte von heute sei erst zehn Jahre alt. Aber: „Es schreitet mit enorm schneller Geschwindigkeit fort, niemand weiß wo wir in zehn Jahren sein werden“, warnt Harari. Er wünscht sich daher einen stärkeren Fokus auf KI-Regulierung.

„Ein neues Auto darf auch nicht ohne Sicherheitschecks auf die Straße. Für KI sollte das selbe gelten, vorher sollten wir sie viel besser verstehen“, so der Historiker. Vor allem bräuchten die Regulierungsbehörden aber mehr Budget. Harari findet, dass 20 Prozent des in KI investierten Kapitals in die Regulierung fließen sollten. „Ein fixer Prozentsatz von jedem KI-Investment soll in die Sicherheit von KI fließen“, meint er.

Demokratien am Leben lassen

„Jetzt ist es zum ersten Mal in der Geschichte möglich, falsche Menschen zu erschaffen. Es wird fast unmöglich sein, zwischen Deepfakes und realen Menschen zu unterscheiden“, warnt er. Vor allem Demokratien würden damit nicht klar kommen. Daher fordert Harari rasch Gesetze: „Wenn ich mit einem KI-Doktor oder KI-Journalisten interagiere, muss ich das wissen“, findet Harari. „Um die demokratische Gesellschaft am Leben zu halten, müssen wir verhindern, dass der Diskurs online von Bots bestimmt wird“, so der Historiker. Andernfalls würde die Demokratie nicht überleben.

Die „UN AI for Good Summit“ findet vom 6. Juli bis zum 7. Juli 2023 in Genf statt.

Deine ungelesenen Artikel:
28.10.2026

Scalable-Co-CEO über Österreich-Expansion: „Mit Bitpanda sehen wir wenig Überschneidung“

Seit Anfang Oktober betreibt Scalable Capital eine Bankniederlassung in Wien und bietet damit steuereinfaches Investieren in Österreich an. Im Interview spricht Co-CEO Erik Podzuweit über die Ziele im heimischen Markt, das Zukunftsdepot und darüber, warum bereits 20.000 KI-Agenten täglich auf Scalable-Konten aktiv sind.
/artikel/scalable-capital-podzuweit-interview
28.10.2026

Scalable-Co-CEO über Österreich-Expansion: „Mit Bitpanda sehen wir wenig Überschneidung“

Seit Anfang Oktober betreibt Scalable Capital eine Bankniederlassung in Wien und bietet damit steuereinfaches Investieren in Österreich an. Im Interview spricht Co-CEO Erik Podzuweit über die Ziele im heimischen Markt, das Zukunftsdepot und darüber, warum bereits 20.000 KI-Agenten täglich auf Scalable-Konten aktiv sind.
/artikel/scalable-capital-podzuweit-interview
Scalable-Capital-Co-CEO Erik Podzuweit beim Interview in Wien | Foto: brutkasten
Scalable-Capital-Co-CEO Erik Podzuweit beim Interview in Wien | Foto: brutkasten

Die Münchner Banking- und Investmentplattform Scalable Capital verwaltet mittlerweile über 60 Milliarden Euro an Kundenvermögen. Seit Anfang Oktober hat das Unternehmen eine offizielle Bankniederlassung in Wien, damit können österreichische Kund:innen erstmals steuereinfach investieren. Das bedeutet: Scalable führt die Kapitalertragsteuer (KESt) auf Gewinne, Dividenden und Zinsen automatisch an das Finanzamt ab, Anleger:innen müssen ihre Kapitalerträge also nicht mehr selbst in der Steuererklärung angeben. Co-Founder und Co-CEO Erik Podzuweit war zum Start in Wien. brutkasten traf ihn zum Gespräch über die Expansionspläne, den Mitbewerb und seine Vision vom „Finanzcoach in der Tasche“.


brutkasten: Scalable Capital war in Österreich schon länger aktiv, seit Anfang Oktober gibt es eine Bankniederlassung in Wien. Warum gerade jetzt?

Erik Podzuweit: Wir sind als App auf den Systemen einer anderen Bank gestartet und haben in den letzten Jahren unsere gesamte technische Infrastruktur selbst entwickelt und vertikalisiert: mit eigenem Kernbankensystem, eigenem Market Making über einen Handelsplatz, den wir gemeinsam mit der Börse Hannover betreiben, sowie eigener Konto- und Depotführung. Diese Plattform können wir jetzt nutzen, um viel schneller und flexibler in andere Länder wie Österreich zu gehen.

Man konnte schon vor Jahren als Österreicher Kunde werden, aber nicht steuereinfach. Dafür mussten wir zwei Dinge tun: eine offizielle Bankniederlassung gründen, wie wir es auch vor kurzem in Italien getan haben, und die Steuersoftware entweder einkaufen oder selbst bauen. Für Österreich haben wir sie selbst gebaut. Dank moderner KI-Anwendungen geht das heute extrem effizient im eigenen Haus. Das waren die letzten Schritte zu einem massentauglichen Produkt in Österreich. Jetzt bauen wir das lokale Team weiter aus und fahren das Marketing hoch. Ab Mitte Oktober werden wir in ganz Österreich mit Werbung deutlich präsenter sein. Und es kommen weitere Produkte: im November Festgeld und später ein Kreditangebot.

Wie wollt ihr in die breite Masse gehen? Anbieter wie Bitpanda setzen stark auf Sportsponsoring.

Wir setzen sehr stark auf Außenwerbung, parallel spielen wir die ganze Klaviatur des Online-Marketings. Sportsponsoring machen wir nur in kleinem Umfang, da gibt es viele Streuverluste. Und wir sind in einem zyklischen Markt: Bei volatilen Börsen muss man das Marketing zurückfahren können. Bei Krypto hat man das gesehen, da ist das Handelsvolumen eingebrochen, und es war schwer, aus mehrjährigen Verträgen wieder rauszukommen.

Welche Zielgruppe sprecht ihr in Österreich an?

Vor ein paar Jahren waren wir viel nischiger. Unsere klassische Kundschaft waren die sogenannten Smart Busy Professionals: Menschen, die noch nicht zwangsläufig reich sind, aber gut ausgebildet, mit gutem Einkommen, oft städtisch, die in der Wirtschaft oder als Programmierer arbeiten. Bei einer klassischen Bank fallen diese Kundinnen und Kunden oft durchs Raster: Sie passen noch nicht ins Private Banking, sind aber auch keine Retailkunden, denen man irgendeinen Fonds verkauft. Mit der Zeit werden sie immer attraktiver. Heute gehen wir eine viel breitere Masse an. Neben dem Investieren haben wir mit Tagesgeld und Festgeld auch den Bereich Sparen. 2,6 Prozent Zinsen versteht jeder. Damit gewinnt man auch Kunden, die wenig Risiko wollen oder in Rente sind, und zwar von klassischen Banken. Die Smart Busy Professionals kommen eher von anderen Online-Banken zu uns.

Wer ist euer direkter Mitbewerber?

Mit Bitpanda sehen wir wenig Überschneidung. Wir haben ein Kryptoangebot, Bitpanda hat ein Aktienangebot, aber das sind zwei getrennte Welten. Dann schon eher alle Banken. Wenn man aber auf Preis, Zins, Gebühren und das Nutzererlebnis schaut, sind die klassischen Banken keine direkte Konkurrenz für uns. Der direkteste Mitbewerber ist Trade Republic. Aber es gibt Unterschiede im Preismodell und bei den Zinsen. Unser Zins ist etwas besser. Wir liegen bei 2,6 Prozent versus 2,5 Prozent.

Warum braucht es ein lokales Team in Wien, wenn Geldanlage ein globales Geschäft ist?

Wenn ein österreichischer Kunde eine Tesla-Aktie kauft, ist das dieselbe Aktie wie für einen italienischen Kunden. Aber im Kundengeschäft braucht man lokale Präsenz. Auch BlackRock hat ein Büro in Wien und eins in Mailand, man kann Europa nicht allein aus New York steuern, und wir nicht allein aus München. Die regionalen Unterschiede liegen vor allem auf der Steuerseite. Jetzt fangen auch einzelne Staaten der EU an, gezielte steuerliche Anreize und Zuschüsse zum Investieren zu geben. In Deutschland kommt das Altersvorsorgedepot, in Österreich wird das Zukunftsdepot diskutiert. Da muss man die Entscheidungen nah verfolgen und ein lokales Produkt bauen. Sobald das Zukunftsdepot kommt, werden wir es maßgeschneidert in Österreich anbieten.

Welche Ziele habt ihr euch für Österreich gesetzt?

Der österreichische Markt ist zwar kleiner als der deutsche, aber die durchschnittlichen Depotgrößen sind hier sogar etwas höher. Ziel ist es, in den nächsten Jahren ein Kundenvolumen von zehn bis zwanzig Milliarden Euro in Österreich aufzubauen. Aktuell liegen wir bei über 60 Milliarden auf der gesamten Plattform. In vier bis sechs Jahren soll die Hälfte des Kundenstamms von außerhalb Deutschlands kommen. Dabei sind wir klar auf Europa fokussiert, eine Expansion darüber hinaus planen wir nicht.

Ihr habt Agentic Investing eingeführt. Was ist die Idee, und wer nutzt das?

Wir haben zwei Schnittstellen geöffnet – technisch nennt sich die eine CLI (Command Line Interface) und die andere MCP (Model Context Protocol). Über die erste kann ein Kunde seine eigene KI-Anwendung anschließen. Über die MCP-Schnittstelle können auch Leute ohne Programmierkenntnisse in wenigen Minuten beispielsweise ChatGPT oder Claude mit ihrem Scalable-Konto verknüpfen. Man stellt die Freiheitsgrade ein: Im Read-Only-Modus sieht und analysiert der Agent das Portfolio, erstellt Charts oder aggregiert Newsfeeds. Wer möchte, kann ihn aber auch bis zum Ausführen von Trades und Trading-Strategien freischalten. Geblockt ist aus Sicherheitsgründen jede Zahlung, es kann nie Geld abfließen. Das Feature ist vor ein paar Wochen gestartet, die ersten 20.000 Agenten sind täglich aktiv. Noch nutzt es eher die technologieaffine Kundschaft, vor allem für Portfolioanalysen, manche fahren aber bereits aktive Strategien.

Und die Zukunft?

Ich erwarte nicht, dass jeder Kunde komplexe Trading-Strategien umsetzt, das macht für die meisten auch gar keinen Sinn. Die Vision ist eine Welt, in der jeder einen persönlichen Agenten hat. Der sagt nicht nur, dein Konto bei Bank XY hat zu wenig Zinsen, sondern eröffnet direkt ein Konto und Depot bei Scalable. Man sagt: “Ich habe zehn Euro im Monat übrig und möchte mit mittlerem Risiko anlegen” und der Agent sucht die passenden ETFs heraus und setzt einen Sparplan auf. Der Anspruch ist dabei nicht die zusätzliche Rendite, sondern dass der Zugang zum Kapitalmarkt einfacher wird. 80 Prozent der Menschen haben noch nie investiert. Ein Finanzcoach in der Tasche, der auch aktiv werden kann, das ist die Zukunft der Geldanlage. Das kommt nicht von heute auf morgen, aber in den nächsten Jahren. Private Geldanlage ist im Aufwind, Anbieter wie wir senken Hürden und Gebühren, und jetzt kommt KI dazu. Das ist ein ideales Zusammenspiel.


Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Artikel hebt die Bedeutung der künstlichen Intelligenz (KI) bei der Bewältigung gesellschaftlicher Herausforderungen hervor, insbesondere im Zusammenhang mit den Zielen für nachhaltige Entwicklung der Vereinten Nationen. Es wird betont, dass KI das Potenzial hat, Lösungen für Probleme wie Klimakrise, Umweltverschmutzung und Welthunger zu finden. Gleichzeitig werden jedoch auch Bedenken bezüglich der Sicherheit und Regulierung von KI ausgedrückt. Der Historiker Yuval Noah Harari warnt vor den potenziellen Gefahren von KI, insbesondere vor ihrer Fähigkeit, selbst Entscheidungen zu treffen und neue Ideen zu entwickeln. Er fordert daher eine stärkere Regulierung und Sicherheitschecks für KI-Anwendungen. Darüber hinaus warnt er vor der Manipulation von Informationen und dem Einfluss von Bots auf den demokratischen Diskurs. Insgesamt verdeutlicht der Artikel die gesellschaftspolitischen Auswirkungen von KI und betont die Notwendigkeit einer verantwortungsvollen und gezielten Nutzung dieser Technologie, um die demokratische Gesellschaft zu schützen und die Ziele für nachhaltige Entwicklung zu erreichen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Initiative „AI for Good“ und die Befürwortung von Yuval Noah Harari für Investitionen in die Sicherheit von KI haben potenzielle wirtschaftliche Auswirkungen. Durch die Konzentration von 20 Prozent des KI-Investitionskapitals auf die Regulierung und Sicherheit von KI könnte dies zu einer erhöhten Nachfrage nach KI-Regulierungsbehörden und Sicherheitsmaßnahmen führen. Dies könnte wiederum neue Arbeitsplätze und Investitionsmöglichkeiten in diesen Bereichen schaffen. Darüber hinaus kann die Nutzung von KI zur Lösung globaler Probleme wie der Klimakrise und der Bekämpfung des Welthungers auch einen positiven Einfluss auf die Wirtschaft haben, indem neue Geschäftsmöglichkeiten und Innovationen entstehen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in ist der Inhalt dieses Artikels für Sie von großer Relevanz. Die Diskussion um künstliche Intelligenz (KI) und ihre Auswirkungen auf die Gesellschaft wird immer wichtiger. Der Historiker Yuval Noah Harari warnt vor den Gefahren einer zu schnellen KI-Entwicklung und stellt die Notwendigkeit einer besseren Regulierung heraus. Dies betrifft auch Sie als Innovationsmanager:in, da Sie dafür verantwortlich sind, Innovationen voranzutreiben und gleichzeitig sicherzustellen, dass sie ethisch und sicher sind. Die Forderungen nach Investitionen in die Sicherheit von KI und nach Gesetzen zur Erkennung von Fälschungen haben direkte Auswirkungen auf Ihre Arbeit und könnten Ihre Innovationsstrategien beeinflussen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in ist der Inhalt dieses Artikels relevant, da er darauf hinweist, dass die Entwicklung von künstlicher Intelligenz (KI) sowohl große Chancen als auch potenzielle Gefahren mit sich bringt. Der Historiker Yuval Noah Harari rät dazu, einen stärkeren Fokus auf die Regulierung von KI zu setzen, um deren Sicherheit zu gewährleisten. Zusätzlich empfiehlt er, 20 Prozent der Investitionen in KI in die Sicherheit zu investieren. Für Investor:innen bedeutet dies, die potenziellen Risiken von KI zu berücksichtigen und sicherzustellen, dass ihre Investitionen in KI-Projekte auch die notwendigen Sicherheitsmaßnahmen berücksichtigen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist der Inhalt dieses Artikels von großer Relevanz, da er sich mit der Bedeutung von künstlicher Intelligenz (KI) für die Nachhaltigkeitsziele der Vereinten Nationen befasst. Die Initiative „AI for Good“ strebt an, mithilfe von KI-Lösungen Probleme wie die Klimakrise, die Meeresschmutzung und den Welthunger anzugehen. Der Historiker Yuval Noah Harari warnt jedoch vor den Gefahren der raschen KI-Entwicklung und fordert eine verstärkte Regulierung und Investitionen in die Sicherheit von KI. Als Politiker:in sollten Sie daher die Auswirkungen und Herausforderungen im Zusammenhang mit KI-Technologien in Betracht ziehen, um angemessene politische Maßnahmen zu entwickeln und die demokratische Gesellschaft zu schützen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel befasst sich mit der Initiative „AI for Good“, die sich zum Ziel gesetzt hat, Künstliche Intelligenz (KI) zur Lösung globaler Herausforderungen einzusetzen und dabei die nachhaltigen Entwicklungsziele der Vereinten Nationen zu fördern. Während viele Vortragende die positiven Potenziale von KI hervorheben, warnt der Historiker Yuval Noah Harari vor den Risiken einer unregulierten und zu schnellen Entwicklung von KI. Er betont die Notwendigkeit, die Sicherheit und Regulierung von KI zu gewährleisten und hält es für entscheidend, dass ein Teil der Investitionen in KI in die Sicherheit fließt. Zudem warnt Harari vor den Konsequenzen von Deepfakes für die Demokratie und fordert die Einführung entsprechender Gesetze. Das Bigger Picture dieses Artikels liegt darin, dass die KI-Entwicklung nicht nur enorme Chancen, sondern auch erhebliche Herausforderungen mit sich bringt, die hinsichtlich der Sicherheit, Regulierung und dem Schutz demokratischer Prinzipien angegangen werden müssen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • „AI for Good“: Initiative
  • Nick Thompson: amerikanischer Journalist (The Atlantic)
  • Yuval Noah Harari: israelischer Historiker und Bestseller-Autor

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Die relevantesten Organisationen und Unternehmen in diesem Artikel sind:
  • Initiative „AI for Good“
  • Internationale Fernmeldeunion (ITU)
  • 40 UN-Organisationen
  • Nick Thompson (The Atlantic)
  • Yuval Noah Harari

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“