06.07.2023

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

Bei einer Konferenz in der Schweiz sprechen führende KI-Expert:innen darüber, wie uns KI bei der Bewältigung von Krisen helfen kann. Auch der israelische Historiker Yuval Harari war dabei.
/artikel/harari-20-prozent-von-jedem-ki-investment-sollen-in-die-sicherheit-von-ki-fliessen
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash
Bei dem Summit in Genf sind viele Roboter unterwegs. Bild: (c) Owen Beard/Unsplash

„Wir haben weniger als 10 Jahre Zeit, um die Ziele für nachhaltige Entwicklung (SDGs) der Vereinten Nationen zu erreichen“, so die Initiative „AI for Good“, die sich am Donnerstag zum Summit in Genf traf. Die Vertreter:innen sind überzeugt, dass in der KI viele Lösungswege für Probleme stecken. KI könne dafür riesige Datenmengen nutzen, die derzeit zu menschlichen Emotionen, unserem Verhalten, der Gesundheit, Handel, Kommunikation, Migration und in anderen Bereichen gesammelt werden.

KI soll bei Sustainable Development Goals helfen

Die Initiative „AI for Good“ will KI-Anwendungen finden, welche die Sustainable Development Goals der Vereinten Nationen vorantreiben und Lösungen für Probleme wie die Klimakrise, die Verschmutzung der Meere oder den Welthunger finden. „AI for Good“ ist ein gemeinsames Projekt von der Internationalen Fernmeldeunion (ITU) und 40 UN-Organisationen.

Viele Vortragende erzählen, welche Lösungen die KI für unsere Probleme anbietet. Roboter sind in Genf auch reichlich vertreten, ob auf der Bühne oder als Servicepersonal. Als Roboter „Sofia“ auf der Bühne aber zum Singen aufgefordert wird, bleibt sie peinlich still.

Harari: Die gefährlichste Technologie aller Zeiten

Der amerikanische Journalist Nick Thompson (The Atlantic) und der israelische Historiker und Bestseller-Autor Yuval Noah Harari sprachen über KI und die Zukunft der Demokratie. Der Historiker warnt eindrücklich vor der aktuellen, aus seiner Sicht zu schnellen KI-Entwicklung: „Es ist das erste Tool in der menschlichen Geschichte, das selbst Entscheidungen treffen kann“, so Harari. Zudem sei es auch noch nie der Fall gewesen, dass ein Tool „selbstständig neue Ideen entwickeln kann“.

Besonders eindringlich warnt Harari daher vor der immensen Geschwindigkeit der technischen Entwicklung: „Menschen sind nicht sehr gut darin, neue Tools zu verwenden, denn wir machen Fehler. Wir brauchen Zeit“. Er zieht dabei Parallelen zu Fehlern der Vergangenheit – etwa dem Nationalsozialismus. „Wenn wir mit KI ähnliche Fehler machen, könnte es das Ende unserer Spezies sein“, so der Historiker. Die Zeit wäre so knapp wie nie zuvor. Als Negativbeispiel nennt er auch Social Media: Algorithmen hätten schnell erkannt, dass sie für Aufregung sorgen müssten, um Engagement zu erzeugen.

KI-Entwicklung einbremsen

„KI ist die gefährlichste und zu gleich beste, chancenreichste Technologie, die jemals erfunden wurde“, meinte Harari. Die KI-Geschichte von heute sei erst zehn Jahre alt. Aber: „Es schreitet mit enorm schneller Geschwindigkeit fort, niemand weiß wo wir in zehn Jahren sein werden“, warnt Harari. Er wünscht sich daher einen stärkeren Fokus auf KI-Regulierung.

„Ein neues Auto darf auch nicht ohne Sicherheitschecks auf die Straße. Für KI sollte das selbe gelten, vorher sollten wir sie viel besser verstehen“, so der Historiker. Vor allem bräuchten die Regulierungsbehörden aber mehr Budget. Harari findet, dass 20 Prozent des in KI investierten Kapitals in die Regulierung fließen sollten. „Ein fixer Prozentsatz von jedem KI-Investment soll in die Sicherheit von KI fließen“, meint er.

Demokratien am Leben lassen

„Jetzt ist es zum ersten Mal in der Geschichte möglich, falsche Menschen zu erschaffen. Es wird fast unmöglich sein, zwischen Deepfakes und realen Menschen zu unterscheiden“, warnt er. Vor allem Demokratien würden damit nicht klar kommen. Daher fordert Harari rasch Gesetze: „Wenn ich mit einem KI-Doktor oder KI-Journalisten interagiere, muss ich das wissen“, findet Harari. „Um die demokratische Gesellschaft am Leben zu halten, müssen wir verhindern, dass der Diskurs online von Bots bestimmt wird“, so der Historiker. Andernfalls würde die Demokratie nicht überleben.

Die „UN AI for Good Summit“ findet vom 6. Juli bis zum 7. Juli 2023 in Genf statt.

Deine ungelesenen Artikel:
05.11.2026

Die 6 häufigsten Rechtsfallen für Startups im ersten Geschäftsjahr

Im ersten Geschäftsjahr konzentrieren sich Gründer:innen meist voll auf Produkt und Wachstum – rechtliche Risiken werden dabei leicht unterschätzt. Doch Rechtsfehler können schnell existenzgefährdend werden. brutkasten sprach dazu mit Rechtsschutz-Experte Gerd Plank von ERGO Versicherung AG.
/artikel/die-6-haeufigsten-rechtsfallen-fuer-startups-im-ersten-geschaeftsjahr
05.11.2026

Die 6 häufigsten Rechtsfallen für Startups im ersten Geschäftsjahr

Im ersten Geschäftsjahr konzentrieren sich Gründer:innen meist voll auf Produkt und Wachstum – rechtliche Risiken werden dabei leicht unterschätzt. Doch Rechtsfehler können schnell existenzgefährdend werden. brutkasten sprach dazu mit Rechtsschutz-Experte Gerd Plank von ERGO Versicherung AG.
/artikel/die-6-haeufigsten-rechtsfallen-fuer-startups-im-ersten-geschaeftsjahr
(c) Sasun Bughdaryan via Unsplash

In der Gründungsphase steht das operative Geschäft an erster Stelle: Produkte werden entwickelt, Marketingkampagnen gestartet und erste Kund:innen akquiriert. Rechtliche Rahmenbedingungen und eine nachhaltige Absicherung rücken dabei mitunter in den Hintergrund. Dabei können nicht nur unbedachte Versäumnisse, sondern sogar unverschuldete Konflikte junge Unternehmen rasch in finanzielle Schieflagen bringen.

“Ich mache ja nichts falsch”

„Ein häufiger Satz von Gründerinnen und Gründern lautet: Was soll schon passieren? Ich mache ja nichts falsch“, sagt Rechtsschutz-Experte Gerd Plank von der ERGO Versicherung. Doch im Unternehmensalltag geraten Firmen keineswegs nur durch eigenes Fehlverhalten in juristische Auseinandersetzungen. Plank verdeutlicht das an einem Praxisbeispiel aus dem Strafrechtsschutz: „Auch wenn ein Geschäftspartner etwas falsch macht, etwa bei der Verrechnung, kann ein Unternehmen ins Visier der Staatsanwaltschaft geraten.“ In Österreich gebe es jährlich rund 540.000 Ermittlungsverfahren bei den Staatsanwaltschaften, denen lediglich 28.000 Verurteilungen gegenüberstehen. „Das bedeutet, dass 95 Prozent der Verfahren eingestellt werden oder mit einem Freispruch enden – die immensen Anwalts- und Verteidigungskosten von oft 10.000 bis 20.000 Euro muss man ohne Rechtsschutzversicherung dennoch selbst tragen“, so Plank.

Rechtsschutz-Experte Gerd Plank | (c) ERGO Versicherung

Auch bei zivilrechtlichen Auseinandersetzungen würden Gründer:innen das finanzielle Risiko unterschätzen. „Schon wenn man einen vermeintlich kleinen Streitwert von 500 Euro einklagt, liegen die Gesamtkosten in der ersten Instanz bereits bei rund 1.600 Euro. Kommen weitere Verhandlungen hinzu, ist man rasch bei 6.000 Euro“, führt Plank aus. Da ein Großteil der Gerichtsverfahren mit einem Vergleich enden würden, blieben beide Parteien häufig auf ihren eigenen Anwaltskosten sitzen. „In Österreich liegt der häufigste bestrittene Wert bei 10.000 Euro. Die Gesamtkosten bei diesem Streitwert erreichen schnell 20.000 Euro“, so der Experte. Ohne Absicherung verzichten Startups daher oft auf berechtigte Forderungen, um Prozesskosten zu vermeiden – was im Einzelfall existenzbedrohende finanzielle Auswirkungen haben kann.

Die 6 häufigsten Rechtsfallen

Um solche Szenarien zu verhindern, sollten Gründer:innen die typischen Stolpersteine der ersten Monate kennen. Gerd Plank fasst im Gespräch mit brutkasten die sechs häufigsten Rechtsfallen zusammen – und zeigt auf, wie sich Startups mit dem passenden Rechtsschutz davor schützen können.

1. Mündliche Vereinbarungen und undokumentierte Vertragsänderungen

In der Startphase regiert oft das Prinzip Vertrauen. Verträge werden mündlich geschlossen oder vereinbarte Leistungen nachträglich per Handschlag abgeändert. „Einer der wichtigsten Punkte, bei denen es später zu Streitigkeiten kommt, sind undokumentierte Änderungen an Verträgen“, warnt Plank. Kommt es zu Uneinigkeiten über den Leistungsumfang oder Zahlungen, stehe Aussage gegen Aussage. Der Kunde bestreite etwa Zusatzleistungen, und das Startup bleibe auf den Kosten sitzen.

Wie der Rechtsschutz hilft: Der D.A.S. Firmen-Rechtsschutz der ERGO Versicherung unterstützt Gründer:innen durch juristische Erstberatung und Vorab-Vertragsprüfungen zu günstigen Konditionen. Zudem bietet ERGO für Jungunternehmer:innen einen besonderen Vorteil: Den Entfall der üblichen Wartefristen. „Kommt ein Unternehmen nach Abschluss eines größeren Auftrags zu uns, besteht im Premium-Rechtsschutz für Streitigkeiten aus dem Vertrag sofort Versicherungsschutz“, hebt Plank hervor.

2. Offene Rechnungen nicht konsequent eintreiben

Zahlen Kunden ihre Rechnungen nicht, zögern junge Firmen oft, rechtliche Schritte einzuleiten – aus Sorge um die Kundenbeziehung oder aus Angst vor hohen Prozesskosten. Dies führt rasch zu massiven Liquiditätsengpässen. „Laut KSV1870-Statistik kommen 30 bis 40 Prozent der Insolvenzen in Österreich dadurch zustande, dass Kund:innen Rechnungen nicht bezahlen und die Unternehmer nicht die finanziellen Mittel haben, um ihre Forderungen gerichtlich durchzusetzen“, erläutert Plank.

Wie der Rechtsschutz hilft: Das Forderungsmanagement der ERGO Versicherung übernimmt den Inkassoprozess. „Durch unser Know-how erreichen wir eine Eintreibungsquote von rund 80 Prozent“, führt der Experte aus. Ein Netzwerk aus 600 spezialisierten Partneranwält:innen vertritt Betroffene an allen 115 Bezirksgerichten in Österreich und in weiteren Instanzen. „Außergerichtliche Lösungswege dauern im Schnitt ein halbes Jahr, während ein Gerichtsprozess im Schnitt bis zu dreieinhalb Jahre in Anspruch nehmen kann“, betont Plank.

3. Fehler bei der Mitarbeiterbeschäftigung

Bei der Einstellung des ersten Personals passieren häufig Fehler. Ein Klassiker ist die fehlerhafte Einstufung von Arbeitskräften. „Der typische Fall ist, dass eine Person als freier Dienstnehmer oder Selbstständiger bezeichnet wird, obwohl die tatsächlichen Arbeitsbedingungen für ein Angestelltenverhältnis sprechen“, so Plank. Stellt die Sozialversicherung bei einer Nachprüfung eine Scheinselbstständigkeit oder Fehler bei Kollektivvertragsgehältern fest, drohen Nachzahlungen im fünfstelligen Bereich.

Wie der Rechtsschutz hilft: Gründer:innen werden präventiv bei Dienstverträgen beraten, im Streitfall übernimmt der Firmen-Rechtsschutz im Rahmen des vereinbarten Versicherungsschutzes die Vertretungs- und Prozesskosten. „Mit fachkundiger juristischer Beratung lassen sich Kollektivvertragsentlohnungen, Arbeitszeiten und Sonderzahlungen von Anfang an korrekt regeln“, erklärt Plank.

4. Vernachlässigter Schutz von Marken, Software und IP

Viele Startups bringen innovative Produkte, Softwarelösungen oder Marken auf den Markt, ohne ihr geistiges Eigentum ausreichend abzusichern oder finanziell verteidigen zu können. „Wenn etwa ein Vertragspartner Daten weitergibt oder Ideen kopiert, werden Prozesse nach dem Immaterialgüterrecht extrem teuer“, gibt Plank zu bedenken. Ohne Rechtsbeistand fehlen jungen Firmen meist die Mittel, sich gegen finanzstarke Nachahmer zur Wehr zu setzen.

Wie der Rechtsschutz hilft: Der Premium-Rechtsschutz deckt komplexe Auseinandersetzungen im Immaterialgüterrecht ab. „Diese Streitigkeiten abzusichern ist entscheidend, da Rechtsstreitigkeiten um das geistige Eigentum hohe Streitwerte aufweisen“, betont der ERGO-Experte. ERGO stellt spezialisierte Partneranwält:innen bereit und übernimmt im Rahmen des vereinbarten Versicherungsschutzes die anfallenden Kosten.

5. Mangelhafte AGB und unzulässige Klauseln

Insbesondere im E-Commerce und beim Vertrieb an Endverbraucher greifen Gründer:innen häufig auf fehlerhafte oder ungeprüfte Allgemeine Geschäftsbedingungen (AGB) zurück. Werden Informationspflichten, Rücktrittsrechte oder Gewährleistungsbestimmungen missachtet, hat das teure Konsequenzen. „Wenn AGB unzulässige Klauseln enthalten, können sich Kunden darauf berufen und Zahlungen verweigern“, erklärt Plank.

Wie der Rechtsschutz hilft: Der D.A.S. Firmen-Rechtsschutz von ERGO bietet Unternehmern die Möglichkeit, Vertragswerke und AGB von spezialisierten Anwält:innen zu günstigen Konditionen prüfen zu lassen. „Es ist essenziell, sich von Anwält:innen im Vorfeld beraten zu lassen, ob die erstellten Klauseln rechtlich gültig sind, bevor man Angebote am Markt platziert“, rät Plank.

6. Überschreitung der Gewerbeberechtigung

In der Praxis bieten Startups nicht selten Leistungen an, die über den Umfang ihres eingetragenen Gewerbescheins hinausgehen. „Man muss wirklich darauf achten, dass man nur innerhalb jener Gewerbeberechtigungen arbeitet, die tatsächlich eingetragen sind“, mahnt Plank. Wird die Gewerbeberechtigung überschritten, drohen Verwaltungsstrafverfahren, die im schlimmsten Fall mit einem Gewerbeentzugsverfahren einhergehen.

Wie der Rechtsschutz hilft: Der Rechtsschutz für Gewerbeentzugsverfahren schützt Unternehmer vor den finanziellen Folgen von Verwaltungsstrafverfahren. „Auch bei drohendem Gewerbeentzug bieten wir die entsprechende rechtliche Absicherung und Vertretung“, führt Plank aus.


Aktionsangebot: ERGO Blue Weeks 

Aktuell bietet die ERGO Versicherung im Rahmen der „Blue Weeks“-Aktion besondere Konditionen für den D.A.S. Firmen-Rechtsschutz. Bei einem Vertragsabschluss bis 31. Jänner 2027 sparen Unternehmen bis zu fünf Monatsprämien.

Zusätzlich profitieren Jungunternehmer:innen im ersten Geschäftsjahr von einem Bonus – bis zu 20 Prozent auf die Prämienhöhe. Nähere Informationen erhalten Sie bei einer persönlichen Beratung mit den Rechtsschutzexperten der ERGO Versicherung.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Artikel hebt die Bedeutung der künstlichen Intelligenz (KI) bei der Bewältigung gesellschaftlicher Herausforderungen hervor, insbesondere im Zusammenhang mit den Zielen für nachhaltige Entwicklung der Vereinten Nationen. Es wird betont, dass KI das Potenzial hat, Lösungen für Probleme wie Klimakrise, Umweltverschmutzung und Welthunger zu finden. Gleichzeitig werden jedoch auch Bedenken bezüglich der Sicherheit und Regulierung von KI ausgedrückt. Der Historiker Yuval Noah Harari warnt vor den potenziellen Gefahren von KI, insbesondere vor ihrer Fähigkeit, selbst Entscheidungen zu treffen und neue Ideen zu entwickeln. Er fordert daher eine stärkere Regulierung und Sicherheitschecks für KI-Anwendungen. Darüber hinaus warnt er vor der Manipulation von Informationen und dem Einfluss von Bots auf den demokratischen Diskurs. Insgesamt verdeutlicht der Artikel die gesellschaftspolitischen Auswirkungen von KI und betont die Notwendigkeit einer verantwortungsvollen und gezielten Nutzung dieser Technologie, um die demokratische Gesellschaft zu schützen und die Ziele für nachhaltige Entwicklung zu erreichen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Initiative „AI for Good“ und die Befürwortung von Yuval Noah Harari für Investitionen in die Sicherheit von KI haben potenzielle wirtschaftliche Auswirkungen. Durch die Konzentration von 20 Prozent des KI-Investitionskapitals auf die Regulierung und Sicherheit von KI könnte dies zu einer erhöhten Nachfrage nach KI-Regulierungsbehörden und Sicherheitsmaßnahmen führen. Dies könnte wiederum neue Arbeitsplätze und Investitionsmöglichkeiten in diesen Bereichen schaffen. Darüber hinaus kann die Nutzung von KI zur Lösung globaler Probleme wie der Klimakrise und der Bekämpfung des Welthungers auch einen positiven Einfluss auf die Wirtschaft haben, indem neue Geschäftsmöglichkeiten und Innovationen entstehen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in ist der Inhalt dieses Artikels für Sie von großer Relevanz. Die Diskussion um künstliche Intelligenz (KI) und ihre Auswirkungen auf die Gesellschaft wird immer wichtiger. Der Historiker Yuval Noah Harari warnt vor den Gefahren einer zu schnellen KI-Entwicklung und stellt die Notwendigkeit einer besseren Regulierung heraus. Dies betrifft auch Sie als Innovationsmanager:in, da Sie dafür verantwortlich sind, Innovationen voranzutreiben und gleichzeitig sicherzustellen, dass sie ethisch und sicher sind. Die Forderungen nach Investitionen in die Sicherheit von KI und nach Gesetzen zur Erkennung von Fälschungen haben direkte Auswirkungen auf Ihre Arbeit und könnten Ihre Innovationsstrategien beeinflussen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in ist der Inhalt dieses Artikels relevant, da er darauf hinweist, dass die Entwicklung von künstlicher Intelligenz (KI) sowohl große Chancen als auch potenzielle Gefahren mit sich bringt. Der Historiker Yuval Noah Harari rät dazu, einen stärkeren Fokus auf die Regulierung von KI zu setzen, um deren Sicherheit zu gewährleisten. Zusätzlich empfiehlt er, 20 Prozent der Investitionen in KI in die Sicherheit zu investieren. Für Investor:innen bedeutet dies, die potenziellen Risiken von KI zu berücksichtigen und sicherzustellen, dass ihre Investitionen in KI-Projekte auch die notwendigen Sicherheitsmaßnahmen berücksichtigen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist der Inhalt dieses Artikels von großer Relevanz, da er sich mit der Bedeutung von künstlicher Intelligenz (KI) für die Nachhaltigkeitsziele der Vereinten Nationen befasst. Die Initiative „AI for Good“ strebt an, mithilfe von KI-Lösungen Probleme wie die Klimakrise, die Meeresschmutzung und den Welthunger anzugehen. Der Historiker Yuval Noah Harari warnt jedoch vor den Gefahren der raschen KI-Entwicklung und fordert eine verstärkte Regulierung und Investitionen in die Sicherheit von KI. Als Politiker:in sollten Sie daher die Auswirkungen und Herausforderungen im Zusammenhang mit KI-Technologien in Betracht ziehen, um angemessene politische Maßnahmen zu entwickeln und die demokratische Gesellschaft zu schützen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel befasst sich mit der Initiative „AI for Good“, die sich zum Ziel gesetzt hat, Künstliche Intelligenz (KI) zur Lösung globaler Herausforderungen einzusetzen und dabei die nachhaltigen Entwicklungsziele der Vereinten Nationen zu fördern. Während viele Vortragende die positiven Potenziale von KI hervorheben, warnt der Historiker Yuval Noah Harari vor den Risiken einer unregulierten und zu schnellen Entwicklung von KI. Er betont die Notwendigkeit, die Sicherheit und Regulierung von KI zu gewährleisten und hält es für entscheidend, dass ein Teil der Investitionen in KI in die Sicherheit fließt. Zudem warnt Harari vor den Konsequenzen von Deepfakes für die Demokratie und fordert die Einführung entsprechender Gesetze. Das Bigger Picture dieses Artikels liegt darin, dass die KI-Entwicklung nicht nur enorme Chancen, sondern auch erhebliche Herausforderungen mit sich bringt, die hinsichtlich der Sicherheit, Regulierung und dem Schutz demokratischer Prinzipien angegangen werden müssen.

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • „AI for Good“: Initiative
  • Nick Thompson: amerikanischer Journalist (The Atlantic)
  • Yuval Noah Harari: israelischer Historiker und Bestseller-Autor

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Die relevantesten Organisationen und Unternehmen in diesem Artikel sind:
  • Initiative „AI for Good“
  • Internationale Fernmeldeunion (ITU)
  • 40 UN-Organisationen
  • Nick Thompson (The Atlantic)
  • Yuval Noah Harari

Harari: „20 Prozent von jedem KI-Investment sollten in die Sicherheit von KI fließen“