06.07.2023

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

Systeme, die auf künstlicher Intellligenz (KI) basieren, werden immer intelligenter. Ein neues Forschungsteam von OpenAI soll nun herausfinden, wie sich KI in Zukunft kontrollieren lässt.
/artikel/super-ki-openai-will-ausloeschung-der-menschheit-verhindern
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Immer wieder warnten Tech-Leaders in den letzten Jahren vor einer Super-KI, welche die Menschheit auslöschen könnte. Eine Befragung unter Top-CEOs in den USA zeigte im Juni, dass 40 Prozent die Auslöschung der Menschheit durch KI fürchten. Derzeit sind wir noch weit von einer solchen Situation entfernt. Dennoch machen sich kluge Köpfe bereits jetzt Gedanken, wie man eine Super-KI kontrollieren könnte.

Die Super-KI soll menschlichen Absichten folgen

Am Mittwoch verkündete OpenAI in einem Blogartikel die Gründung eines neuen Teams, das Mittel und Wege entwickeln soll, eine solche Super-KI zu kontrollieren. Geleitet wird das neue Team von Ilya Sutskever, dem Chief Scientist von OpenAI und von Jan Leike. Die Forschungsfrage, die das neu geschaffene Team bearbeiten soll, lautet: „Wie stellen wir sicher, dass KI-Systeme, die viel intelligenter sind als Menschen, menschlichen Absichten folgen?“

OpenAI geht davon aus, dass die derzeitigen Kontrollmittel nicht dauerhaft genügen, um eine immer leistungsfähigere KI zu „beaufsichtigen“. Es brauche deshalb mehr Forschung und Technik in diesem Bereich, so OpenAI. Konkret will OpenAI 20 Prozent seiner der Rechenleistung diesem Zweck widmen. Innerhalb von vier Jahren will OpenAI dann das Projekt „Superintelligence Alignment“ abschließen.

Eigene Aufpasser-KI soll trainiert werden

Konkret will das Team eine eigene KI schaffen, die es „Human-level Automated Alignment Researcher“ nennt – also eine Art Aufpasser-KI. Sie soll Justierungen an KI-Systemen vornehmen können, damit diese auch in Zukunft im Sinne der Menschheit handelt.

„Wenn wir diesbezüglich Fortschritte machen, können unsere KI-Systeme immer mehr unserer Justierungsarbeit übernehmen und letztendlich bessere Justierungstechniken ausarbeiten, implementieren, studieren und entwickeln, als wir es jetzt haben“, schrieben Leike und weitere OpenAI-Forscher im August 2022 in einem Blogartikel.

Enge Zusammenarbeit mit menschlichen Wissenschaftlern

Die neuen KI-Forschungssysteme würden dann „mit Menschen zusammenarbeiten, um sicherzustellen, dass ihre eigenen Nachfolger stärker auf Menschen ausgerichtet sind“, so Lemke und seine Kollegen. Menschliche Wissenschaftler:innen würden ihre Bemühungen in Zukunft stattdessen stärker auf die Überprüfung der von KI-Systemen durchgeführten Forschung konzentrieren, anstatt diese Forschung selbst zu generieren.

Deine ungelesenen Artikel:
vor 13 Stunden

KI und die Zukunft der Steuerberatung: „Es wird immer ein Mensch freigeben müssen“

Der Wiener Steuerberatungssoftware-Anbieter dvo Software wird Teil der polnischen Symfonia Group. Im Doppel-Interview sprechen dvo-Geschäftsführer Rainer Haude und Symfonia-CEO Piotr Ciski über den Zeitpunkt des Deals, KI in der Kanzlei und Österreichs Rückstand bei der E-Rechnung.
/artikel/ki-und-die-zukunft-der-steuerberatung-interview
vor 13 Stunden

KI und die Zukunft der Steuerberatung: „Es wird immer ein Mensch freigeben müssen“

Der Wiener Steuerberatungssoftware-Anbieter dvo Software wird Teil der polnischen Symfonia Group. Im Doppel-Interview sprechen dvo-Geschäftsführer Rainer Haude und Symfonia-CEO Piotr Ciski über den Zeitpunkt des Deals, KI in der Kanzlei und Österreichs Rückstand bei der E-Rechnung.
/artikel/ki-und-die-zukunft-der-steuerberatung-interview
Piotr Ciski, CEO der Symfonia Group (l.), und Rainer Haude, Geschäftsführer von dvo Software, in Wien | Foto: brutkasten / Martin Pacher

Belege sammeln, ordnen, prüfen: Was in Steuerberatungskanzleien bisher viel Handarbeit war, kann künftig KI erledigen. Das verändert nicht nur den Beruf, sondern auch das Geschäft jener Firmen, die den Kanzleien ihre Software liefern.

Eine davon ist dvo Software aus Wien. Das Unternehmen zählt nach eigenen Angaben rund 4.000 Anwender:innen in Österreich, und die vergangenen zwei Jahre waren die erfolgreichsten seiner Geschichte. „Wir hätten es also einfach laufen lassen können“, sagt Geschäftsführer Rainer Haude. Stattdessen wird dvo Teil der deutlich größeren polnischen Symfonia Group (brutkasten berichtete). brutkastenbrutkasten

Der Grund: In der Branche bewegt sich gerade vieles gleichzeitig. Der deutsche Software-Anbieter Datev zieht sich aus Österreich zurück, womit laut Haude niemand gerechnet hat. Und die EU schreibt bis 2030 die E-Rechnung vor, also die digitale Rechnung statt des Belegs im Kuvert. Österreich hat dafür laut Haude „ehrlich gesagt, nichts“. brutkasten

brutkasten hat Haude und Symfonia-CEO Piotr Ciski zum Doppel-Interview getroffen. Ein Gespräch über Abwarten oder Handeln, über Aufgaben, die aus der Kanzlei verschwinden, und über die eine Sache, die keine Maschine übernehmen kann: Verantwortung.


brutkasten: Herr Ciski, Symfonia hat dvo Software gekauft. Warum gerade jetzt?

Piotr Ciski: Symfonia ist als Teil von Sage gestartet, das in Deutschland, Österreich und der Schweiz sehr aktiv war. Als wir Symfonia gemeinsam mit Investoren von Sage zurückgekauft haben, wollten wir stark in Zentraleuropa wachsen: zuerst die Nummer eins in Polen, dann in Rumänien. Österreich war im Vergleich zu Deutschland immer einer der am schnellsten wachsenden Märkte, aber alle waren von der Größe des deutschen Marktes angezogen. Wir wollten bewusst mit Österreich beginnen, weil Rainer und sein Team hier ein enormes Geschäft aufgebaut haben. Für uns geht es nicht nur um das Business, sondern um die Menschen.

Herr Haude, und aus Ihrer Sicht?

Rainer Haude: In Österreich passiert gerade sehr viel. Datev zieht sich aus dem Markt zurück, das ist geradezu sensationell, niemand hat damit gerechnet. Dazu kommt ein Strukturwandel mit großem Druck bei Preisen und Kosten. Auf der anderen Seite waren die vergangenen zwei Jahre für uns die erfolgreichsten in der Geschichte von dvo, die BelegBox läuft hervorragend. Wir hätten es also einfach laufen lassen können. Aber weil sich so viel bewegt, ist es die ideale Zeit, um noch mehr zu tun. In den Gesprächen mit Piotr hatten wir sehr früh das Gefühl: Da ist jemand, der unsere Sprache spricht und die Zielgruppe versteht. Und ganz ehrlich: Wir sind gut 30 Leute, Symfonia hat allein ein Entwicklungsteam von 300 Personen.

Wie eng hängt der Deal mit dem Rückzug von Datev zusammen?

Ciski: Gar nicht. Es gibt aber eine gemeinsame Geschichte: Polen war der erste Markt, aus dem Datev sich zurückgezogen hat, Datev war vor vielen Jahren unser Partner. Wir verstehen dieses Geschäft sehr gut. Was wir glauben: Wir können Rainers Team mit dem viel größeren Innovations-Hub kombinieren, den wir mit einem Fonds aus dem Silicon Valley in Polen geschaffen haben. Dieser Investor gibt uns direkten Zugang zu dem Ort, an dem die KI-Technologie entsteht.

Haude: Der zeitliche Zufall ist interessant, planen kann man so etwas nicht. Aber dass Datev geht, zeigt, wie dieser Wandel passiert. Es wird eines Tages eine neue Ordnung geben. In einer solchen Situation hat man zwei Optionen: Entweder man wartet ab, oder man handelt und gestaltet.

Was bedeutet KI für Ihre Branche?

Ciski: KI wird verändern, wie wir Software entwickeln und wie Kund:innen sie nutzen. Man braucht keine klassische Benutzeroberfläche mehr, sondern bittet das System, eine Rechnung auszustellen. Ich halte es für wichtig, dass Europa eigene Technologie schafft, mit Hilfe der USA. Wir haben gesehen, was mit der Autoindustrie passiert ist. Ich glaube, es gibt nur einen Weg: amerikanische Technologie zu nutzen, um in Europa Innovation aufzubauen. Wir haben 300 Entwickler:innen und betreuen sehr viele Buchhaltungsbüros und Steuerberater:innen, Compliance ist zentral. Aber KI wird nicht alle Probleme lösen. Sie ist ein Werkzeug, ein sehr mächtiges, aber ein Werkzeug. Es wird immer ein Mensch sein müssen, der die Ergebnisse freigibt. Governance und Verantwortung liegen beim Menschen.

Piotr Ciski, CEO der Symfonia Group | Foto: brutkasten / Martin Pacher

Welche Aufgaben verschwinden in der Kanzlei in den nächsten drei Jahren?

Ciski: Die manuelle Erfassung, weil die Daten automatisch ins System fließen werden. Es wird mehr um Beratung gehen und weniger um das Erfassen von Daten. Polen hat eine sehr niedrige Arbeitslosigkeit. Wir wollen, dass Menschen die intelligenten Aufgaben übernehmen, nicht die Wiederholungsarbeit.

Haude: Dieses Geschäft lässt sich in zwei Teile zerlegen. Der eine Teil ist das, wofür Klient:innen nie wirklich zahlen wollten: Belege sammeln, ordnen, prüfen, ob Beträge oder UID-Nummer stimmen. All das kann KI erledigen. Der andere Teil ist die Verantwortung. Unser Steuerrecht kennt nur eine Verantwortung, und die trifft eine Person, nicht eine Maschine. Dafür sind Klient:innen bereit zu zahlen. Wenn die Betriebsprüfung sagt, diese Restaurantrechnung ist falsch verbucht, kann ich nicht antworten: Das hat ChatGPT in Version 5.5 falsch gemacht, aber in 6.0 stimmt es jetzt. Diese Systeme können keine Verantwortung übernehmen. Es ist eine Blackbox.

Blicken wir in die nordischen Länder. Was passiert dort?

Haude: Sie sind uns fünf, sechs Jahre voraus. Deloitte Norwegen hat sein KMU-Geschäft mit einer halben Milliarde Kronen Umsatz an eine Plattform verkauft, KPMG Norwegen zehn Standorte, PwC Norwegen 20 Büros, EY Norwegen will das KMU-Segment verkaufen. In Dänemark wurde das gesamte KMU-Geschäft mit rund 460 Mitarbeiter:innen abgegeben. Die Käufer sind Private-Equity-finanzierte Plattformen, die Buchhaltung industrialisieren. Das passiert dort gerade, hier noch nicht. Historisch sind wir etwas anders aufgestellt, aber es könnte auch in Österreich passieren. Und was macht man dann als kleine oder mittlere Kanzlei? Die Werkzeuge und die Software machen den Unterschied. Wir haben mit der BelegBox das richtige Werkzeug, und jetzt kommt die Kraft von Symfonia dazu, mit der Erfahrung bei der E-Rechnung, bei der Polen Österreich weit voraus ist.

Rainer Haude, Geschäftsführer von dvo Software | Foto: brutkasten / Martin Pacher

Polen ist bei der E-Rechnung einige Jahre voraus. Was haben Sie gelernt?

Ciski: Polen hat im vergangenen Jahr begonnen, zuerst mit den größeren Unternehmen, dann mit den kleineren, jetzt kommt eine zweite Welle für B2C. Unsere Kund:innen sind etwas konservativ, aber online zu sein, eröffnet ihnen neue Möglichkeiten. Man bringt seine Belege nicht mehr im Kuvert ins Buchhaltungsbüro. Die Produktivität steigt, aber ausgelöst wurde das nicht von der Branche, sondern dadurch, dass der Staat seine Rolle verändert hat. Dinge, gegen die sich die Leute gewehrt haben, mussten sie übernehmen, weil sich alle verändert haben.

Und Österreich?

Ciski: Die EU-Richtlinie verpflichtet alle Mitgliedstaaten bis 2030, und das ist wichtig, wenn Europa wettbewerbsfähiger werden will. Wir können heute jede Überweisung in Sekunden schicken, warum nicht auch die Rechnung, die zum Geldfluss gehört? Italien war eines der ersten Länder, Portugal ist so weit, Ungarn, Rumänien, Polen, heuer startet die Slowakei, Frankreich kommt als Nächstes.

Haude: Und Österreich hat, ehrlich gesagt, nichts. Es gibt seit vielen Jahren einen Standard, aber er ist optional und wird kaum genutzt, nicht einmal von den großen Unternehmen. Wir haben nicht einmal einen Gesetzesentwurf, der die EU-Richtlinie umsetzt.

Warum kommt das nicht aus der Branche selbst?

Haude: Weil die Branche sich an die rechtlichen Regeln anpassen muss. Wir haben in Europa viele Königreiche, und eines ihrer Rechte ist es, Steuern zu erheben. Die Mehrwertsteuer wurde harmonisiert, ist aber eines der kompliziertesten Regime in Europa. Die digitale Rechnung zu harmonisieren, kann deshalb nicht aus der Branche kommen, es muss von oben kommen.

Was sind die nächsten gemeinsamen Schritte?

Haude: Wir haben in Symfonia einen Partner gesehen, der nicht stillsteht. Symfonia will auf dem österreichischen Markt viel bewegen, und das ist für dvo sehr interessant, um zu wachsen.

Ciski: Aber viele Veränderungen kommen von den Regierungen, viele von der KI. Es gibt keine Lösung, die für alle passt. Das lokale Team weiß immer am besten, wie Technologie anzuwenden ist. Für uns ist Österreich der erste Schritt in diese Region. Deutschland und die Schweiz sind unsere nächsten Ziele, und wir schauen uns auch interessante Unternehmen auf dem österreichischen Markt an. Die BelegBox steht ganz oben auf der Liste dessen, was wir vermarkten wollen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt des Artikels diskutiert die potenzielle Gefahr einer Superintelligenten KI und die Bemühungen von OpenAI, Wege zu finden, um diese zu kontrollieren und sicherzustellen, dass sie den Absichten der Menschheit folgt. Das hat verschiedene gesellschaftspolitische Auswirkungen: 1. Bewusstsein für mögliche Risiken: Die Diskussion über Superintelligente KI und ihre potenzielle Bedrohung für die Menschheit sensibilisiert die Öffentlichkeit und Entscheidungsträger für die möglichen negativen Auswirkungen dieser Technologie. 2. Regulierung und Kontrolle: Die Bemühungen von OpenAI, eine eigene KI zu entwickeln, um die Kontrolle über eine Superintelligente KI sicherzustellen, könnten zu einer verstärkten Regulierung und Kontrolle von KI-Systemen führen. Dies könnte Auswirkungen auf die Entwicklung und Implementierung von KI in verschiedenen Bereichen der Gesellschaft haben. 3. Ethik und Verantwortung: Die Diskussion über die Kontrolle von Superintelligenter KI wirft auch Fragen der Ethik und Verantwortung auf. Es stellt sich die Frage, wer für die Handlungen und Entscheidungen von KI-Systemen verantwortlich ist und wie ethische Prinzipien in die Entwicklung und Nutzung dieser Technologie integriert werden können. 4. Zusammenarbeit zwischen Mensch und Maschine: OpenAI betont die enge Zusammenarbeit zwischen KI-Systemen und menschlichen Wissenschaftlern, um sicherzustellen, dass die KI-Systeme auf menschliche Werte und Absichten ausgerichtet sind. Dies deutet auf eine Veränderung der Zusammenarbeit zwischen Mensch und Maschine hin und könnte Auswirkungen auf Arbeitsstrukturen und Rollen in der Zukunft haben. Insgesamt hat der Inhalt des Artikels das Potenzial, das Bewusstsein für die Problematik von Superintelligenter KI zu schärfen und den Diskurs über Regulierung, Ethik und Zusammenarbeit zwischen Mensch und Maschine zu fördern.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt des Artikels hat potenziell weitreichende wirtschaftliche Auswirkungen. Die Schaffung einer Superintelligenz und die Entwicklung von Kontrollmechanismen für KI-Systeme erfordern erhebliche Investitionen in Forschung und Technologie. OpenAI plant, einen beträchtlichen Teil seiner Rechenleistung für diese Zwecke einzusetzen. Dies könnte zu einer verstärkten Nachfrage nach hochqualifizierten KI-Experten führen und die KI-Forschungs- und Entwicklungsbranche weiter antreiben. Darüber hinaus könnten Unternehmen, die erfolgreich leistungsfähige KI-Systeme entwickeln und kontrollieren können, einen Vorsprung bei der Nutzung und Vermarktung dieser Technologien haben. Insgesamt wird der Artikel eine Diskussion über die Auswirkungen und Herausforderungen von Super-KI auf die Wirtschaft auslösen.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in spielt der Artikel eine relevante Rolle, da er auf die mögliche Bedrohung einer Super-KI hinweist und die Bemühungen von OpenAI, diese zu kontrollieren. Dies zeigt, dass die Entwicklung und Erforschung von KI-Systemen weiterhin von großer Bedeutung ist, aber auch potenzielle Risiken birgt. Als Innovationsmanager:in sollten Sie sich mit diesen Fortschritten sowie den Möglichkeiten und Risiken auseinandersetzen, um sicherzustellen, dass Ihre Organisation von den Vorteilen der KI profitieren kann und gleichzeitig mögliche Bedrohungen im Blick behält.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Für Investoren ist der Inhalt dieses Artikels relevant, da er auf die potenziellen Risiken und Herausforderungen hinweist, die mit der Entwicklung von Superintelligenten KI-Systemen verbunden sind. Das Engagement von OpenAI zur Kontrolle und Ausrichtung solcher Systeme unterstreicht die Bedeutung von ethischen und sicherheitsrelevanten Aspekten bei der Weiterentwicklung von KI-Technologien. Investoren sollten sich daher über die Fortschritte und Maßnahmen in diesem Bereich informieren und mögliche Auswirkungen auf Unternehmen und Branchen berücksichtigen, die in der KI-Forschung und -Entwicklung tätig sind.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist es wichtig, auf dem aktuellen Stand der Technologieentwicklung zu sein, um politische Entscheidungen treffen zu können, die den gesellschaftlichen Fortschritt fördern und potenzielle Risiken reduzieren. Das Thema der Superintelligenz und der Kontrolle von KI-Systemen, wie in diesem Artikel erwähnt, betrifft die zukünftige Entwicklung der KI und deren potenzielle Auswirkungen auf die Menschheit. Durch die Kenntnis und das Verständnis dieser Entwicklungen können Politiker:innen politische Rahmenbedingungen schaffen, die die Sicherheit und den Nutzen von KI gewährleisten und gleichzeitig ethische Bedenken berücksichtigen.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel beleuchtet das Thema der potenziellen Auslöschung der Menschheit durch eine Superintelligente KI und wie das Unternehmen OpenAI dieses Risiko angeht. OpenAI hat ein neues Team gegründet, um Wege zu finden, eine solche KI zu kontrollieren und sicherzustellen, dass sie den Absichten der Menschen folgt. Sie planen, eine eigene Aufpasser-KI zu entwickeln, die anpassungen an KI-Systemen vornehmen kann. Dieser Artikel verdeutlicht die wachsenden Bedenken der Tech-Industrie bezüglich der Kontrolle und Auswirkungen hochentwickelter KI-Systeme auf die Menschheit und zeigt den Einsatz von OpenAI zur Lösung dieser Herausforderungen.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilya Sutskever
  • Jan Leike

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Die relevantesten Organisationen und Unternehmen in diesem Artikel sind:
  • OpenAI

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern