06.07.2023

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

Systeme, die auf künstlicher Intellligenz (KI) basieren, werden immer intelligenter. Ein neues Forschungsteam von OpenAI soll nun herausfinden, wie sich KI in Zukunft kontrollieren lässt.
/artikel/super-ki-openai-will-ausloeschung-der-menschheit-verhindern
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Immer wieder warnten Tech-Leaders in den letzten Jahren vor einer Super-KI, welche die Menschheit auslöschen könnte. Eine Befragung unter Top-CEOs in den USA zeigte im Juni, dass 40 Prozent die Auslöschung der Menschheit durch KI fürchten. Derzeit sind wir noch weit von einer solchen Situation entfernt. Dennoch machen sich kluge Köpfe bereits jetzt Gedanken, wie man eine Super-KI kontrollieren könnte.

Die Super-KI soll menschlichen Absichten folgen

Am Mittwoch verkündete OpenAI in einem Blogartikel die Gründung eines neuen Teams, das Mittel und Wege entwickeln soll, eine solche Super-KI zu kontrollieren. Geleitet wird das neue Team von Ilya Sutskever, dem Chief Scientist von OpenAI und von Jan Leike. Die Forschungsfrage, die das neu geschaffene Team bearbeiten soll, lautet: „Wie stellen wir sicher, dass KI-Systeme, die viel intelligenter sind als Menschen, menschlichen Absichten folgen?“

OpenAI geht davon aus, dass die derzeitigen Kontrollmittel nicht dauerhaft genügen, um eine immer leistungsfähigere KI zu „beaufsichtigen“. Es brauche deshalb mehr Forschung und Technik in diesem Bereich, so OpenAI. Konkret will OpenAI 20 Prozent seiner der Rechenleistung diesem Zweck widmen. Innerhalb von vier Jahren will OpenAI dann das Projekt „Superintelligence Alignment“ abschließen.

Eigene Aufpasser-KI soll trainiert werden

Konkret will das Team eine eigene KI schaffen, die es „Human-level Automated Alignment Researcher“ nennt – also eine Art Aufpasser-KI. Sie soll Justierungen an KI-Systemen vornehmen können, damit diese auch in Zukunft im Sinne der Menschheit handelt.

„Wenn wir diesbezüglich Fortschritte machen, können unsere KI-Systeme immer mehr unserer Justierungsarbeit übernehmen und letztendlich bessere Justierungstechniken ausarbeiten, implementieren, studieren und entwickeln, als wir es jetzt haben“, schrieben Leike und weitere OpenAI-Forscher im August 2022 in einem Blogartikel.

Enge Zusammenarbeit mit menschlichen Wissenschaftlern

Die neuen KI-Forschungssysteme würden dann „mit Menschen zusammenarbeiten, um sicherzustellen, dass ihre eigenen Nachfolger stärker auf Menschen ausgerichtet sind“, so Lemke und seine Kollegen. Menschliche Wissenschaftler:innen würden ihre Bemühungen in Zukunft stattdessen stärker auf die Überprüfung der von KI-Systemen durchgeführten Forschung konzentrieren, anstatt diese Forschung selbst zu generieren.

Deine ungelesenen Artikel:
30.06.2026

„Ohne die Hilfe wären wir nicht da, wo wir heute stehen“

Das Burgenland sticht unter den heimischen Startup-Standorten durch großes Wachstum hervor. Großen Anteil daran hat StartUp Burgenland mit seinen Inkubator- und Accelerator-Programmen. Wir sprachen mit zwei Teilnehmer:innen.
/artikel/ohne-die-hilfe-waeren-wir-nicht-da-wo-wir-heute-stehen
30.06.2026

„Ohne die Hilfe wären wir nicht da, wo wir heute stehen“

Das Burgenland sticht unter den heimischen Startup-Standorten durch großes Wachstum hervor. Großen Anteil daran hat StartUp Burgenland mit seinen Inkubator- und Accelerator-Programmen. Wir sprachen mit zwei Teilnehmer:innen.
/artikel/ohne-die-hilfe-waeren-wir-nicht-da-wo-wir-heute-stehen
(c) StartUp Burgenland
(c) StartUp Burgenland

Die Gründungszahlen gingen in den meisten österreichischen Bundesländern laut aktuellem Austrian Startup Monitor zuletzt zurück oder stagnierten. Große Ausnahme ist ausgerechnet das Bundesland mit der geringsten Bevölkerungszahl: Gerade in den vergangenen Krisenjahren stieg die Zahl der Neugründungen im Burgenland um nicht weniger als 65 Prozent.

Heute sind es insgesamt rund 90 Startups – und diese weisen laut Monitor noch eine weitere Besonderheit auf: Das Burgenland ist auch österreichweiter Spitzenreiter bei Profitabilität. Mehr als 60 Prozent der Startups im östlichsten Bundesland sind demnach bereits profitabel oder haben den Break-even erreicht.

StartUp Burgenland: 50 Startups seit dem Start 2021

Doch wie kommt es zu dieser Dynamik entgegen des österreichweiten Trends? Der Gründergeist hat sich in den vergangenen Jahren nicht zufällig im Burgenland etabliert. „Es gab früher keine Anlaufstelle, kein strukturiertes Programm. Wer hier gründen wollte, ist nach Wien oder Graz ausgewichen – oder hat es alleine versucht“, sagt Michael Sedlak. Er ist Leiter von StartUp Burgenland, das genau diesen Umstand in den vergangenen Jahren geändert hat.

Die Zahlen sprechen dabei für sich. Seit dem Start 2021 gingen durch die Inkubator- und Accelerator-Programme mehr als 50 Startups. 70 Prozent davon schafften den Markteintritt und schufen damit 129 Arbeitsplätze. Sie kommen auf eine Gesamtkapitalisierung von 10,7 Millionen Euro. Und dieser Impact zeigt sich auch in der Zufriedenheit der Teilnehmer:innen: 95 Prozent der Alumni empfehlen die Programme von StartUp Burgenland weiter.

CRANii: über Ärtztepraxen zu den Patient:innen

Eine der aktuellen Teilnehmer:innen ist Christiane Hofer-Marbet. Sie hat mit ihrer Schwester Katharina Koller-Hofer das Startup CRANii gegründet. Das app-gestützte Therapiekonzept für Kopf- und Kieferbeschwerden, vor allem die kraniomandibuläre Dysfunktion (CMD), bietet Patient:innen strukturierte Kieferphysiotherapie für zuhause. „Für die Patienten ist es oftmals schwierig, Therapieplätze zu finden, weil es zu wenige Spezialisten in dem Bereich gibt und es natürlich auch eine Kostenfrage ist. Wir haben eine Software entwickelt, bei der die Patienten an die Hand genommen werden, um zu Hause die Übungen gemeinsam mit uns zu machen“, erklärt Hofer-Marbet gegenüber brutkasten.

(v.l.) Die Therapeutinnen und Schwestern Christiane Hofer-Marbet und Katharina Koller-Hofer haben CRANii gegründet | (c) CRANii

Gerade erst vor wenigen Wochen gelauncht, führt der Weg zu den Patient:innen für CRANii über einen B2B2C-Ansatz, konkret über die Kooperation mit Ärztepraxen und Reha-Kliniken. „Momentan bedienen wir Reha-Kliniken, Zahnarztpraxen und HNO-Praxen österreichweit und weiten nun auf die Orthopädie und Neurologie aus.“ Dabei strecke man schon jetzt in der Launch-Phase die Fühler im gesamten DACH-Raum aus und führe etwa bereits Gespräche in der Schweiz.

„Wir sind Therapeutinnen und hatten von BWL am Anfang null Ahnung“

Nicht nur bei der Entwicklung dieser Go-to-Market-Strategie holte sich CRANii Unterstützung von StartUp Burgenland. „Ich glaube, ohne die Hilfe wären wir nicht da, wo wir heute stehen“, sagt Hofer-Marbet. „Wir kommen eigentlich nicht von der unternehmerischen Seite. Wir sind Physiotherapeutinnen und hatten von BWL am Anfang null Ahnung“, so die Gründerin. „Seit wir dabei sind, ist es krass: Unser Coach Felix Lenhard geht den Business-Plan Schritt für Schritt mit uns durch, wir sind in Coachings mit Silicon-Valley-Investoren und haben es jetzt drauf, auf Deutsch und auf Englisch aus dem Stegreif zu pitchen.“

Man habe angetrieben durch den zweiten Coach, Michael Sedlak, auch an Messen und Kongressen teilgenommen, man schätze die Struktur des Programms und: „Das Netzwerk, das uns an die Hand gegeben wird, ist einfach gigantisch“, so Hofer-Marbet.

„Die meisten Leute wollen etwas von dir, wenn sie dir so ein Netzwerk vermitteln.“

Diesen Aspekt betont auch Edris Paknehad: „Felix [Anm. Lenhard], Michael [Anm. Sedlak] und Raphaela [Anm. Graf] haben mir in Eins-zu-Eins-Betreuung überall geholfen, wo ich nicht weitergekommen bin, und wenn sie es selbst nicht wussten, haben sie immer Leute gefunden, die mir helfen konnten. Die meisten Leute wollen etwas von dir, wenn sie dir so ein Netzwerk vermitteln. Sie nicht.“

Edris Paknehad | (c) PAK Immo

Mit seinem E-Learning-Startup PAK Immo hat Paknehad bereits das Accelerator-Programm von StartUp Burgenland durchlaufen. Das Unternehmen hat mit seiner E-Learning-Plattform für die Befähigungsprüfung zum Baumeister eine Nische gefunden, die es erfolgreich besetzt. „Die Baubranche in Österreich ist extrem altmodisch. Man redet die ganze Zeit von Digitalisierung, etwa mit BIM [Anm. Building Information Modeling], aber was die Bildung angeht, ist alles sehr veraltet“, erklärt der Gründer.

PAK Immo: effizient genutzte Fahrzeit

So habe man für besagte Befähigungsprüfung bislang einen Kurs in Präsenz belegen müssen, der zwischen 15.000 und 18.000 Euro kostet. „Dabei ist man in dem Beruf zeitlich extrem eingeschränkt. Wenn man auch noch eine Familie hat, kann man sich unmöglich drei- oder viermal in der Woche in einen Kurs setzen. Das war auch bei mir damals der Fall. Ich habe viel Geld bezahlt und 70, 80 Prozent des Vorbereitungskurses verpasst. Ich dachte mir: Das muss besser gehen!“ PAK Immo biete mit seinen Kursen nicht nur einen um mehrere Tausend Euro günstigeren Preis. „Bei uns kann man die Inhalte anhören, wie einen Podcast. Ich sitze etwa auch heute vier Stunden im Auto, weil die Baustelle zwei Stunden Autofahrt entfernt ist. Das ist bezahlte Arbeitszeit und man kann sie gleichzeitig nutzen, um zu lernen“, so Paknehad.

Auch er bekam von StartUp Burgenland nicht nur Coachings, Netzwerk und Sichtbarkeit, sondern auch Unterstützung bei sehr konkreten Tasks, erzählt der Gründer: „Was mir besonders geholfen hat: Ich hatte am Anfang kein eigenes CRM-System. Hier wurde mir geholfen, eines aufzubauen – davor war das eher ein Chaos.“

„Du brauchst kein Silicon Valley. Du brauchst ein funktionierendes Ökosystem.“

Auch Paknehad betont die Struktur des Programms, die besonders am Anfang geholfen hat. Seitens StartUp Burgenland hat man diese zuletzt übrigens noch stärker individualisiert. Seit diesem Jahr gibt es keinen Batch-Betrieb und keinen fixen Zeitrahmen mehr, dafür zu 100 Prozent individuelle Begleitung. „Dein Fahrplan, dein Tempo“, fasst Michael Sedlak zusammen. Und er verrät das Erfolgsrezept des Programms: „Du brauchst kein Silicon Valley. Du brauchst ein funktionierendes Ökosystem. Und das gibt es im Burgenland.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt des Artikels diskutiert die potenzielle Gefahr einer Superintelligenten KI und die Bemühungen von OpenAI, Wege zu finden, um diese zu kontrollieren und sicherzustellen, dass sie den Absichten der Menschheit folgt. Das hat verschiedene gesellschaftspolitische Auswirkungen: 1. Bewusstsein für mögliche Risiken: Die Diskussion über Superintelligente KI und ihre potenzielle Bedrohung für die Menschheit sensibilisiert die Öffentlichkeit und Entscheidungsträger für die möglichen negativen Auswirkungen dieser Technologie. 2. Regulierung und Kontrolle: Die Bemühungen von OpenAI, eine eigene KI zu entwickeln, um die Kontrolle über eine Superintelligente KI sicherzustellen, könnten zu einer verstärkten Regulierung und Kontrolle von KI-Systemen führen. Dies könnte Auswirkungen auf die Entwicklung und Implementierung von KI in verschiedenen Bereichen der Gesellschaft haben. 3. Ethik und Verantwortung: Die Diskussion über die Kontrolle von Superintelligenter KI wirft auch Fragen der Ethik und Verantwortung auf. Es stellt sich die Frage, wer für die Handlungen und Entscheidungen von KI-Systemen verantwortlich ist und wie ethische Prinzipien in die Entwicklung und Nutzung dieser Technologie integriert werden können. 4. Zusammenarbeit zwischen Mensch und Maschine: OpenAI betont die enge Zusammenarbeit zwischen KI-Systemen und menschlichen Wissenschaftlern, um sicherzustellen, dass die KI-Systeme auf menschliche Werte und Absichten ausgerichtet sind. Dies deutet auf eine Veränderung der Zusammenarbeit zwischen Mensch und Maschine hin und könnte Auswirkungen auf Arbeitsstrukturen und Rollen in der Zukunft haben. Insgesamt hat der Inhalt des Artikels das Potenzial, das Bewusstsein für die Problematik von Superintelligenter KI zu schärfen und den Diskurs über Regulierung, Ethik und Zusammenarbeit zwischen Mensch und Maschine zu fördern.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt des Artikels hat potenziell weitreichende wirtschaftliche Auswirkungen. Die Schaffung einer Superintelligenz und die Entwicklung von Kontrollmechanismen für KI-Systeme erfordern erhebliche Investitionen in Forschung und Technologie. OpenAI plant, einen beträchtlichen Teil seiner Rechenleistung für diese Zwecke einzusetzen. Dies könnte zu einer verstärkten Nachfrage nach hochqualifizierten KI-Experten führen und die KI-Forschungs- und Entwicklungsbranche weiter antreiben. Darüber hinaus könnten Unternehmen, die erfolgreich leistungsfähige KI-Systeme entwickeln und kontrollieren können, einen Vorsprung bei der Nutzung und Vermarktung dieser Technologien haben. Insgesamt wird der Artikel eine Diskussion über die Auswirkungen und Herausforderungen von Super-KI auf die Wirtschaft auslösen.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in spielt der Artikel eine relevante Rolle, da er auf die mögliche Bedrohung einer Super-KI hinweist und die Bemühungen von OpenAI, diese zu kontrollieren. Dies zeigt, dass die Entwicklung und Erforschung von KI-Systemen weiterhin von großer Bedeutung ist, aber auch potenzielle Risiken birgt. Als Innovationsmanager:in sollten Sie sich mit diesen Fortschritten sowie den Möglichkeiten und Risiken auseinandersetzen, um sicherzustellen, dass Ihre Organisation von den Vorteilen der KI profitieren kann und gleichzeitig mögliche Bedrohungen im Blick behält.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Für Investoren ist der Inhalt dieses Artikels relevant, da er auf die potenziellen Risiken und Herausforderungen hinweist, die mit der Entwicklung von Superintelligenten KI-Systemen verbunden sind. Das Engagement von OpenAI zur Kontrolle und Ausrichtung solcher Systeme unterstreicht die Bedeutung von ethischen und sicherheitsrelevanten Aspekten bei der Weiterentwicklung von KI-Technologien. Investoren sollten sich daher über die Fortschritte und Maßnahmen in diesem Bereich informieren und mögliche Auswirkungen auf Unternehmen und Branchen berücksichtigen, die in der KI-Forschung und -Entwicklung tätig sind.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist es wichtig, auf dem aktuellen Stand der Technologieentwicklung zu sein, um politische Entscheidungen treffen zu können, die den gesellschaftlichen Fortschritt fördern und potenzielle Risiken reduzieren. Das Thema der Superintelligenz und der Kontrolle von KI-Systemen, wie in diesem Artikel erwähnt, betrifft die zukünftige Entwicklung der KI und deren potenzielle Auswirkungen auf die Menschheit. Durch die Kenntnis und das Verständnis dieser Entwicklungen können Politiker:innen politische Rahmenbedingungen schaffen, die die Sicherheit und den Nutzen von KI gewährleisten und gleichzeitig ethische Bedenken berücksichtigen.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel beleuchtet das Thema der potenziellen Auslöschung der Menschheit durch eine Superintelligente KI und wie das Unternehmen OpenAI dieses Risiko angeht. OpenAI hat ein neues Team gegründet, um Wege zu finden, eine solche KI zu kontrollieren und sicherzustellen, dass sie den Absichten der Menschen folgt. Sie planen, eine eigene Aufpasser-KI zu entwickeln, die anpassungen an KI-Systemen vornehmen kann. Dieser Artikel verdeutlicht die wachsenden Bedenken der Tech-Industrie bezüglich der Kontrolle und Auswirkungen hochentwickelter KI-Systeme auf die Menschheit und zeigt den Einsatz von OpenAI zur Lösung dieser Herausforderungen.

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilya Sutskever
  • Jan Leike

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Die relevantesten Organisationen und Unternehmen in diesem Artikel sind:
  • OpenAI

Superintelligente KI: Team von OpenAI soll Auslöschung der Menschheit verhindern