28.07.2015

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

/artikel/hawking-musk-und-1000-wissenschaftler-warnen-vor-ai-kalaschnikows-von-morgen
In einem Brief wird vorm Einsatz von Artificial Intelligence bei Waffen gewarnt.

Wenn Artificial Intelligence (AI) in die falschen Hände gerät, könnte es passieren, dass der Mensch Sklave seiner eigenen Erfindung wird. Und sogar von ihr ausgelöscht wird. Stephen Hawking, der international renommierte Astro-Physiker und Cambridge-Professor hat zuletzt auf der “Zeitgeist 2015″-Konferenz genau davor gewarnt. Nun warnt er aktuell vor einem neuen Szenario: Den Einsatz von künstlicher Intelligenz bei Waffen.

Hawking fürchtet, dass intelligente Computer den Menschen überholen und ihn quasi zum persönlichen Spielzeug machen könnten. Und das schon in sehr naher Zukunft. “Computer mit künstlicher Intelligenz werden Menschen in den nächsten 100 Jahren überholen. Wenn das passiert, müssen wir sicher stellen, dass die Ziele der Computer mit den unsrigen einhergehen”, so Hawking gegenüber dem Magazin TechWorld.

Bereits Anfang diesen Jahres hat Hawking zusammen mit prominenten Namen wie Tesla-Gründer Elon Musk einen offenen Brief unterschrieben, indem vor einer unkontrollierten Entwicklung künstlicher Intelligenz gewarnt wird. “Unsere Zukunft ist ein Rennen zwischen wachsender Möglichkeiten im Bereich Technologie und der Weisheit, mit der wir sie nutzen”, so Hawking. Er sei in Sorge, befürchte er immerhin, dass die Sorge, wer Artificial Intelligence kontrolliert, jener weichen wird, ob man sie überhaupt kontrollieren kann.

man-320276_1280

Das Future of Life Institute, das die Risiken von Artificial Intelligence für die Menschen untersucht, hat nun einen Brief veröffentlicht, der von über 1.000 Wissenschaftlern für Robotik und Künstlicher Intelligenz unterzeichnet wurde – inklusive Elan Musk, Stephen Hawking und Apple-Co-Founder Steve Wozniak. Darin wird vorm Einsatz von AI bei Waffen gewarnt. So seien autonome Waffen nach Schießpulver und nuklearen Waffen die dritte Revolution im Waffenwesen: „Die Kalaschnikows von morgen“

Anders als bei Nuklearwaffen, die sehr teuer sind, kosten autonome Waffensysteme vergleichsweise sehr viel weniger. Man müsse aufpassen, dass AI dazu verwendet wird, den Menschen zu schützen und nicht, ihn zu töten.

Der Brief schließt mit dem Satz: „Wir glauben daran, dass AI großes Potential hat, der Menschheit in vielen Bereichen zu helfen, und oberstes Ziel sollte es sein, genau dies zu tun“

P.S. Stephen Hawking beantwortet aktuell Fragen via Reddit – und jeder kann mitmachen.

Feedback? Contact & Follow me on twitter: @derbrutkasten, @die_theresa

Deine ungelesenen Artikel:
10.09.2026

Warum Europa kein eigenes Waymo braucht

Ein Fahrzeug ist noch kein Geschäftsmodell: Warum beim autonomen Fahren nicht die Technologie über Europas Chance entscheidet, sondern der Betrieb dahinter, erklärt vionmo-Gründer Michael Jayasekara im Gastkommentar.
/artikel/warum-europa-kein-eigenes-waymo-braucht
10.09.2026

Warum Europa kein eigenes Waymo braucht

Ein Fahrzeug ist noch kein Geschäftsmodell: Warum beim autonomen Fahren nicht die Technologie über Europas Chance entscheidet, sondern der Betrieb dahinter, erklärt vionmo-Gründer Michael Jayasekara im Gastkommentar.
/artikel/warum-europa-kein-eigenes-waymo-braucht
(c) Verena Nageler

Mit vierundzwanzig habe ich einen großen Teil meines Ersparten in ein Wiener Mobility-Startup gesteckt. Verrückt, ich weiß, aber ich habe verdammt viel gelernt, als ich am Tisch mit namhaften Business Angels aus Österreich und VCs wie Elevator Ventures, Uniqa Ventures und dem aws Gründerfonds sitzen durfte. Die Firma hieß goUrban, eine Plattform für Car- und Micro-Mobility-Sharing und für die Digitalisierung von Firmenflotten. Im September 2024 wurde goUrban von Wunder Mobility übernommen.

Geblieben ist mir aus dieser Zeit vor allem eine Lektion. Sie kommt in der aktuellen Debatte über autonomes Fahren fast nie vor: Ein Fahrzeug ist noch kein Geschäftsmodell.

Beim Sharing entscheidet nämlich nicht die App. Fahrzeuge wollen geladen, gereinigt, gewartet und umverteilt werden. Sie müssen dort stehen, wo in zwanzig Minuten jemand sucht. Stehen sie falsch, kosten sie Geld. Sind sie defekt, ist die Kund:in weg. Bleibt die Auslastung aus, hilft die beste Technologie nichts.

Beim autonomen Fahren ist und wird das nicht anders sein. Die Person am Steuer kann verschwinden. Der Betrieb bleibt ja trotzdem.

Die USA und China machen es logisch, aber anders

Die USA und China skalieren autonome Mobilität dort, wo Dichte, große Flotten und zahlungsbereite Kund:innen zusammenkommen. Das Robotaxi ist als individuelles Produkt gedacht und fährt zuerst in den Gebieten, in denen sich der Betrieb rechnet. Das ist logisch und funktioniert dort auch.

Bei uns sind die Voraussetzungen andere. Wir haben ein dichtes öffentliches Netz, starke Verkehrsverbünde und die politische Erwartung, dass Mobilität auch dort funktioniert, wo sie sich betriebswirtschaftlich nicht ausgeht.

Ein europäisches Waymo zu bauen, löst diese Frage nicht. Der Bahnhof im Seitental, der Weiler am Dienstagabend, der Tourismusort im November: Da fehlt kein weiteres einzelnes Fahrzeug. Da fehlt das System, das dieses Fahrzeug in den öffentlichen Verkehr einhängt.

Die spannendste europäische Position liegt für mich deshalb nicht im Technologie-Layer. Sie liegt bei denen, die Flotten betreiben, Nachfrage bündeln, Fahrten disponieren, Fahrzeuge laden und warten, Schnittstellen zu den Verbünden bauen und Gemeinden, Betriebe und Behörden an einen Tisch bekommen. Also bei der unglamourösen Arbeit.

Ohne Nachfrage keine Skalierung

Autonome Fahrzeuge rechnen sich erst, wenn sie regelmäßig fahren. Und genau hier wird der Tourismus unterschätzt.

Eine Destination bündelt Nachfrage räumlich und zeitlich. Samstagvormittag kommen die Gäste an denselben zwei, drei Bahnhöfen an. Sie fahren zu einer überschaubaren Zahl an Unterkünften, Bergbahnen, Veranstaltungsorten und Ausflugszielen. Diese Wege sind planbarer als die einer beliebigen Stadtbevölkerung. Wir sehen das in unseren Daten immer wieder.

Ein einzelnes Hotel wird trotzdem nie eine autonome Flotte aufbauen. Eine Region kann es. Sie kann die Nachfrage aus Beherbergung, Freizeitwirtschaft, Bevölkerung und öffentlichem Verkehr zusammenlegen. Aus einzelnen Fahrten wird ein Bediengebiet, aus dem Pilotprojekt ein Angebot, das bleibt. Und die Einheimischen fahren mit. Das ist der Punkt, an dem Konnektivität das Leben am Land wieder attraktiver macht.

Nur: Irgendwer muss diese Struktur aufsetzen. Wer übernimmt die Buchung? Wer garantiert den Anschluss, wenn der Zug 18 Minuten Verspätung hat? Wer zahlt die schwachen Zeiten? Wem gehören die Daten? Wer haftet, wenn eine Fahrt ausfällt? Und wer entscheidet, ob das Fahrzeug zum gut ausgelasteten Bahnhof fährt oder zum Betrieb am Ende des Tals?

Das klingt weniger nach Zukunft als Sensorik und Fahrzeugmodelle. Wirtschaftlich entscheidet es mehr.

Menschen steigen nicht wegen der Technik um

Das beste Angebot scheitert, wenn es niemand nutzt. Und die Rolle des Klimabewusstseins wird dabei gehörig überschätzt.

Der Gast lässt das Auto nicht stehen, um ein guter Mensch zu sein. Er lässt es stehen, wenn die Alternative bequemer ist und er sich darauf verlassen kann. Wenn sie günstiger ist, umso besser.

Der Urlaub ist dafür ein guter Moment. Menschen sind aus ihren Routinen raus, probieren Sachen aus, organisieren ihre Wege ohnehin neu. Ob das zuhause nachwirkt, ist noch nicht ausreichend belegt, da würde ich mich nicht zu weit hinauslehnen. Für eine Destination reicht der Urlaub trotzdem: Hier lässt sich zeigen, dass es ohne eigenes Auto geht, ohne dass sich jemand einschränken muss.

Die Technologie macht es möglich. Genutzt wird sie erst, wenn sie im Alltag der Gäste die bequemere Variante ist.

Wer das System organisiert, dem gehört der Markt

Europa pilotiert viel und skaliert wenig. Das liegt nicht nur an Regulierung und technischer Vorsicht. Meistens fehlt jemand, der aus Fahrzeug, öffentlichem Verkehr, touristischer Nachfrage und regionaler Verantwortung ein Produkt macht.

Waymo wird uns das nicht bauen. Und auch kein europäischer Fahrzeughersteller wird entscheiden, wie der Gast vom Bahnhof in ein österreichisches Seitental kommt.

Die unternehmerische Chance liegt zwischen den Zuständigkeiten. Sie gehört denen, die Betreiber, Verkehrsverbünde, Destinationen, Gemeinden und Betriebe koordinieren und daraus ein Angebot machen, das an einem Dienstag im November genauso funktioniert wie am Anreisesamstag im Winter.

Wer damit anfangen will, braucht dafür übrigens kein autonomes Fahrzeug. Es reicht, in einer Region die Fragen von oben zu beantworten: Buchung, Anschluss, Finanzierung der schwachen Zeiten, Daten, Haftung. Wer das geklärt hat, ist bereit, wenn die Fahrzeuge kommen. Die anderen pilotieren dann noch.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“