28.07.2015

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

/artikel/hawking-musk-und-1000-wissenschaftler-warnen-vor-ai-kalaschnikows-von-morgen
In einem Brief wird vorm Einsatz von Artificial Intelligence bei Waffen gewarnt.

Wenn Artificial Intelligence (AI) in die falschen Hände gerät, könnte es passieren, dass der Mensch Sklave seiner eigenen Erfindung wird. Und sogar von ihr ausgelöscht wird. Stephen Hawking, der international renommierte Astro-Physiker und Cambridge-Professor hat zuletzt auf der “Zeitgeist 2015″-Konferenz genau davor gewarnt. Nun warnt er aktuell vor einem neuen Szenario: Den Einsatz von künstlicher Intelligenz bei Waffen.

Hawking fürchtet, dass intelligente Computer den Menschen überholen und ihn quasi zum persönlichen Spielzeug machen könnten. Und das schon in sehr naher Zukunft. “Computer mit künstlicher Intelligenz werden Menschen in den nächsten 100 Jahren überholen. Wenn das passiert, müssen wir sicher stellen, dass die Ziele der Computer mit den unsrigen einhergehen”, so Hawking gegenüber dem Magazin TechWorld.

Bereits Anfang diesen Jahres hat Hawking zusammen mit prominenten Namen wie Tesla-Gründer Elon Musk einen offenen Brief unterschrieben, indem vor einer unkontrollierten Entwicklung künstlicher Intelligenz gewarnt wird. “Unsere Zukunft ist ein Rennen zwischen wachsender Möglichkeiten im Bereich Technologie und der Weisheit, mit der wir sie nutzen”, so Hawking. Er sei in Sorge, befürchte er immerhin, dass die Sorge, wer Artificial Intelligence kontrolliert, jener weichen wird, ob man sie überhaupt kontrollieren kann.

man-320276_1280

Das Future of Life Institute, das die Risiken von Artificial Intelligence für die Menschen untersucht, hat nun einen Brief veröffentlicht, der von über 1.000 Wissenschaftlern für Robotik und Künstlicher Intelligenz unterzeichnet wurde – inklusive Elan Musk, Stephen Hawking und Apple-Co-Founder Steve Wozniak. Darin wird vorm Einsatz von AI bei Waffen gewarnt. So seien autonome Waffen nach Schießpulver und nuklearen Waffen die dritte Revolution im Waffenwesen: „Die Kalaschnikows von morgen“

Anders als bei Nuklearwaffen, die sehr teuer sind, kosten autonome Waffensysteme vergleichsweise sehr viel weniger. Man müsse aufpassen, dass AI dazu verwendet wird, den Menschen zu schützen und nicht, ihn zu töten.

Der Brief schließt mit dem Satz: „Wir glauben daran, dass AI großes Potential hat, der Menschheit in vielen Bereichen zu helfen, und oberstes Ziel sollte es sein, genau dies zu tun“

P.S. Stephen Hawking beantwortet aktuell Fragen via Reddit – und jeder kann mitmachen.

Feedback? Contact & Follow me on twitter: @derbrutkasten, @die_theresa

Deine ungelesenen Artikel:
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
(c) SecurITe

Manchmal beginnt eine Gründungsgeschichte mit einem Satz, der wie eine Drohung klingt. „Alles, was wir in der Cybersecurity haben, kannst du wegschmeißen. Es wird in ganz kurzer Zeit nicht mehr funktionieren.“ Das soll Manuel Nedbal im Herbst 2024 zu Herbert Stöger gesagt haben – als das Schlagwort „agentic AI“ noch kaum jemand kannte. Rund anderthalb Jahre später, sagen beide, sei genau das eingetreten. Und aus der Ansage ist ein Unternehmen geworden, das nun eine bemerkenswerte Finanzierungsrunde vermeldet.

SecurITe hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich (Euro) abgeschlossen – für eine Frühphasenfinanzierung im österreichischen Kontext eine außergewöhnliche Größenordnung. Sie reicht laut Unternehmen, um die Produktentwicklung über rund 24 Monate durchzufinanzieren. Strukturiert wurde die Runde bewusst über einen europäischen Finanzpartner aus dem Family-Office-Umfeld, der vorerst nicht genannt werden möchte. Auch die bestehenden Gesellschafter zogen mit.

Herbert Stöger, Managing Director x-tention | (c) Thomsen Photography

Hinter SecurITe stehen zwei Akteure, die sich ergänzen: Nedbal, der zwölf Jahre im Silicon Valley Cybersecurity gebaut hat, und Stöger, Gründer und Eigentümer der österreichischen Health-IT-Gruppe x-tention. Das Startup ist aus dieser Partnerschaft entstanden – x-tention brachte den Zugang zum Gesundheitsmarkt und das Problemverständnis ein, Nedbal die Technologie. Eine klassische Ausgründung sei es nicht; x-tention zählt heute zu den bestehenden Gesellschaftern.

Eine Begegnung im Bezirk Amstetten

Die Geschichte dahinter ist die zweier Welten, die im Mostviertel zusammenfanden. Nedbals Stationen im Valley: McAfee (später von Intel übernommen), dann das eigene Startup ShieldX, das nach fünf Jahren an Fortinet verkauft wurde, wo er als VP of Engineering arbeitete. Zuletzt verantwortete er bei Google die Architektur der Cloud-Firewall. Im Zuge der Pandemie kehrte er nach Österreich zurück – ein Muster, das man damals bei einigen heimischen Tech-Talenten beobachten konnte. Dort wurde er über einen gemeinsamen Freund Stöger vorgestellt.

Manuel Nedbal – CEO SecurITe (links) und Bernhard Aigenbauer – COO SecurITe | (c) SecurITe

Dieser hatte x-tention 2001 mit sechs Mitarbeitern gegründet; heute zählt die Gruppe rund 850 Beschäftigte in Österreich, der Schweiz, Deutschland und England sowie ein Office im Silicon Valley. Tief im Bereich Gesundheits-IT verankert, deckt x-tention Datenmanagement, ELGA, Konnektivität und Managed Services ab und betreut nach eigenen Angaben mehr als 1.000 Kunden im Gesundheitswesen. Marktbedingungen, großes Problem, Marktzugang und Technologie seien „auf einmal zusammengekommen“ – Nedbal nennt es eine „Textbuchvorlage für ein Startup“. Heute verteilt sich das rund 50-köpfige Team auf Österreich, Silicon Valley und Bangalore.

Krankenhäuser als verwundbarster Punkt

Warum ausgerechnet Healthcare? Der Sektor sei von der Cybersecurity-Industrie „vergessen“ worden, argumentiert Nedbal – weil dort andere Regeln gelten. Klassische Schutzmechanismen ließen sich auf medizinischen Geräten und in klinischen Netzen nicht so einsetzen wie in der Enterprise-IT. Hinzu komme, dass während der Pandemie eine Hemmschwelle gefallen sei: Krankenhäuser würden heute ohne Schonung attackiert – rund um die Uhr.

Hier setzt das Resilienz-Argument der Gründer an: Krankenhäuser seien ein Paradebeispiel für kritische Infrastruktur, deren Absicherung längst keine rein technische Frage mehr sei, sondern eine der europäischen Souveränität. Die Sorge: Erkenntnisse über neue, KI-getriebene Angriffsmuster zirkulierten oft nur in einem begrenzten Kreis großer US-Anbieter – Krankenhaussoftware-Hersteller und europäische Institutionen seien dabei selten am Tisch. Eine eigenständige europäische Antwort, die nicht aus den USA, Israel oder China komme, sieht das Team daher als Chance. Konsequenterweise habe man auch die Finanzierung „aus Europa und für für das globale Wachstum“ gestemmt – die IP bleibe aber in Europa.

Die nächste Bedrohungsstufe sieht SecurITe in autonomen Agenten: Setzen Kliniken selbst KI-Agenten ein, könnten diese sich fehlverhalten; ein Angriff durch autonome Agenten sei zudem um ein Vielfaches gefährlicher als von einem menschlichen Akteur. Genau hier setzt das Produkt agentis360 an: Statt auf eine zentrale Instanz setzt es auf eigene Sensoren und kleine KI-Modelle, die direkt in der Infrastruktur sitzen und das Verhalten von Systemen und Agenten laufend auf Auffälligkeiten profilieren. Mit dem frischen Kapital will das Unternehmen die Produktentwicklung vorantreiben und parallel internationalen Vertrieb sowie Partnerschaften aufbauen – mit Europa als Ausgangspunkt und dem globalen Rollout für kritische Infrastruktur als nächstes Ziel.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hawking, Musk und 1000 Wissenschaftler warnen vor AI-„Kalaschnikows von morgen“