ChatGPT als Waffe 14.01.2025, 09:18 Uhr

Entwickler zeigt ChatGPT-gesteuertes Gewehr und wird gesperrt

Ein Ingenieur hat einen KI-gesteuerten Roboter erschaffen, der mit einem Gewehr Ziele erfasst und auf Sprachbefehle reagiert. Ein virales Video sorgt für Aufsehen und wirft Fragen zur Zukunft von KI-gesteuerten Waffensystemen auf.

ChatGPT

ChatGPT als Waffe: Entwickler erschafft automatisierten Roboter, der schießt.

Foto: PantherMedia / ramirezom

Ein Entwickler, der online unter dem Namen STS 3D bekannt ist, hat einen KI-gesteuerten Roboter entwickelt, der in der Lage ist, mit einem Gewehr Ziele zu erfassen und zu beschießen. Ein Video, das derzeit im Internet verbreitet wird, zeigt, wie der „Killerroboter“ dank der Integration von ChatGPT sogar auf Sprachbefehle reagiert.

Ein Video, das die Vorrichtung zeigt, sorgte in den sozialen Medien für Aufsehen und löste eine hitzige Debatte über die Umsetzung dystopischer Technologien aus, die an die „Terminator“-Filme erinnern.

Auf TikTok postete der Mann unter dem Namen STS 3D ein Video, in dem er zeigt, wie er ChatGPT verwendet, um ein Robotergewehr zu steuern. Er gibt präzise Anweisungen, wohin geschossen werden soll und wie das Schussmuster aussehen soll.

Maschine reagiert auf Befehl

Im Video ist zu sehen, wie der Entwickler die Befehle erteilt: „ChatGPT, wir werden von vorne links und vorne rechts angegriffen“, sagt er und fügt hinzu: „Reagieren Sie entsprechend.“ Fast sofort reagiert der Roboter und feuert in die jeweiligen Richtungen, wobei die abgefeuerten Objekte wie Platzpatronen wirken. Daraufhin antwortet die Maschine: „Wenn Sie weitere Hilfe benötigen, lassen Sie es mich einfach wissen.
Laut einem Bericht des US-Magazins „Futurism“ ist bisher unklar, wie genau STS 3D ChatGPT in sein Projekt integriert hat und auf welche Weise die Technologie funktioniert.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
Stadtwerke Schneverdingen-Neuenkirchen GmbH-Firmenlogo
Netzplaner (m/w/d) Stadtwerke Schneverdingen-Neuenkirchen GmbH
Schneverdingen-Neuenkirchen Zum Job 
TenneT TSO GmbH-Firmenlogo
Ingenieur als Projektleiter Leitungsbau (m/w/d) TenneT TSO GmbH
HygroMatik GmbH-Firmenlogo
Junior Entwicklungsingenieur für Hard- und Softwarelösungen (m/w/d) HygroMatik GmbH
Henstedt-Ulzburg Zum Job 
HAMBURG WASSER-Firmenlogo
Ingenieur für Automatisierungstechnik Wasserwerke (m/w/d) HAMBURG WASSER
Hamburg-Rothenburgsort Zum Job 
Bundesbau Baden-Württemberg-Firmenlogo
Trainees Bundesbau Baden-Württemberg (w/m/d) Bundesbau Baden-Württemberg
verschiedene Standorte Zum Job 
3M Deutschland GmbH-Firmenlogo
Automatisierungsingenieur (m/w/*) 3M Deutschland GmbH
Hilden, hybrid Zum Job 
TenneT-Firmenlogo
Asset Spezialist elektrische Eigenbedarfssysteme HVDC-Anlagen (m/w/d) TenneT
Lehrte, Bayreuth Zum Job 
Forschungszentrum Jülich GmbH-Firmenlogo
Teamleiter:in - Integrierte Ressourcenbewertung (w/m/d) Forschungszentrum Jülich GmbH
Jülich bei Köln Zum Job 
Strahlenschutzausbildung Jülich e.V.-Firmenlogo
Leiter:in (fachlich und organisatorisch) der Strahlenschutzkursstätte in Jülich (w/m/d) Strahlenschutzausbildung Jülich e.V.
Jülich Zum Job 
EMSCHERGENOSSENSCHAFT und LIPPEVERBAND-Firmenlogo
Ingenieur*in (m/w/d) im Bereich der Elektrotechnik EMSCHERGENOSSENSCHAFT und LIPPEVERBAND
Omexom GA Nord GmbH-Firmenlogo
Business Unit Leiter (m/w/d) Omexom GA Nord GmbH
Dresden Zum Job 
TenneT TSO GmbH-Firmenlogo
Site Manager (m/w/d) Wilhelmshaven TenneT TSO GmbH
Hannover, Wilhelmshaven Zum Job 
VIVAVIS AG-Firmenlogo
Sales Manager (m/w/d) Industrie VIVAVIS AG
Ettlingen Zum Job 
VIVAVIS AG-Firmenlogo
Sales Manager (m/w/d) Metering VIVAVIS AG
Berlin, Homeoffice Zum Job 
Haus der Technik e.V.-Firmenlogo
Fachdozent/in und Berater/in (m/w/d) für Krane und Hebezeuge in der Weiterbildung Haus der Technik e.V.
THU Technische Hochschule Ulm-Firmenlogo
W2-Professur Technische Informatik THU Technische Hochschule Ulm
über ifp | Executive Search. Management Diagnostik.-Firmenlogo
Teamleiter:in Mechanical & Electrical Engineering über ifp | Executive Search. Management Diagnostik.
Emlichheim Zum Job 
IMS Messsysteme GmbH-Firmenlogo
Systemingenieur (m/w/i) für Oberflächeninspektion IMS Messsysteme GmbH
Heiligenhaus Zum Job 
ZVEI e.V.-Firmenlogo
Manager/in Automation (w/m/d) ZVEI e.V.
Frankfurt am Main Zum Job 
Evos Hamburg GmbH-Firmenlogo
Betriebsingenieur EMSR (m/w/d) Evos Hamburg GmbH
Hamburg Zum Job 
Stadtwerke Schneverdingen-Neuenkirchen GmbH-Firmenlogo
Netzplaner (m/w/d) Stadtwerke Schneverdingen-Neuenkirchen GmbH
Schneverdingen-Neuenkirchen Zum Job 
TenneT TSO GmbH-Firmenlogo
Ingenieur als Projektleiter Leitungsbau (m/w/d) TenneT TSO GmbH
HygroMatik GmbH-Firmenlogo
Junior Entwicklungsingenieur für Hard- und Softwarelösungen (m/w/d) HygroMatik GmbH
Henstedt-Ulzburg Zum Job 
HAMBURG WASSER-Firmenlogo
Ingenieur für Automatisierungstechnik Wasserwerke (m/w/d) HAMBURG WASSER
Hamburg-Rothenburgsort Zum Job 

OpenAI sperrt den Account

OpenAI wurde auf das Projekt aufmerksam und stoppte den Entwickler schnell, da er gegen die Richtlinien verstieß. Ein Sprecher des Unternehmens erklärte, dass sie den Verstoß proaktiv identifiziert und den Entwickler aufgefordert hätten, die Aktivität zu beenden
Der Sprecher erklärte, dass „die Nutzungsrichtlinien von OpenAI die Nutzung unserer Dienste zur Entwicklung von Waffen oder zur Automatisierung von Systemen, die die persönliche Sicherheit gefährden können, verbieten.“

Beunruhigendes Bild der Zukunft

Obwohl es nicht die Absicht von STS 3D war, zeigt sein automatisiertes Gewehr ein beunruhigendes Bild einer Zukunft, in der KI-gesteuerte Waffensysteme Gegner ohne menschliches Eingreifen töten könnten – eine Vorstellung, die OpenAI eindeutig ablehnt.
Das Video wurde inzwischen von TikTok entfernt, aber es gibt noch Kopien davon.

Ein Beitrag von:

  • Alexandra Ilina

    Redakteurin beim VDI Verlag. Nach einem Journalistik-Studium an der TU-Dortmund und Volontariat ist sie seit mehreren Jahren als Social Media Managerin, Redakteurin und Buchautorin unterwegs.  Sie schreibt über Karriere und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.