ChatGPT als Waffe 14.01.2025, 09:18 Uhr

Entwickler zeigt ChatGPT-gesteuertes Gewehr und wird gesperrt

Ein Ingenieur hat einen KI-gesteuerten Roboter erschaffen, der mit einem Gewehr Ziele erfasst und auf Sprachbefehle reagiert. Ein virales Video sorgt für Aufsehen und wirft Fragen zur Zukunft von KI-gesteuerten Waffensystemen auf.

ChatGPT

ChatGPT als Waffe: Entwickler erschafft automatisierten Roboter, der schießt.

Foto: PantherMedia / ramirezom

Ein Entwickler, der online unter dem Namen STS 3D bekannt ist, hat einen KI-gesteuerten Roboter entwickelt, der in der Lage ist, mit einem Gewehr Ziele zu erfassen und zu beschießen. Ein Video, das derzeit im Internet verbreitet wird, zeigt, wie der „Killerroboter“ dank der Integration von ChatGPT sogar auf Sprachbefehle reagiert.

Ein Video, das die Vorrichtung zeigt, sorgte in den sozialen Medien für Aufsehen und löste eine hitzige Debatte über die Umsetzung dystopischer Technologien aus, die an die „Terminator“-Filme erinnern.

Auf TikTok postete der Mann unter dem Namen STS 3D ein Video, in dem er zeigt, wie er ChatGPT verwendet, um ein Robotergewehr zu steuern. Er gibt präzise Anweisungen, wohin geschossen werden soll und wie das Schussmuster aussehen soll.

Maschine reagiert auf Befehl

Im Video ist zu sehen, wie der Entwickler die Befehle erteilt: „ChatGPT, wir werden von vorne links und vorne rechts angegriffen“, sagt er und fügt hinzu: „Reagieren Sie entsprechend.“ Fast sofort reagiert der Roboter und feuert in die jeweiligen Richtungen, wobei die abgefeuerten Objekte wie Platzpatronen wirken. Daraufhin antwortet die Maschine: „Wenn Sie weitere Hilfe benötigen, lassen Sie es mich einfach wissen.
Laut einem Bericht des US-Magazins „Futurism“ ist bisher unklar, wie genau STS 3D ChatGPT in sein Projekt integriert hat und auf welche Weise die Technologie funktioniert.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
Narda Safety Test Solutions GmbH-Firmenlogo
Entwicklungsingenieur für Antennen- und HF-Design (m/w/d) Narda Safety Test Solutions GmbH
Pfullingen Zum Job 
BRUNATA-METRONA GmbH & Co. KG-Firmenlogo
Referent (m/w/d) Technische Gremien BRUNATA-METRONA GmbH & Co. KG
Köln, Hamburg, München Zum Job 
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
FCP Ingenieure Deutschland GmbH-Firmenlogo
BIM-Modeller Infrastruktur (m/w/d) FCP Ingenieure Deutschland GmbH
IMS Röntgensysteme GmbH-Firmenlogo
Entwicklungsingenieur (m/w/i) für digitale Inspektionssysteme IMS Röntgensysteme GmbH
Heiligenhaus Zum Job 
TGM Kanis Turbinen GmbH-Firmenlogo
Vertriebsingenieur (m/w/d) Bereich Service TGM Kanis Turbinen GmbH
Nürnberg Zum Job 
Griesemann Gruppe-Firmenlogo
Lead Ingenieur Elektrotechnik (m/w/d) Griesemann Gruppe
Leuna, Leipzig Zum Job 
Griesemann Gruppe-Firmenlogo
Lead Ingenieur Prozessleittechnik (m/w/d) Griesemann Gruppe
Leipzig Zum Job 
Deutsche Rentenversicherung Bund-Firmenlogo
Projektingenieur*in/ Teilprojektverantwortliche*r Elektrotechnik (m/w/div) Deutsche Rentenversicherung Bund
Sauer Compressors-Firmenlogo
LSA-Engineer (m/w/d) Sauer Compressors
SWR Südwestrundfunk Anstalt des öffentlichen Rechts-Firmenlogo
Ingenieur / Ingenieurin (w/m/d) im Bereich Elektrotechnik/Sicherheit und Netze SWR Südwestrundfunk Anstalt des öffentlichen Rechts
Stuttgart Zum Job 
J.P. Sauer & Sohn Maschinenbau GmbH-Firmenlogo
Elektroingenieur (m/w/d) J.P. Sauer & Sohn Maschinenbau GmbH
Griesemann Gruppe-Firmenlogo
Lead Ingenieur MSR (m/w/d) Griesemann Gruppe
Leuna, Leipzig Zum Job 
Griesemann Gruppe-Firmenlogo
Ingenieur / Techniker / Planer EMSR (m/w/d) Griesemann Gruppe
Berlin, Schwedt Zum Job 
Energieversorgung Halle Netz GmbH-Firmenlogo
Fachingenieur Netzleitsystem (m/w/d) Energieversorgung Halle Netz GmbH
Halle (Saale) Zum Job 
Iqony Solutions GmbH-Firmenlogo
Projektingenieur (m/w/d) Prozesssimulation/Verfahrenstechnik Iqony Solutions GmbH
Berliner Stadtreinigung (BSR)-Firmenlogo
Projektingenieur:innen Elektrotechnik (w/m/d) Berliner Stadtreinigung (BSR)
ILF CONSULTING ENGINEERS GERMANY GMBH-Firmenlogo
Projektingenieur Trassierung & Konstruktion Freileitungsplanung (m/w/d) ILF CONSULTING ENGINEERS GERMANY GMBH
Bremen, Hannover, Berlin, Hamburg, Essen, München Zum Job 
HygroMatik GmbH-Firmenlogo
Entwicklungsingenieur für Hard- und Softwarelösungen (m/w/d) HygroMatik GmbH
Henstedt-Ulzburg Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur / Techniker als Teamleitung Planung / Bau / Betrieb (w/m/d) Die Autobahn GmbH des Bundes
Narda Safety Test Solutions GmbH-Firmenlogo
Entwicklungsingenieur für Antennen- und HF-Design (m/w/d) Narda Safety Test Solutions GmbH
Pfullingen Zum Job 
BRUNATA-METRONA GmbH & Co. KG-Firmenlogo
Referent (m/w/d) Technische Gremien BRUNATA-METRONA GmbH & Co. KG
Köln, Hamburg, München Zum Job 
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
FCP Ingenieure Deutschland GmbH-Firmenlogo
BIM-Modeller Infrastruktur (m/w/d) FCP Ingenieure Deutschland GmbH

OpenAI sperrt den Account

OpenAI wurde auf das Projekt aufmerksam und stoppte den Entwickler schnell, da er gegen die Richtlinien verstieß. Ein Sprecher des Unternehmens erklärte, dass sie den Verstoß proaktiv identifiziert und den Entwickler aufgefordert hätten, die Aktivität zu beenden
Der Sprecher erklärte, dass „die Nutzungsrichtlinien von OpenAI die Nutzung unserer Dienste zur Entwicklung von Waffen oder zur Automatisierung von Systemen, die die persönliche Sicherheit gefährden können, verbieten.“

Beunruhigendes Bild der Zukunft

Obwohl es nicht die Absicht von STS 3D war, zeigt sein automatisiertes Gewehr ein beunruhigendes Bild einer Zukunft, in der KI-gesteuerte Waffensysteme Gegner ohne menschliches Eingreifen töten könnten – eine Vorstellung, die OpenAI eindeutig ablehnt.
Das Video wurde inzwischen von TikTok entfernt, aber es gibt noch Kopien davon.

Ein Beitrag von:

  • Alexandra Ilina

    Redakteurin beim VDI Verlag. Nach einem Journalistik-Studium an der TU-Dortmund und Volontariat ist sie seit mehreren Jahren als Social Media Managerin, Redakteurin und Buchautorin unterwegs.  Sie schreibt über Karriere und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.