Chinesische KI 12.02.2025, 07:48 Uhr

DeepSeek in der Kritik: Datenschutz und Spionageverdacht

Die chinesische KI DeepSeek steht wegen Datenschutzproblemen, Cybergefahren und möglicher Spionage im Fokus. Behörden und Firmen reagieren mit strengen Maßnahmen.

DeepSeek

Die chinesische KI DeepSeek zählt zu den populären Anwendungen in den App Stores von Apple und Google. Sicherheitsbehörden, Datenschützer und Cyberfachleute sehen erhebliche Risiken.

Foto: PantherMedia / azskarthak@gmail.com

Die KI-Anwendung DeepSeek hat sich rasant zu einer der meistgenutzten Applikationen in deutschen App Stores entwickelt. Doch Sicherheitsbehörden und Datenschutzexperten schlagen Alarm: Sie sehen gravierende Risiken durch die umfangreiche Speicherung von Nutzerdaten, die leichte Manipulierbarkeit der KI und die mögliche Einflussnahme durch chinesische Behörden.

Umfangreiche Erfassung von Nutzereingaben

Ein zentrales Problem stellt die Speicherung von Nutzereingaben dar. DeepSeek protokolliert nach eigenen Datenschutzrichtlinien „Tastatureingabemuster oder -rhythmen“. Solche Daten erlauben es, Nutzerinnen und Nutzer anhand individueller Tippmuster zu identifizieren.

Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) könnte DeepSeek sogar eingegebene Texte mitlesen, bevor sie abgeschickt werden. Eine Sprecherin des BSI erklärte gegenüber der dpa: „Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden.“

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
THOST Projektmanagement GmbH-Firmenlogo
Ingenieur*in (m/w/d) in der Terminplanung für Großprojekte im Anlagenbau THOST Projektmanagement GmbH
verschiedene Standorte Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Consultant (m/w/d) im Projektmanagement der Energiewende THOST Projektmanagement GmbH
Nürnberg, Hannover, Kiel, Berlin, Jena Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) C-ITS Entwicklung Die Autobahn GmbH des Bundes
Frankfurt am Main Zum Job 
Stadt Freiburg-Firmenlogo
Techniker / Meister /Ingenieur (a) im Tunnelbetrieb Stadt Freiburg
Freiburg Zum Job 
Aptar Radolfzell GmbH-Firmenlogo
Projektleiter Industrialisierung Montage (m/w/d) Aptar Radolfzell GmbH
Eigeltingen Zum Job 
KLN Ultraschall AG-Firmenlogo
Werkzeugkonstrukteur Kunststoffverbindungstechnik (w/m/d) KLN Ultraschall AG
Heppenheim (Bergstraße) Zum Job 
BG ETEM-Firmenlogo
Aufsichtsperson I (m/w/d) nach § 18 SGB VII für die Region Rheine, Nordhorn und Lingen BG ETEM
Region Lingen, Rheine, Nordhorn Zum Job 
Albtal-Verkehrs-Gesellschaft mbH-Firmenlogo
Projektleiter*in Elektrotechnik Verkehrsanlagen (m/w/d) Elektroingenieur*in oder Techniker*in Albtal-Verkehrs-Gesellschaft mbH
Karlsruhe Zum Job 
Die Autobahn GmbH des Bundes Niederlassung Nordbayern-Firmenlogo
Ingenieur Elektrotechnik / Bauingenieur (w/m/d) Ladeinfrastruktur Die Autobahn GmbH des Bundes Niederlassung Nordbayern
Nürnberg Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
bayernweit Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
RES Deutschland GmbH-Firmenlogo
Head of Engineering / Leitung technische Planung Wind- & Solarparks (m/w/d) RES Deutschland GmbH
Vörstetten Zum Job 
Universitätsklinikum Tübingen-Firmenlogo
Technische Koordinatorin / Technischer Koordinator (w/m/d) für das Technische Betriebsamt Universitätsklinikum Tübingen
Tübingen Zum Job 
MEWA Textil-Service SE & Co. Management OHG-Firmenlogo
Projektmanager (m/w/d) PMO Business Transformation MEWA Textil-Service SE & Co. Management OHG
Wiesbaden Zum Job 
Eckelmann AG-Firmenlogo
Systemingenieur Echtzeit-Programmierung/-Entwicklung (m/w/d) Eckelmann AG
Wiesbaden Zum Job 
ECKELMANN AG-Firmenlogo
Applikationsingenieur Automatisierungstechnik (m/w/d) Schwerpunkt Walzwerke ECKELMANN AG
Wiesbaden Zum Job 
Bundesamt für Bauwesen und Raumordnung (BBR)-Firmenlogo
TGA-Koordinatorin / TGA-Koordinator Elektrotechnik (w/m/d) Bundesamt für Bauwesen und Raumordnung (BBR)
AOK - Die Gesundheitskasse in Hessen-Firmenlogo
Ingenieur (m/w/d) - Elektrotechnik AOK - Die Gesundheitskasse in Hessen
Groß-Gerau Zum Job 
Stuttgart Netze GmbH-Firmenlogo
Projektingenieur Netzbau / Tiefbau für die Energiewende (w/m/d) Stuttgart Netze GmbH
Stuttgart Zum Job 
Schleifring GmbH-Firmenlogo
Entwicklungsingenieur FPGA / VHDL (m/w/d) Schleifring GmbH
Fürstenfeldbruck Zum Job 

Gefahr durch Nutzerprofile und Identifizierung

Diese Art der Datensammlung ermöglicht eine Analyse von Schreibmustern. Künstliche Intelligenz kann daraus individuelle Nutzerprofile erstellen und wiedererkennen. Das BSI stuft diese Technologie besonders für sicherheitskritische Bereiche als problematisch ein.

Im Gegensatz dazu versprechen westliche KI-Anbieter wie OpenAI, keine personenbezogenen Daten gezielt zu sammeln oder für Profilbildung zu nutzen. Doch auch hier bestehen Datenschutzrisiken, etwa durch den US Cloud Act, der US-Behörden Zugriff auf Daten von Unternehmen gewährt, unabhängig vom Speicherort.

DeepSeek als potenzielles Werkzeug für Cyberkriminelle

Eine weitere Gefahr ergibt sich aus der leichten Manipulierbarkeit von DeepSeek. Forschende des Cybersicherheitsunternehmens Palo Alto Networks konnten die KI mit bestimmten Befehlen dazu bringen, Skripte für den Diebstahl von Daten aus Mails und Dokumenten zu generieren. Laut Sam Rubin, Leiter der Bedrohungsanalyse des Unternehmens, war es sogar möglich, DeepSeek zur Erstellung von Keylogger-Software zu bewegen. „Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen, um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte“, so Rubin.

In der Software-Branche bezeichnet man das Umgehen von Sicherheitsvorkehrungen als „Jailbreaking“. Während andere KI-Modelle Schutzmechanismen gegen Missbrauch besitzen, fehlen diese bei DeepSeek weitgehend, was es Cyberkriminellen besonders einfach macht, die Software für illegale Zwecke zu nutzen.

Verbindung zur chinesischen Regierung?

Zusätzlich zu den technischen Sicherheitsbedenken kommt die politische Dimension. DeepSeek ist nach chinesischem Recht verpflichtet, alle Nutzerdaten innerhalb der Volksrepublik zu speichern.

Das chinesische Geheimdienstgesetz sieht zudem vor, dass Unternehmen und Bürgerinnen und Bürger mit den Sicherheitsbehörden kooperieren müssen. Kritische Stimmen befürchten, dass dies de facto einen ungehinderten Zugriff des chinesischen Staates auf alle gespeicherten Daten bedeutet.

Datenschutzbehörden nehmen DeepSeek unter die Lupe

In Deutschland wächst der Widerstand gegen die Nutzung von DeepSeek. Der Datenschutzbeauftragte von Rheinland-Pfalz hat ein Prüfverfahren gegen die Anwendung eingeleitet. „Mehrere deutsche Datenschutzaufsichtsbehörden gehen voraussichtlich parallel vor“, erklärte eine Sprecherin.

Nach der EU-Datenschutzgrundverordnung (DSGVO) muss ein Unternehmen ohne Niederlassung in der EU zumindest eine offizielle Ansprechperson benennen. DeepSeek hat dies offenbar bisher nicht getan. Die italienische Datenschutzbehörde GDDP hat die KI daher bereits im Januar gesperrt.

Strenge Sicherheitsmaßnahmen in Behörden und Unternehmen

Angesichts der Risiken setzen deutsche Behörden und Unternehmen strenge Sicherheitsmaßnahmen um. Das Bundesinnenministerium hat generell die Nutzung externer Cloud-Dienste untersagt. Andere Ministerien wie das Finanz- und das Wirtschaftsministerium verbieten den Einsatz textgenerativer KIs für dienstliche Zwecke. Auch das Deutsche Patent- und Markenamt nutzt DeepSeek nicht, um Industriespionage zu vermeiden.

Große deutsche Konzerne gehen ebenfalls auf Nummer sicher. So erlaubt Siemens den Zugriff auf KI-Anwendungen nur über eigene gesicherte Systeme. BMW und BASF setzen ähnliche Schutzmaßnahmen um, um die eigenen Daten zu sichern. Besonders sensible Unternehmen, wie die Münchner Wacker Chemie, die Zuliefererin für die Chipindustrie ist, verbieten die Nutzung von DeepSeek auf allen Firmenrechnern und -geräten. (mit dpa)

Ein Beitrag von:

  • Dominik Hochwarth

    Redakteur beim VDI Verlag. Nach dem Studium absolvierte er eine Ausbildung zum Online-Redakteur, es folgten ein Volontariat und jeweils 10 Jahre als Webtexter für eine Internetagentur und einen Onlineshop. Seit September 2022 schreibt er für ingenieur.de.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.