Chinesische KI 12.02.2025, 07:48 Uhr

DeepSeek in der Kritik: Datenschutz und Spionageverdacht

Die chinesische KI DeepSeek steht wegen Datenschutzproblemen, Cybergefahren und möglicher Spionage im Fokus. Behörden und Firmen reagieren mit strengen Maßnahmen.

DeepSeek

Die chinesische KI DeepSeek zählt zu den populären Anwendungen in den App Stores von Apple und Google. Sicherheitsbehörden, Datenschützer und Cyberfachleute sehen erhebliche Risiken.

Foto: PantherMedia / azskarthak@gmail.com

Die KI-Anwendung DeepSeek hat sich rasant zu einer der meistgenutzten Applikationen in deutschen App Stores entwickelt. Doch Sicherheitsbehörden und Datenschutzexperten schlagen Alarm: Sie sehen gravierende Risiken durch die umfangreiche Speicherung von Nutzerdaten, die leichte Manipulierbarkeit der KI und die mögliche Einflussnahme durch chinesische Behörden.

Umfangreiche Erfassung von Nutzereingaben

Ein zentrales Problem stellt die Speicherung von Nutzereingaben dar. DeepSeek protokolliert nach eigenen Datenschutzrichtlinien „Tastatureingabemuster oder -rhythmen“. Solche Daten erlauben es, Nutzerinnen und Nutzer anhand individueller Tippmuster zu identifizieren.

Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) könnte DeepSeek sogar eingegebene Texte mitlesen, bevor sie abgeschickt werden. Eine Sprecherin des BSI erklärte gegenüber der dpa: „Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden.“

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
THU Technische Hochschule Ulm-Firmenlogo
W2-Professur "Elektrische Antriebe" THU Technische Hochschule Ulm
Mercer Stendal GmbH-Firmenlogo
Ingenieur / Techniker (m/w/d) Automatisierungstechnik Mercer Stendal GmbH
Arneburg Zum Job 
Mercer Stendal GmbH-Firmenlogo
Betriebstechniker (m/w/d) Prozessleittechnik Mercer Stendal GmbH
Arneburg Zum Job 
Solventum Germany GmbH-Firmenlogo
Prozessingenieur Automatisierungstechnik / Mechatronik / Maschinenbau (m/w/*) Solventum Germany GmbH
Seefeld Zum Job 
Josefs-Gesellschaft gAG-Firmenlogo
Leitung (m/w/d) Gebäudemanagement Josefs-Gesellschaft gAG
Hochheim am Main, Rüdesheim am Rhein, Oberursel Zum Job 
Desitin Arzneimittel GmbH-Firmenlogo
Projektmanager Gebäudeautomation (m/w/d) Desitin Arzneimittel GmbH
Hamburg Zum Job 
Desitin Arzneimittel GmbH-Firmenlogo
Projektmanager TGA (m/w/d) Desitin Arzneimittel GmbH
Hamburg Zum Job 
Wirtgen GmbH-Firmenlogo
Project Manager Product Lifecycle Management (m/w/d) Wirtgen GmbH
Windhagen Zum Job 
über ifp | Executive Search. Management Diagnostik.-Firmenlogo
COO (m/w/d) über ifp | Executive Search. Management Diagnostik.
Ostdeutschland Zum Job 
Berliner Stadtreinigungsbetriebe (BSR)-Firmenlogo
Projektingenieurinnen / Projektingenieure (w/m/d) Elektrotechnik Berliner Stadtreinigungsbetriebe (BSR)
NVL B.V. & Co. KG-Firmenlogo
Systemingenieur (m/w/d) für Marineschiffe - Integration von Navigationssystemen NVL B.V. & Co. KG
Bremen / Lemwerder Zum Job 
N-ERGIE Aktiengesellschaft-Firmenlogo
Spezialist (m/w/d) Digitalisierung Fernwärmenetze N-ERGIE Aktiengesellschaft
Nürnberg Zum Job 
TÜV Technische Überwachung Hessen GmbH-Firmenlogo
Sachverständiger für Brand- und Explosionsschutz (m/w/d) TÜV Technische Überwachung Hessen GmbH
Frankfurt am Main Zum Job 
Octapharma Produktionsgesellschaft Deutschland mbH-Firmenlogo
Ingenieur (m/w/d) Automatisierung (Schwerpunkt: Prozessleitsystem PCS7) Octapharma Produktionsgesellschaft Deutschland mbH
Springe Zum Job 
ONTRAS Gastransport GmbH-Firmenlogo
Projektingenieur Wasserstoff (m/w/d) ONTRAS Gastransport GmbH
Leipzig Zum Job 
Synthos Schkopau GmbH-Firmenlogo
Maintenance Engineer (m/w/d) Synthos Schkopau GmbH
Schkopau Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur/in (m/w/d) für Tunnelsicherheit Die Autobahn GmbH des Bundes
Stuttgart Zum Job 
SE Tylose GmbH & Co. KG-Firmenlogo
Ingenieur der Mess- und Regeltechnik (m/w/d) für Investitionsprojekte SE Tylose GmbH & Co. KG
Wiesbaden Zum Job 
Industriepark Nienburg GmbH-Firmenlogo
Ingenieur (m/w/d) Elektrotechnik als Leiter Elektrotechnik & Automation Industriepark Nienburg GmbH
Nienburg Zum Job 
Evonik Operations GmbH-Firmenlogo
EMR-Anlageningenieur (m/w/d) mit Sonderqualifikation Evonik Operations GmbH
Rheinfelden (Baden) Zum Job 

Gefahr durch Nutzerprofile und Identifizierung

Diese Art der Datensammlung ermöglicht eine Analyse von Schreibmustern. Künstliche Intelligenz kann daraus individuelle Nutzerprofile erstellen und wiedererkennen. Das BSI stuft diese Technologie besonders für sicherheitskritische Bereiche als problematisch ein.

Im Gegensatz dazu versprechen westliche KI-Anbieter wie OpenAI, keine personenbezogenen Daten gezielt zu sammeln oder für Profilbildung zu nutzen. Doch auch hier bestehen Datenschutzrisiken, etwa durch den US Cloud Act, der US-Behörden Zugriff auf Daten von Unternehmen gewährt, unabhängig vom Speicherort.

DeepSeek als potenzielles Werkzeug für Cyberkriminelle

Eine weitere Gefahr ergibt sich aus der leichten Manipulierbarkeit von DeepSeek. Forschende des Cybersicherheitsunternehmens Palo Alto Networks konnten die KI mit bestimmten Befehlen dazu bringen, Skripte für den Diebstahl von Daten aus Mails und Dokumenten zu generieren. Laut Sam Rubin, Leiter der Bedrohungsanalyse des Unternehmens, war es sogar möglich, DeepSeek zur Erstellung von Keylogger-Software zu bewegen. „Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen, um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte“, so Rubin.

In der Software-Branche bezeichnet man das Umgehen von Sicherheitsvorkehrungen als „Jailbreaking“. Während andere KI-Modelle Schutzmechanismen gegen Missbrauch besitzen, fehlen diese bei DeepSeek weitgehend, was es Cyberkriminellen besonders einfach macht, die Software für illegale Zwecke zu nutzen.

Verbindung zur chinesischen Regierung?

Zusätzlich zu den technischen Sicherheitsbedenken kommt die politische Dimension. DeepSeek ist nach chinesischem Recht verpflichtet, alle Nutzerdaten innerhalb der Volksrepublik zu speichern.

Das chinesische Geheimdienstgesetz sieht zudem vor, dass Unternehmen und Bürgerinnen und Bürger mit den Sicherheitsbehörden kooperieren müssen. Kritische Stimmen befürchten, dass dies de facto einen ungehinderten Zugriff des chinesischen Staates auf alle gespeicherten Daten bedeutet.

Datenschutzbehörden nehmen DeepSeek unter die Lupe

In Deutschland wächst der Widerstand gegen die Nutzung von DeepSeek. Der Datenschutzbeauftragte von Rheinland-Pfalz hat ein Prüfverfahren gegen die Anwendung eingeleitet. „Mehrere deutsche Datenschutzaufsichtsbehörden gehen voraussichtlich parallel vor“, erklärte eine Sprecherin.

Nach der EU-Datenschutzgrundverordnung (DSGVO) muss ein Unternehmen ohne Niederlassung in der EU zumindest eine offizielle Ansprechperson benennen. DeepSeek hat dies offenbar bisher nicht getan. Die italienische Datenschutzbehörde GDDP hat die KI daher bereits im Januar gesperrt.

Strenge Sicherheitsmaßnahmen in Behörden und Unternehmen

Angesichts der Risiken setzen deutsche Behörden und Unternehmen strenge Sicherheitsmaßnahmen um. Das Bundesinnenministerium hat generell die Nutzung externer Cloud-Dienste untersagt. Andere Ministerien wie das Finanz- und das Wirtschaftsministerium verbieten den Einsatz textgenerativer KIs für dienstliche Zwecke. Auch das Deutsche Patent- und Markenamt nutzt DeepSeek nicht, um Industriespionage zu vermeiden.

Große deutsche Konzerne gehen ebenfalls auf Nummer sicher. So erlaubt Siemens den Zugriff auf KI-Anwendungen nur über eigene gesicherte Systeme. BMW und BASF setzen ähnliche Schutzmaßnahmen um, um die eigenen Daten zu sichern. Besonders sensible Unternehmen, wie die Münchner Wacker Chemie, die Zuliefererin für die Chipindustrie ist, verbieten die Nutzung von DeepSeek auf allen Firmenrechnern und -geräten. (mit dpa)

Ein Beitrag von:

  • Dominik Hochwarth

    Redakteur beim VDI Verlag. Nach dem Studium absolvierte er eine Ausbildung zum Online-Redakteur, es folgten ein Volontariat und jeweils 10 Jahre als Webtexter für eine Internetagentur und einen Onlineshop. Seit September 2022 schreibt er für ingenieur.de.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.