Chinesische KI 12.02.2025, 07:48 Uhr

DeepSeek in der Kritik: Datenschutz und Spionageverdacht

Die chinesische KI DeepSeek steht wegen Datenschutzproblemen, Cybergefahren und möglicher Spionage im Fokus. Behörden und Firmen reagieren mit strengen Maßnahmen.

DeepSeek

Die chinesische KI DeepSeek zählt zu den populären Anwendungen in den App Stores von Apple und Google. Sicherheitsbehörden, Datenschützer und Cyberfachleute sehen erhebliche Risiken.

Foto: PantherMedia / azskarthak@gmail.com

Die KI-Anwendung DeepSeek hat sich rasant zu einer der meistgenutzten Applikationen in deutschen App Stores entwickelt. Doch Sicherheitsbehörden und Datenschutzexperten schlagen Alarm: Sie sehen gravierende Risiken durch die umfangreiche Speicherung von Nutzerdaten, die leichte Manipulierbarkeit der KI und die mögliche Einflussnahme durch chinesische Behörden.

Umfangreiche Erfassung von Nutzereingaben

Ein zentrales Problem stellt die Speicherung von Nutzereingaben dar. DeepSeek protokolliert nach eigenen Datenschutzrichtlinien „Tastatureingabemuster oder -rhythmen“. Solche Daten erlauben es, Nutzerinnen und Nutzer anhand individueller Tippmuster zu identifizieren.

Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) könnte DeepSeek sogar eingegebene Texte mitlesen, bevor sie abgeschickt werden. Eine Sprecherin des BSI erklärte gegenüber der dpa: „Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden.“

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
Bundesamt für Bauwesen und Raumordnung (BBR)-Firmenlogo
Ingenieurinnen / Ingenieure (w/m/d) für Elektro- bzw. Informationstechnik Bundesamt für Bauwesen und Raumordnung (BBR)
Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER-Firmenlogo
Ingenieur (m/w/d) Elektrotechnik als Projektleiter Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER
Hamburg Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Wirtschaftsjurist*in / Ingenieur*in (m/w/d) für Contract & Claimsmanagement in Projektender Energiewende THOST Projektmanagement GmbH
Stuttgart, Mannheim Zum Job 
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
Leibniz-Institut für Ostseeforschung Warnemünde (IOW)-Firmenlogo
Ingenieurstelle in der Abteilung Physikalische Ozeanographie Leibniz-Institut für Ostseeforschung Warnemünde (IOW)
Rostock Zum Job 
TransnetBW GmbH-Firmenlogo
Ingenieur Qualitätssicherung Netzbauprojekte - Energieversorgung (m/w/d) TransnetBW GmbH
Wendlingen am Neckar Zum Job 
IMS Messsysteme GmbH-Firmenlogo
Systemingenieur (m/w/i) für Oberflächeninspektion IMS Messsysteme GmbH
Heiligenhaus Zum Job 
Menlo Systems GmbH-Firmenlogo
Ingenieur / Physiker (m/w/d) für Service und Support Menlo Systems GmbH
Planegg Zum Job 
Elektroenergieversorgung Cottbus GmbH-Firmenlogo
Ingenieur für Energienetzbetrieb (m/w/d) Elektroenergieversorgung Cottbus GmbH
Cottbus Zum Job 
fbw | Fernwärmegesellschaft Baden-Württemberg mbH-Firmenlogo
Elektroingenieur (m/w/d) (Ingenieur für Elektrotechnik, Energie- oder Versorgungstechnik o. ä.) fbw | Fernwärmegesellschaft Baden-Württemberg mbH
Stuttgart Zum Job 
Varex Imaging Deutschland AG-Firmenlogo
Elektroniker ( m/w/d) oder Mechatroniker (m/w/d) als Teamleitung im Bereich Messtechnik Varex Imaging Deutschland AG
B. Braun Melsungen AG-Firmenlogo
Head of (w/m/d) Portfolio Development Team Pain Therapy B. Braun Melsungen AG
Melsungen Zum Job 
STAWAG - Stadt und Städteregionswerke Aachen AG-Firmenlogo
Betriebsingenieur:in Wärmeanlagen (m/w/d) STAWAG - Stadt und Städteregionswerke Aachen AG
Wirtgen GmbH-Firmenlogo
Software-Testingenieur (m/w/d) Testautomatisierung -Steuerungssoftware für mobile Arbeitsmaschinen Wirtgen GmbH
Windhagen Zum Job 
B. Braun Melsungen AG-Firmenlogo
Projektingenieur (w/m/d) Global Quality Systems B. Braun Melsungen AG
Melsungen Zum Job 
B. Braun Melsungen AG-Firmenlogo
R&D Manager (w/m/d) Process Design B. Braun Melsungen AG
Melsungen Zum Job 
Safran Data Systems GmbH-Firmenlogo
Embedded Software Engineer (m/w/d) Safran Data Systems GmbH
Bergisch Gladbach Zum Job 
naturenergie netze GmbH-Firmenlogo
Meister / Techniker - Steuerungstechnik (m/w/d) naturenergie netze GmbH
Rheinfelden, Donaueschingen Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Ingenieur*in / Architekt*in / Bauleiter*in (m/w/d) für Großprojekte der Bereiche Infrastruktur (Freileitung, Kabeltiefbau, Bahn) THOST Projektmanagement GmbH
verschiedene Standorte Zum Job 
BG ETEM-Firmenlogo
Ingenieur/in (m/w/d) als Referent/in für die Branche Elektrotechnische Industrie BG ETEM

Gefahr durch Nutzerprofile und Identifizierung

Diese Art der Datensammlung ermöglicht eine Analyse von Schreibmustern. Künstliche Intelligenz kann daraus individuelle Nutzerprofile erstellen und wiedererkennen. Das BSI stuft diese Technologie besonders für sicherheitskritische Bereiche als problematisch ein.

Im Gegensatz dazu versprechen westliche KI-Anbieter wie OpenAI, keine personenbezogenen Daten gezielt zu sammeln oder für Profilbildung zu nutzen. Doch auch hier bestehen Datenschutzrisiken, etwa durch den US Cloud Act, der US-Behörden Zugriff auf Daten von Unternehmen gewährt, unabhängig vom Speicherort.

DeepSeek als potenzielles Werkzeug für Cyberkriminelle

Eine weitere Gefahr ergibt sich aus der leichten Manipulierbarkeit von DeepSeek. Forschende des Cybersicherheitsunternehmens Palo Alto Networks konnten die KI mit bestimmten Befehlen dazu bringen, Skripte für den Diebstahl von Daten aus Mails und Dokumenten zu generieren. Laut Sam Rubin, Leiter der Bedrohungsanalyse des Unternehmens, war es sogar möglich, DeepSeek zur Erstellung von Keylogger-Software zu bewegen. „Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen, um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte“, so Rubin.

In der Software-Branche bezeichnet man das Umgehen von Sicherheitsvorkehrungen als „Jailbreaking“. Während andere KI-Modelle Schutzmechanismen gegen Missbrauch besitzen, fehlen diese bei DeepSeek weitgehend, was es Cyberkriminellen besonders einfach macht, die Software für illegale Zwecke zu nutzen.

Verbindung zur chinesischen Regierung?

Zusätzlich zu den technischen Sicherheitsbedenken kommt die politische Dimension. DeepSeek ist nach chinesischem Recht verpflichtet, alle Nutzerdaten innerhalb der Volksrepublik zu speichern.

Das chinesische Geheimdienstgesetz sieht zudem vor, dass Unternehmen und Bürgerinnen und Bürger mit den Sicherheitsbehörden kooperieren müssen. Kritische Stimmen befürchten, dass dies de facto einen ungehinderten Zugriff des chinesischen Staates auf alle gespeicherten Daten bedeutet.

Datenschutzbehörden nehmen DeepSeek unter die Lupe

In Deutschland wächst der Widerstand gegen die Nutzung von DeepSeek. Der Datenschutzbeauftragte von Rheinland-Pfalz hat ein Prüfverfahren gegen die Anwendung eingeleitet. „Mehrere deutsche Datenschutzaufsichtsbehörden gehen voraussichtlich parallel vor“, erklärte eine Sprecherin.

Nach der EU-Datenschutzgrundverordnung (DSGVO) muss ein Unternehmen ohne Niederlassung in der EU zumindest eine offizielle Ansprechperson benennen. DeepSeek hat dies offenbar bisher nicht getan. Die italienische Datenschutzbehörde GDDP hat die KI daher bereits im Januar gesperrt.

Strenge Sicherheitsmaßnahmen in Behörden und Unternehmen

Angesichts der Risiken setzen deutsche Behörden und Unternehmen strenge Sicherheitsmaßnahmen um. Das Bundesinnenministerium hat generell die Nutzung externer Cloud-Dienste untersagt. Andere Ministerien wie das Finanz- und das Wirtschaftsministerium verbieten den Einsatz textgenerativer KIs für dienstliche Zwecke. Auch das Deutsche Patent- und Markenamt nutzt DeepSeek nicht, um Industriespionage zu vermeiden.

Große deutsche Konzerne gehen ebenfalls auf Nummer sicher. So erlaubt Siemens den Zugriff auf KI-Anwendungen nur über eigene gesicherte Systeme. BMW und BASF setzen ähnliche Schutzmaßnahmen um, um die eigenen Daten zu sichern. Besonders sensible Unternehmen, wie die Münchner Wacker Chemie, die Zuliefererin für die Chipindustrie ist, verbieten die Nutzung von DeepSeek auf allen Firmenrechnern und -geräten. (mit dpa)

Ein Beitrag von:

  • Dominik Hochwarth

    Redakteur beim VDI Verlag. Nach dem Studium absolvierte er eine Ausbildung zum Online-Redakteur, es folgten ein Volontariat und jeweils 10 Jahre als Webtexter für eine Internetagentur und einen Onlineshop. Seit September 2022 schreibt er für ingenieur.de.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.