Enorme Sicherheitsbedenken gegen chinesische KI Deepseek
Sowohl Behörden als auch Fachleute für Cybersicherheit haben zahlreiche schwerwiegende Sicherheitsbedenken bezüglich der chinesischen KI Deepseek geäussert.
Das Wichtigste in Kürze
- Die chinesische KI Deepseek wirft massive Sicherheitsfragen auf.
- Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben.
- Laut einer Untersuchung lässt sich die KI-App leicht für kriminelle Zwecke manipulieren.
Behörden und Cybersicherheitsfachleute haben gravierende Sicherheitsbedenken gegen die chinesische KI Deepseek geäussert.
Dabei geht es um mehrere Punkte: die offenkundig sehr weitreichende Speicherung von Nutzerdaten, die mögliche Manipulierbarkeit der Anwendung für kriminelle Zwecke.
Die Frage, inwieweit der chinesische Spionage- und Überwachungsapparat Zugriff auf Nutzerdaten hat.
KI kann wohl Texte lesen, bevor sie abgeschickt werden
Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben.
Deepseek informiert in seinen Datenschutzhinweisen darüber: dass «Tastatureingabemuster oder -rhythmen» (keystroke patterns or rhythms) erfasst werden. Ein Verfahren, das zur Identifizierung von Nutzern eingesetzt werden kann.
«Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden.»
Das sagt eine Sprecherin des deutschen Bundesamts für Sicherheit in der Informationstechnik (BSI) auf Anfrage der deutschen Nachrichtenagentur DPA.
Deepseek hat sich seit der Veröffentlichung zu einer der beliebtesten KI-Anwendungen in den App-Stores von Apple und Google entwickelt.
«Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert.»
Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz Nutzprofile erstellt und wiedererkannt werden.
Fazit: «Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich.»
Untersuchung: Manipulation für kriminelle Zwecke
Die etablierte US-Konkurrenz von Open AI hingegen sichert zu, nicht aktiv nach persönlichen Daten zu suchen. Und keine öffentlichen Daten im Internet zum Aufbau persönlicher Profile zu verwenden.
Allerdings gibt es auch ein US-Gesetz – den Cloud Act: Es verpflichtet amerikanische Firmen, den Behörden Zugriff auf im Ausland gespeicherte Daten zu gewähren.
Ein «Keylogger» ist die Speicherung von Eingabemustern oder -rhythmen durch Deepseek nach Einschätzung des Experten Rüdiger Trost zwar nicht.
Diesen verwenden kriminelle Hacker und Geheimdienste zum Ausspionieren von Passwörtern und Zugangs-Daten.
«Hier muss man unterscheiden: Ein Keylogger schneidet alles mit, was über die Tastatur eingegeben wird.» Das sagt der Fachmann, der für den Cybersicherheitdienstleister WithSecure arbeitet.
«Das ist etwas Anderes als ein Prompt in einem GenAI Tool oder im Allgemeinen eine Sucheingabe in einem Browser.»
Doch in einer Untersuchung des grossen US-Cybersicherheitsdienstleisters Palo Alto Networks liess sich Deepseek leicht für kriminelle Zwecke manipulieren. Das berichtet Sam Rubin, Leiter der Bedrohungsanalyse und -beratung des Unternehmens.
So brachten die Cyberfachleute Deepseek mithilfe der «richtigen Prompts» dazu: ein Skript zur Auslese von Daten aus E-Mails und Word-Dateien zu erzeugen.
Derartige Skripts werden von Hackern genutzt, um Daten zu stehlen. Mit zusätzlichen Prompts habe Deepseek ausserdem tatsächlich «Keylogger Code» produziert, wie Rubin auf Anfrage sagte.
Deepseek muss in EU gesetzlichen Vertreter benennen
Das erfolgreiche Aushebeln von Sicherheitsvorkehrungen heisst in der Software-Branche «Jailbreaking» – Gefängnisausbruch. Laut Palo Alto Networks fehlen Deepseek die Schutzplanken anderer KI-Modelle.
«Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen. Um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte», sagt Rubin.
Ganz abgesehen davon ist Deepseek nach chinesischem Recht verpflichtet, sämtliche Daten in der Volksrepublik zu speichern.
Das chinesische Geheimdienstgesetz wiederum verpflichtet Bevölkerung und Organisationen zur Kooperation mit den Sicherheitsbehörden.
Deutsche bereiten Verfahren gegen China-KI vor
Der Gummiparagraf wird von etlichen China-Beobachtern als Zugriffsrecht des Spionageapparats auf sämtliche in der Volksrepublik gespeicherten Daten interpretiert.
Derzeit bereitet der Datenschutzbeauftragte des deutschen Bundeslands Rheinland-Pfalz ein Prüfverfahren gegen Deepseek vor.
«Mehrere deutsche Datenschutzaufsichtsbehörden gehen voraussichtlich parallel vor», sagte eine Sprecherin auf Anfrage.
Laut EU-Datenschutzgrundverordnung muss ein Unternehmen ohne Niederlassung in der EU zumindest einen gesetzlichen Vertreter benennen. Was Deepseek bislang offenbar nicht getan hat.
«Das Fehlen eines gesetzlichen Vertreters stellt an sich schon einen Verstoss gegen die Datenschutz-Grundverordnung dar.» Dies «kann mit Bussgeld geahndet werden», sagt die Sprecherin.
Die italienische Datenschutzbehörde GDDP hat die chinesische KI bereits Ende Januar auf den Index gesetzt. Deepseek liess eine DPA-Anfrage zu den verschiedenen Kritikpunkten zunächst unbeantwortet.
