KI und Datenschutz gehören für mich zusammen. Künstliche Intelligenz kann Arbeit unterstützen. Sie schafft aber auch neue Abhängigkeiten, Datenschutzrisiken und Prüfaufwand. Als TÜV-zertifizierter Datenschutzbeauftragter und Datenschutzmanager bin ich beim Einsatz von KI beratend, kontrollierend und prozessbegleitend tätig.

Ich plädiere für einen überlegten, niedrigschwelligen KI-Einsatz – und für den Aufbau einer eigenständigen digitalen Infrastruktur in Europa. Wenn Sie sich für meine Beratung zu KI und Datenschutz in Berlin und Brandenburg interessieren, finden Sie dort weitere Informationen zu meiner Unterstützung für Unternehmen, Vereine und Organisationen.

KI und Datenschutz: meine persönliche Haltung

Ich bin nicht grundsätzlich gegen künstliche Intelligenz. Ich nutze sie selbst, probiere verschiedene Systeme aus und sehe, dass sie bei klar begrenzten Aufgaben hilfreich sein kann. Doch bevor ein Unternehmen KI einsetzt, sollten Verantwortliche prüfen: Welche Daten werden verarbeitet? Wer kann darauf zugreifen? Wie lange bleiben sie gespeichert? Und was geschieht, wenn sich technische oder politische Rahmenbedingungen ändern?

Meine Aufgabe als externer Datenschutzbeauftragter ist es, Unternehmen beim Schutz personenbezogener Daten zu beraten. Dazu gehört auch, neue Anwendungen kritisch zu prüfen. Beim KI-Einsatz begleite ich Unternehmen beratend, kontrollierend und prozessbegleitend. KI sollte dort eingesetzt werden, wo ihr Nutzen nachvollziehbar ist und die Risiken beherrscht werden können.

Mein Ziel ist kein blinder Verzicht auf KI. Ich möchte Unternehmen dabei unterstützen, KI-Anwendungen niedrigschwellig, zweckgebunden und datenschutzbewusst einzuführen. Zugleich sollten sie erkennen, wann ein Einsatz mehr Risiken oder Arbeit schafft, als er einspart. Weitere Informationen zu meiner Tätigkeit als externer Datenschutzbeauftragter für Unternehmen finden Sie auf meiner Website.

Macht KI-Nutzung süchtig?

KI zu benutzen macht süchtig – das ist meine zugespitzte persönliche Beobachtung, keine medizinische Diagnose. Manche Menschen sprechen mit einem Chatbot, geben ihm einen persönlichen Namen wie „Chatty“ und erleben ihn beinahe wie einen Freund.

Eine Studie des MIT Media Lab untersuchte 404 regelmäßige Nutzerinnen und Nutzer von Begleit-Chatbots. Sie fand unterschiedliche Nutzungsmuster und mögliche Zusammenhänge mit Einsamkeit und problematischer Nutzung. Daraus lässt sich weder ableiten, dass KI allgemein süchtig macht, noch dass sie Einsamkeit verursacht. (Studie des MIT Media Lab zu Begleit-Chatbots.)

Ein Chatbot ist für mich ein Ding: ein technisches System, keine Persönlichkeit und kein Freund. Es kann verständnisvoll klingen, ohne selbst zu verstehen. Wer KI-Antworten verwendet, muss beurteilen können, ob sie stimmen. Dafür braucht es Fachwissen, klare Aufgaben und die Fähigkeit, Fehler zu erkennen. Eine überzeugend formulierte Antwort ist noch keine richtige Antwort.

Auch mehrere KI-Systeme miteinander zu vergleichen, kostet Zeit. Wenn ich verschiedene Ausgaben nebeneinanderlege und fachlich prüfe, kann der Aufwand ähnlich groß sein wie bei einer Bearbeitung ohne KI. Der Zeitgewinn entsteht also nicht automatisch. Ohne eigene Expertise, eine klare Fragestellung und sorgfältige Kontrolle kann KI zusätzliche Arbeit verursachen.

KI-Ausgaben fachlich prüfen

Das gilt besonders bei erfundenen oder falschen Angaben, die oft als „Halluzinationen“ bezeichnet werden. Auch Gerichte berichten von KI-gestützten Schriftsätzen mit überlangen Ausführungen und fehlerhaften oder unpassenden Fundstellen. Das Landessozialgericht Niedersachsen-Bremen führt gestiegene Verfahrenseingänge unter anderem auf KI-generierte Klagen zurück und beschreibt den zusätzlichen Aufwand. Diese Einschätzung bezieht sich auf die dortige Gerichtsbarkeit. Sie beweist nicht, dass KI allein überall steigende Fallzahlen verursacht. (Pressemitteilung des Landessozialgerichts Niedersachsen-Bremen.)

Ich frage mich, wie Behörden künftig mit sehr vielen KI-generierten E-Mails, Anträgen und Schreiben umgehen werden. Manche werden korrekt und gut vorbereitet sein. Andere können Fehler, unpassende Rechtsgrundlagen oder erfundene Behauptungen enthalten. Wenn die Zahl solcher Schreiben steigt, könnte der Prüf- und Antwortaufwand wachsen. Das sind meine Beobachtungen und Überlegungen, keine belegte Prognose über eine bestimmte Zahl.

KI spart nicht automatisch Arbeit. Sie kann Arbeit verlagern und im ungünstigen Fall neue Arbeit erzeugen, wenn Fehler wieder aufgelöst werden müssen.

Am Ende muss eine qualifizierte Fachperson mit Expertise in der jeweiligen Branche die Ausgabe der KI auf Richtigkeit, Vollständigkeit und Anwendbarkeit prüfen. Das gilt für rechtliche, medizinische, technische, kaufmännische und behördliche Inhalte ebenso wie für Datenschutzfragen. KI-generierte oder KI-überarbeitete Aussagen ersetzen diese fachliche Prüfung nicht.

KI und Datenschutz bei Trainingsdaten und Urheberrecht

Eine Eingabe in einen Chat wird nicht automatisch öffentlich oder automatisch zum Trainingsmaterial. Was mit Eingaben geschieht, hängt vom jeweiligen Anbieter, Dienst, Vertrag und den gewählten Einstellungen ab. OpenAI erklärt beispielsweise, dass Geschäftsdaten aus ChatGPT Business standardmäßig nicht zum Training seiner Modelle verwendet werden. Diese Aussage gilt für den beschriebenen Dienst und ist keine allgemeine Garantie für alle Anbieter oder jede Konfiguration. (OpenAI zu Datenschutz und Geschäftsdaten.)

Davon zu unterscheiden ist die Frage, mit welchen Werken KI-Modelle trainiert wurden. Trainingsdatensätze können urheberrechtlich geschützte Inhalte enthalten. Eine Studie des Europäischen Parlaments beschreibt rechtliche Unsicherheiten bei der Nutzung solcher Werke für das Training allgemeiner KI-Modelle.

Der AI Act verpflichtet Anbieter allgemeiner KI-Modelle unter anderem zu einer Urheberrechtspolitik und einer öffentlichen Zusammenfassung der Trainingsinhalte. Diese Transparenzpflichten entscheiden nicht pauschal darüber, ob jede einzelne Nutzung eines Werkes rechtmäßig war. (Studie des Europäischen Parlaments zum Urheberrecht und KI-Training; Europäische Kommission zu den Pflichten für allgemeine KI-Modelle.)

Bei vertraulichen Forschungs- und Entwicklungsprojekten frage ich mich außerdem, was passieren könnte, wenn Chat-Inhalte durch eine Datenpanne oder einen anderen Vorfall Unbefugten zugänglich würden. Dann könnten Geschäftsgeheimnisse, Forschungsergebnisse oder persönliche Informationen offengelegt werden. Denkbar wäre auch, dass vertrauliche Ideen in einem Wettbewerbskontext auftauchen.

Das ist ein Risikoszenario, kein Beleg dafür, dass Anbieter Chats systematisch auslesen oder dass auf diesem Weg Patente gestohlen wurden. Gerade deshalb sollten Unternehmen sensible Forschungsdaten nicht ungeprüft in externe KI-Dienste eingeben.

Chats löschen und den KI-Anbieter wechseln

Auch beim Löschen von Chats bleiben Fragen offen. In meiner Nutzung ist mir aufgefallen, dass sich einzelne Unterhaltungen nicht immer gesammelt auswählen und löschen lassen. Was eine Löschfunktion tatsächlich bewirkt und welche Aufbewahrungsfristen gelten, muss für den jeweiligen Dienst geprüft werden. Eine sichtbare Löschmöglichkeit allein beantwortet nicht automatisch, ob Daten auch aus Sicherungen oder anderen Systemen entfernt sind.

Der Wechsel zu einem anderen Anbieter kann ebenfalls aufwendig sein. Der EU Data Act soll den Wechsel zwischen Cloud- und Datenverarbeitungsdiensten erleichtern und gilt seit dem 12. September 2025. Daraus folgt aber nicht, dass sich Chatverläufe, Projekte, Einstellungen oder angebundene Wissensbestände bei jedem Anbieter vollständig und verlustfrei übertragen lassen. Das muss im konkreten Fall geprüft werden. (Europäische Kommission zum Data Act und Anbieterwechsel.)

US-Anbieter, Dekrete und mögliche politische Konflikte

Viele wichtige digitale Dienste werden von Unternehmen außerhalb Europas betrieben, insbesondere von US-amerikanischen Anbietern. Ich behaupte nicht, ein Dekret könne automatisch europäische Gesetze und Verträge außer Kraft setzen. Artikel 48 DSGVO regelt den Umgang mit Entscheidungen von Gerichten und Behörden aus Drittstaaten. Der Europäische Datenschutzausschuss erläutert, dass solche Entscheidungen nicht ohne Weiteres in der EU anerkannt oder vollstreckt werden können. Wie die Regeln in einem konkreten Konflikt wirken, müsste juristisch geprüft werden. (Amtlicher DSGVO-Text bei EUR-Lex; Leitlinien des Europäischen Datenschutzausschusses zu Artikel 48.)

Meine Sorge ist die praktische Unsicherheit: Selbst wenn europäische Vorschriften weiter gelten, kann ein Konflikt zwischen Rechtsordnungen, Anbieterpflichten und der tatsächlichen Verfügbarkeit eines Dienstes Unternehmen vor erhebliche Probleme stellen. Das betrifft auch die Frage, wie Auftragsverarbeitungsverträge und Vertraulichkeitsverpflichtungen in einer konkreten Auseinandersetzung zu bewerten wären. Sollte ein politischer oder rechtlicher Konflikt dazu führen, dass ein Anbieter seinen Dienst einschränkt oder abschaltet, könnten Unternehmen möglicherweise nicht mehr auf ihre gewohnten Abläufe und Daten zugreifen.

In einem solchen Worst-Case-Szenario könnten interne Korrespondenzen, Geschäftsgeheimnisse oder persönliche Informationen Unbefugten zugänglich werden – möglicherweise auch staatlichen Stellen oder Geheimdiensten. Die NSA ist ein Beispiel, vor dem Menschen Sorge haben können. Ich kenne jedoch keinen Beleg dafür, dass sie pauschal Zugriff auf sämtliche Chats bei US-Anbietern hat. Eine mögliche behördliche Datenanforderung ist nicht dasselbe wie ein nachgewiesener allgemeiner Zugriff auf alle Chats.

Ich frage mich außerdem, ob veröffentlichte oder zugänglich gewordene Online-Äußerungen künftig bei einer Einreise in die USA eine Rolle spielen könnten. Für bestimmte Visa, darunter Studenten- und Austauschvisa, hat das US-Außenministerium eine Prüfung der Online-Präsenz angekündigt. Das belegt nicht, dass Reisende allgemein wegen KI-Chats oder Plattformbeiträgen regelmäßig abgewiesen werden. Eine solche allgemeine Praxis behaupte ich nicht. (Mitteilung des US-Außenministeriums zur erweiterten Prüfung von Visumanträgen; Bericht der Tagesschau zu Studierendenvisa.)

Starlink und die Abhängigkeit von einzelnen Anbietern

Wie abhängig ein Land von einem einzelnen Anbieter werden kann, zeigt für mich auch der Krieg in der Ukraine. Im Oktober 2026 berichtete die Associated Press über eine Geschwindigkeitsbegrenzung im militärischen Satellitennetz Starshield. Ukrainische Stellen erklärten, die Einschränkung habe bestimmte Drohneneinsätze beeinträchtigt. Das war keine vollständige Abschaltung aller Starlink-Dienste. (Bericht der Associated Press zu Starshield und der Ukraine.)

Der Vorgang macht dennoch deutlich, wie verwundbar kritische Abläufe sein können, wenn eine wichtige Infrastruktur von einem Anbieter abhängt, dessen Entscheidungen man nicht selbst kontrolliert.

Chinesische KI-Plattformen in Europa

Auch chinesische KI-Angebote könnten in Europa künftig stärker Fuß fassen, etwa durch niedrige Kosten oder leistungsfähige Modelle. Aktuelle Zahlen von Bitkom Research zeigen allerdings, dass DeepSeek und Qwen unter den dort befragten KI-nutzenden Unternehmen bislang nur wenig verbreitet sind. Diese Unternehmensbefragung sagt nichts über die gesamte Bevölkerung aus.

Zugleich bewertete die Berliner Datenschutzbeauftragte 2025 die Datenübermittlung der DeepSeek-App nach China als rechtswidrig. Diese behördliche Bewertung betrifft den konkreten Fall und bedeutet nicht, dass jeder chinesische Dienst gleich zu beurteilen wäre. Sie zeigt aber, wie wichtig es ist, Anbieter, Datenflüsse und Rechtsgrundlagen einzeln zu prüfen. (Bitkom Research zur Nutzung chinesischer KI in Unternehmen; Berliner Datenschutzbeauftragte zu DeepSeek.)

KI und Datenschutz: mögliche Folgen für den Arbeitsmarkt

Auch für den Arbeitsmarkt sind unterschiedliche Entwicklungen denkbar. Unternehmen könnten kurzfristig Stellen abbauen oder weniger Personal einstellen, weil sie sich von KI Einsparungen versprechen. Fällt ein Dienst später aus oder wird er zu teuer, könnten Wissen und Fähigkeiten fehlen, die zuvor durch Automatisierung verdrängt wurden. Dann müssten Aufgaben wieder von Menschen übernommen werden. Das ist ein mögliches Szenario, keine gesicherte Vorhersage.

Die Internationale Arbeitsorganisation hält eine Veränderung von Tätigkeiten für wahrscheinlicher als die vollständige Ersetzung ganzer Berufe. Wie sich das auswirkt, hängt von Branche, Aufgaben und Art der Einführung ab. (ILO-Bericht zu generativer KI und Beschäftigung.)

Warum Europa eigene KI und digitale Infrastruktur braucht

Für mich folgt daraus nicht, dass wir jede KI ablehnen müssen. Europa muss aber eigene digitale Infrastruktur und leistungsfähige KI-Systeme aufbauen, damit Unternehmen und öffentliche Stellen nicht vollständig von einzelnen Anbietern oder Staaten abhängig sind. Das wird nicht kurzfristig gelingen und bedeutet mehr als nur ein eigenes Modell. Dazu gehören auch Rechenkapazitäten, Fachkräfte, sichere Datenräume und verlässliche Betriebsstrukturen.

Mein praktischer Rat an Unternehmen lautet: Beginnen Sie dort, wo der Nutzen klar und das Risiko überschaubar ist. Geben Sie sensible Daten nicht ungeprüft in beliebige Dienste ein. Prüfen Sie vor dem Einsatz Anbieter, Datenflüsse, Speicherorte, Löschmöglichkeiten, Verträge und Ausweichmöglichkeiten. Legen Sie außerdem fest, wie wichtige Abläufe ohne den jeweiligen Dienst weitergeführt werden können.

KI und Datenschutz gehören deshalb in jede verantwortungsvolle Einführung von KI. Die Ausgabe muss am Ende eine qualifizierte Fachperson mit Expertise in der jeweiligen Branche auf Richtigkeit, Vollständigkeit und Anwendbarkeit prüfen. KI kann Arbeit unterstützen. Die fachliche Verantwortung kann sie nicht übernehmen.