Konsultation zum datenschutzkonformen Umgang mit personenbezogenen Daten in KI-Modellen
Hier finden Sie alle Informationen zum aktuellen Konsulatationsverfahren der BfDI zum datenschutzkonformen Umgang mit personenbezogenen Daten in KI-Modellen. Die Frist zur Stellungnahme endet am 31. August 2025.
Das Konsultationspapier mit den Konsultationsfragen können Sie auch als PDF-Dokument herunterladen.
Hintergrund der Konsultation
KI-Modelle, insbesondere große Sprachmodelle (LLMs), werden mit teils enormen Datenmengen trainiert. Darunter befinden sich häufig personenbezogene Daten. Der Europäische Datenschutzausschuss (EDSA) hat in seiner Stellungnahme 28/2024 vom 18. Dezember 2024 festgestellt, dass KI-Modelle personenbezogene Daten enthalten können, wenn sie mit personenbezogenen Daten trainiert wurden. Im Diskurs wird dies häufig als Memorisierung bezeichnet (Der Begriff der Memorisierung ist für den Zweck der vorliegenden Konsultation bewusst weiter gefasst als das allgemein anerkannte wissenschaftliche Verständnis und umfasst zusätzlich zu wortwörtlich reproduzierten Trainingsdaten auch sinngemäße Reproduktionen, da diese ebenfalls datenschutzrechtlich relevant sind, sofern sie zur Identifizierung einer Person beitragen.).
Diese Feststellung wirft bedeutende Fragen im Hinblick auf den Schutz personenbezogener Daten auf. Die BfDI sieht die Notwendigkeit, datenschutzrechtliche Herausforderungen bei der Planung, dem Training und der Nutzung solcher Modelle systematisch zu adressieren.
Ziel der Konsultation
In Anerkennung der technischen und rechtlichen Komplexität ist es Ziel der Konsultation, konkrete praktische Erfahrungen, technische Einschätzungen und normative Überlegungen von Akteurinnen aus verschiedenen Bereichen einzuholen. Der Schwerpunkt der Betrachtung liegt hierbei auf großen Sprachmodellen. Wenn im weiteren Verlauf von KI-Modellen die Rede ist, sind immer große Sprachmodelle gemeint.
Die Ergebnisse der Konsultation sollen zur Entwicklung von datenschutzkonformen Ansätzen im Umgang mit memorisierten Daten beitragen. Die wesentlichen Ergebnisse werden in einem Konsultationsbericht zusammengefasst, der auf der Website der BfDI veröffentlicht wird.
Die BfDI lädt alle Interessierten ein, zur Diskussion beizutragen, insbesondere Vertretende aus Wissenschaft, Wirtschaft und Zivilgesellschaft.
Einreichung von Stellungnahmen
Bitte senden Sie Ihre Beiträge bis spätestens zum 31. August 2025 an:
Konsultation2025@bfdi.bund.de
Später eingehende Stellungnahmen können aus verfahrensorganisatorischen Gründen ggfs. nicht berücksichtigt werden.
Bitte beachten Sie, dass die eingegangenen Stellungnahmen auf der Website der BfDI veröffentlicht werden sollen. Bitte teilen Sie mit, ob Sie mit der Veröffentlichung der darin ggfs. enthaltenen personenbezogenen Daten einverstanden sind. Andernfalls werden die personenbezogenen Daten geschwärzt. Anonyme Antworten sind ebenfalls möglich.
Weitere Informationen
Diese Konsultation stellt keine Vorfestlegung dar, sondern dient ausschließlich dem Informationsgewinn über die technischen und rechtlichen Aspekte im Umgang mit personenbezogenen Daten in KI-Modellen.