Der Landesdatenschutz Bayern hat in seiner Reihe AI in A Nutshell neue Guidelines zur Verfügung gestellt, um den Umgang mit KI Systemen datenschutzkonform zu gestallten und durchzuführen.
KI-Systeme zur Schreibassistenz
Kurzfassung – AI in a Nutshell 5: KI-Systeme zur Schreibassistenz
Das Dokument beschreibt den Einsatz von KI-Schreibassistenten in öffentlichen Stellen. Solche Systeme können beim Erstellen, Umformulieren, Übersetzen, Strukturieren, Korrigieren und Zusammenfassen von Texten unterstützen. Im Gegensatz zu klassischen Rechtschreibhilfen erzeugen moderne Sprachmodelle eigenständig neue Texte und können Inhalte zielgruppengerecht anpassen. Typische Anwendungsfälle sind E‑Mails, Briefe, Stellungnahmen, Vermerke oder Protokolle.
Aus Datenschutzsicht müssen KI-Systeme vor der Nutzung offiziell freigegeben, Beschäftigte geschult und eine Weiterverwendung eingegebener Daten zum Nachtraining möglichst ausgeschlossen werden. Personenbezogene oder vertrauliche Daten sollten nur mit entsprechender Rechtsgrundlage und möglichst anonymisiert verarbeitet werden. KI-Ergebnisse müssen stets auf Richtigkeit, Aktualität und Vollständigkeit geprüft werden, da Halluzinationen und Fehlinformationen möglich sind. Zudem ist zu prüfen, ob eine Kennzeichnungspflicht für KI-generierte Inhalte nach der KI-Verordnung besteht.
Download:
https://www.datenschutz-bayern.de/ki/AI_nut_05.pdf
KI-Systeme zur Recherche-Unterstützung
Kurzfassung – AI in a Nutshell 4: KI-Systeme zur Recherche-Unterstützung
Das Dokument beschreibt KI-gestützte Recherchesysteme, die große Datenmengen aus Dokumenten, E-Mails, Akten, Datenbanken oder Registern durchsuchen und Informationen schneller auffindbar machen. Im Unterschied zu klassischen Suchmaschinen können sie Zusammenhänge erkennen, mehrsprachig recherchieren, Informationen aus verschiedenen Quellen zusammenführen und zielgruppengerechte Zusammenfassungen erstellen. Typische Anwendungsfälle sind die Recherche zu Fachthemen, das Auffinden relevanter Dokumente oder die Auswertung interner Informationsbestände.
Aus Datenschutzsicht müssen solche Systeme freigegeben, Beschäftigte geschult und eine Nutzung der Eingaben zum Nachtraining möglichst ausgeschlossen werden. Personenbezogene oder vertrauliche Daten sollten nur mit entsprechender Rechtsgrundlage und möglichst anonymisiert verarbeitet werden. KI-Ergebnisse müssen vor der Verwendung auf Richtigkeit, Aktualität und Vollständigkeit geprüft werden, da auch Recherche-KI falsche oder erfundene Informationen („Halluzinationen“) liefern kann. Zudem ist zu prüfen, ob für unverändert übernommene KI-generierte Inhalte eine Kennzeichnungspflicht nach der KI-Verordnung besteht.
Download: https://www.datenschutz-bayern.de/ki/AI_nut_04.pdf
