KI-Modelle nach der KVKK trainieren: Rechtliche Anforderungen an Datensätze

⏱️ Lesezeit: 13 min · 📁 Kategorie: KVKK & Künstliche Intelligenz

KI-Modelle nach der KVKK trainieren: Rechtliche Anforderungen an Datensätze

Die Ausbildung von KI-Modellen ist nicht nur ein technischer Prozess;
Es ist direkt mit der Verarbeitung, Übertragung, Konvertierung und Vervielfältigung personenbezogener Daten verbunden.

Seit 2025 prüfen KVKK und internationale Datenschutzbehörden die Rechtsgrundlagen, Anonymitätsgrade und Ausgaberisiken von Trainingsdatensätzen genauer.

Organisationen, die KI entwickeln, externe KI-Modelle nutzen oder Datensätze bereitstellen, müssen trainingsspezifische KVKK-Risiken erkennen und geeignete Rechtsmechanismen schaffen.

DPA-Entscheidungen 2025 sanktionierten zahlreiche Unternehmen wegen KVKK/DSGVO-Verstößen, da Trainingsdaten nicht anonym waren. 1. Was sind personenbezogene Daten im Modelltrainingsprozess? Wo beginnt es?

Jeder Datensatz, der in AI-Modellen verwendet wird, ist nicht automatisch anonym. In Bezug auf KVKK können "personenbezogene Daten" auf drei Ebenen in der Modellbildung auftreten:

1) Direkte Kennungsdaten

• Name, Nachname
• Telefonnummer
• TC-ID Nr.
• IP-Adresse

2) Indirekte Identifierdaten

• Standortdaten
• Cookie-ID
• Verhaltensprotokolle
• Soziale Medien

3) Reversible Daten aus dem Modell (Modell-Inversionsrisikozone)

• Muster zu Personen aus den Trainingsdaten des Modells erschließen
• Schlussfolgerung zur Mitgliedschaft: Verstehen, ob eine Person in das Trainingsset einbezogen ist

Anonyme Daten ≠ maskierte Daten. Echte Anonymität erfordert Unumkehrbarkeit. 2. Anonyme Daten - Trennung von personenbezogenen Daten: Kritische Punkte für Modellbildung

Obwohl für KI-Modelle verwendete Datensätze oft als "anonymisiert" bezeichnet werden, ist Anonymität nach KVKK nur unter folgenden Bedingungen möglich:

• Daten dürfen nicht mehr mit jemandem assoziiert werden
• Es muss gegen Umkehrtechniken resistent sein
• Die betroffene Person sollte nicht aus Modellergebnissen erreicht werden.
• Eine Reidentifizierung muss trotz technischen Fortschritts unwahrscheinlich bleiben.

Sind diese Voraussetzungen nicht erfüllt, gelten die Daten weiterhin als "personenbezogene Daten" und unterliegen den Bestimmungen der KVKK.

Wegen Modellinversion und Membership Inference gelten viele Datensätze praktisch nicht als anonym. 3. Rechtliche Grundlage für KI-Modellschulungen nach KVKK

Die Ausbildung von KI-Modellen muss mit einem der rechtlichen Gründe unter KVKK m.5 und m.6 erfolgen.

A) ausdrückliche Einwilligung (nicht sicher für alle Situationen)

• Benutzer müssen Modellschulungen ausdrücklich genehmigen
• Einwilligungswiderruf wirkt auf das Modell → erneutes Training erforderlich
• Nachhaltigkeit in der Praxis ist schwierig

B) Erforderlichkeit zur Vertragserfüllung

• Kann gelten, wenn Modelltraining zur Dienstleistung erforderlich ist
• Nicht jedes Modell tritt in diese Berichterstattung ein

C) berechtigtes Interesse (am häufigsten angewandte, aber riskantste Basis)

• Balance Testing (LIA - Legitimate Interest Assessment) ist obligatorisch
• Benutzerrechte dürfen nicht übermäßig eingeschränkt werden

D) Offensichtlich öffentlich gemachte Daten

• Social Media-Daten geben diese Berichterstattung nicht ein -> noch in KVKK-Schutz

E) Verarbeitung besonderer Datenkategorien

• Ohne ausdrückliche Einwilligung nicht verarbeitet werden können
• Die Verwendung biometrischer oder gesundheitsbezogener Daten in der Modellausbildung ist ein sehr hohes Risiko.

Fehlende LIA- und DPIA-Berichte waren ein Hauptthema bei KVKK-Prüfungen 2025. 4. Modelltrainingsrisiken: Beurteilung in Bezug auf KVKK

Die Hauptrisiken, die beim Training von AI-Modellen auftreten, sind:

1) Inversionsangriff des Modells

• Im Training verwendete personenbezogene Daten aus dem Modell erschließen

2) Mitgliedschaft Schlussfolgerung Angriff

• Verständnis, ob eine bestimmte Person in den Schulungssatz aufgenommen wird

3) Überlernen (im Modell „eingebrannte“ Daten)

• Die Daten des Modells können nicht "vergessen" werden -> KVKK m.4 Verletzung (verknüpft mit ihrem beabsichtigten Zweck)

4) Grenzüberschreitende Datenübertragung

• Verarbeitung von Daten im Ausland für Modellbildung
• EU/US-Server → kein Angemessenheitsbeschluss

5) Bereitstellung des Datensatzes von Dritten

• Unklare Datenherkunft → Haftung für rechtswidrig verarbeitete Daten

Für alle Daten, die in der KI-Ausbildung verwendet werden, ist der Verantwortliche verantwortlich. "Der Datensatz ist eingetroffen" ist keine Entschuldigung. 5. Wie sollte ein KI-Trainingsprozess für KVKK aussehen?

Die technischen und rechtlichen Prozesse für die KVKK-Compliance müssen in integrierter Form durchgeführt werden:

A) Dateninventar und Herkunftsprüfung

• Es muss dokumentiert werden, woher der Datensatz stammt
• Vertrag + technische Kontrolle für Datenanbieter Dritter

B) DPIA - Datenschutz-Wirkungsanalyse

• Risiken vor der Modellausbildung sollten analysiert werden
• Wenn ein hohes Risiko besteht, kann die Zustimmung verpflichtend werden

C) LIA – Interessenabwägung

• Notwendigkeit und Verhältnismäßigkeit des Modells prüfen

D) Echte Anonymität und Verwendung synthetischer Daten

• Synthetische Daten werden in Risikobereichen empfohlen
• Anonymität muss unumkehrbar sein

E) Audit Trail (Control Trail) Installation

• Es sollte aufgezeichnet werden, wenn das Modell mit welchen Daten trainiert wird

6. Spezielle Risiken für Unternehmen in der Türkei

Viele in der Türkei entwickelte Modelle nutzen EU/US-Cloudinfrastruktur und bergen erhebliche Risiken bei **Auslandsübermittlungen**.

• Der Datenfluss muss auf AWS / GCP / Azure Modelle überprüft werden
• Die KI-Datenverarbeitung kam in den Entscheidungen des KVKK-Vorstands von 2025 häufig vor
• Integrationsübergreifende SaaS-Lösungen können eine geheime Datenübertragung erzeugen

Im Jahr 2025 verhängte das KVKK-Vorstand Sanktionen gegen Unternehmen, die "die Quelle des Datensatzes, der in der AI-Ausbildung verwendet wird, nicht erklären können". Fazit: KI-Training ist eine risikoreiche Datenverarbeitung nach KVKK

Die Art der Daten, die in der Modellbildung verwendet werden, ihre Rechtsgrundlage, Speicherzeit und die Möglichkeit der Reversibilität vom Output; sie bilden das Herzstück der KVKK-Compliance.

Daher sollten KI-Trainingsprozesse aus der KVKK-Perspektive auf folgenden Grundsätzen basieren:

• Mindestdaten -> maximale Anonymität
• Offener und rechenschaftspflichtiger Prozess
• Prüfbare Muster-Schulungsprotokolle
• Starke Rechtsgrundlage
• Kontinuierliche Risikoanalyse

Die zentrale Frage der KVKK-Compliance nach 2025: „Modelltransparenz + Verwaltung der Datenquellen.“

Beratung zu KVKK und KI-Training