Mit der „KI-Schleuse Schlaumeier“ generative KI datenschutzgerechter nutzen

Sensible Informationen schützen, bevor sie an externe KI-Systeme übermittelt werden

Immer mehr Mitarbeitende nutzen ChatGPT, Claude, Mistral oder andere generative KI-Systeme im Arbeitsalltag. Nicht selten enthalten die eingegebenen Prompts echte Namen, Vertragsinformationen, Akteninhalte oder andere vertrauliche Daten. Die „KI-Schleuse Schlaumeier“ erkennt schutzbedürftige Angaben, ersetzt sie vor der Übermittlung durch Platzhalter und fügt sie nach Erhalt der KI-Antwort innerhalb der kontrollierten Umgebung wieder ein. Zugleich kann die Nutzung nachvollziehbar dokumentiert werden.

Generative KI benötigt einen kontrollierten Zugang
Künstliche Intelligenz ist im Arbeitsalltag angekommen. Der Datenschutz hält mit der tatsächlichen Nutzung jedoch nicht immer Schritt. Beschäftigte kopieren Texte in ein KI-System, lassen Dokumente zusammenfassen oder bitten um die Formulierung einer Antwort. Dabei kann bereits ein einzelner Prompt Namen, Telefonnummern, Bankverbindungen, Vertragsdaten oder Gesundheitsinformationen enthalten.
Die Eingabe solcher Informationen ist nicht automatisch unzulässig. Sie stellt jedoch eine Verarbeitung personenbezogener Daten dar, für die unter anderem ein bestimmter Zweck, eine tragfähige Rechtsgrundlage und angemessene technische und organisatorische Schutzmaßnahmen erforderlich sein können. Bei Gesundheitsdaten oder anderen besonderen Kategorien personenbezogener Daten gelten zusätzlich die erhöhten Anforderungen des Art. 9 DSGVO.
Auch Geschäftsgeheimnisse können betroffen sein. Der gesetzliche Schutz setzt unter anderem voraus, dass eine Information Gegenstand angemessener Geheimhaltungsmaßnahmen ist. Eine unkontrollierte Übermittlung vertraulicher Unternehmensinformationen an externe KI-Dienste kann diesen Schutz gefährden und je nach Einzelfall eine unzulässige Nutzung oder Offenlegung darstellen.
Ein vollständiges Verbot generativer KI ist in vielen Unternehmen weder realistisch noch wirtschaftlich sinnvoll. Zielführender ist es, den Beschäftigten einen technisch kontrollierten und organisatorisch geregelten Zugang zur Verfügung zu stellen.
Genau hier setzt die „KI-Schleuse Schlaumeier“ an. Sie wird zwischen die Beschäftigten und das verwendete KI-System geschaltet und verarbeitet Anfragen in vier aufeinanderfolgenden Schritten.

1. Schutzbedürftige Informationen erkennen
Die „KI-Schleuse Schlaumeier“ untersucht den eingegebenen Text vor der Übermittlung an das ausgewählte KI-Modell. Dabei können insbesondere folgende Informationen erkannt werden:

• Vor- und Nachnamen,
• Anschriften,
• Telefonnummern,
• E-Mail-Adressen,
• IBAN und andere Kontodaten,
• Umsatzsteuer-Identifikationsnummern,
• Kartennummern,
• Kraftfahrzeugkennzeichen,
• weitere strukturierte Identifikationsmerkmale.

Bei strukturierten Daten können regelbasierte Erkennungs- und Prüfziffernverfahren eingesetzt werden. Dazu gehören beispielsweise die Prüfung einer IBAN oder das Luhn-Verfahren zur Plausibilitätskontrolle bestimmter Nummernfolgen.
Für Namen und andere Angaben innerhalb von Fließtexten kann die Erkennung durch kontextbezogene Verfahren ergänzt werden. Dadurch lassen sich auch Informationen identifizieren, die nicht nach einem festen technischen Muster aufgebaut sind.
Da automatisierte Erkennungssysteme keine fehlerfreie Erfassung jedes denkbaren Inhalts garantieren können, sollte der maskierte Text vor seiner Übermittlung in einer Vorschau kontrolliert werden können.

2. Daten maskieren und pseudonymisieren
Die erkannten Angaben werden nicht lediglich gelöscht, sondern durch eindeutige und nummerierte Platzhalter ersetzt.
Aus dem Satz
„Bitte erstellen Sie für Max Müller eine Zusammenfassung des Vertrags.“
wird beispielsweise:
„Bitte erstellen Sie für [PERSON_1] eine Zusammenfassung des Vertrags.“
Eine IBAN kann durch [IBAN_1], eine E-Mail-Adresse durch [EMAIL_1] und eine Telefonnummer durch [TELEFON_1] ersetzt werden.
Durch die Nummerierung kann das KI-System mehrere Personen oder Datensätze weiterhin auseinanderhalten. Es erkennt beispielsweise, dass sich bestimmte Aussagen auf [PERSON_1] und andere auf [PERSON_2] beziehen, ohne die tatsächlichen Namen zu erhalten.
Datenschutzrechtlich handelt es sich hierbei regelmäßig um eine Pseudonymisierung. Von einer vollständigen Anonymisierung kann grundsätzlich nicht gesprochen werden, solange die Platzhalter innerhalb der „KI-Schleuse Schlaumeier“ wieder den ursprünglichen Angaben zugeordnet werden können.
Auch der verbleibende Kontext ist zu berücksichtigen. Eine Person kann trotz entfernter Namen identifizierbar bleiben, wenn der Text beispielsweise eine seltene Position, einen eindeutig zuordenbaren Vorfall oder eine ungewöhnliche Kombination weiterer Merkmale enthält. Die Pseudonymisierung reduziert somit das Risiko, ersetzt aber nicht die Prüfung des jeweiligen Inhalts.

3. Die KI-Antwort kontrolliert zurückübersetzen
Nach der Maskierung wird die Anfrage an das ausgewählte KI-System übermittelt. Das externe Modell verarbeitet nur den vorbereiteten Text mit den eingesetzten Platzhaltern.
Enthält die Antwort der KI beispielsweise den Platzhalter [PERSON_1], wird dieser innerhalb der kontrollierten Umgebung wieder durch den ursprünglichen Namen ersetzt. Erst danach erhält der Anwender die vollständige Antwort.
Die für diese Rückübersetzung erforderliche Zuordnung zwischen Platzhaltern und Originalwerten wird nicht an das externe KI-Modell übermittelt. Die Klardaten können dadurch innerhalb der kontrollierten Systemumgebung verbleiben.
Speicherung, Aufbewahrungsdauer und Löschung der Zuordnungsinformationen müssen durch ein festgelegtes technisches Lösch- und Berechtigungskonzept geregelt werden. Die Aussage, dass Daten generell „nicht gespeichert“ werden, sollte nur verwendet werden, wenn dies durch die tatsächliche technische Umsetzung nachweisbar gewährleistet ist.

4. KI-Nutzung nachvollziehbar dokumentieren
Die „KI-Schleuse Schlaumeier“ kann die Nutzung generativer KI nachvollziehbar protokollieren. Abhängig von der technischen Konfiguration können insbesondere folgende Informationen erfasst werden:

• Zeitpunkt der Anfrage,
• verwendetes KI-Modell,
• Benutzer oder verantwortlicher Bereich,
• erkannte Kategorien schutzbedürftiger Daten,
• Umfang der vorgenommenen Maskierung,
• Freigabe oder Bestätigung durch den Benutzer,
• Entstehung eines KI-generierten oder KI-unterstützten Ergebnisses.

Eine solche Dokumentation unterstützt das Unternehmen bei der Erfüllung der Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO. Der Verantwortliche muss nachweisen können, dass die Datenschutzgrundsätze eingehalten werden. Eine Protokollierung allein belegt jedoch noch nicht, dass jede einzelne Verarbeitung rechtmäßig ist. Zusätzlich müssen unter anderem Zweck, Rechtsgrundlage, Berechtigungen, Speicherfristen und Sicherheitsmaßnahmen festgelegt sein.

Der Begriff „unveränderliche Protokollierung“ sollte nur verwendet werden, wenn die technische Lösung tatsächlich eine manipulationsgeschützte oder revisionssichere Speicherung gewährleistet. Andernfalls ist die Formulierung „nachvollziehbare Protokollierung“ rechtlich und technisch belastbarer.
Unterstützung bei Transparenzpflichten nach Art. 50 KI-Verordnung
Die „KI-Schleuse Schlaumeier“ kann KI-generierte oder KI-unterstützte Inhalte mit einem entsprechenden Hinweis versehen und deren Entstehung dokumentieren. Damit kann sie Unternehmen bei der Umsetzung möglicher Transparenz- und Kennzeichnungspflichten unterstützen.
Art. 50 der europäischen KI-Verordnung enthält allerdings keine allgemeine Verpflichtung, jeden intern mit KI erstellten Text zu kennzeichnen. Die Vorschrift regelt unterschiedliche Pflichten für bestimmte Anbieter und Betreiber von KI-Systemen. Sie betrifft unter anderem:

• die Information natürlicher Personen über die unmittelbare Interaktion mit bestimmten KI-Systemen,
• die technische Erkennbarkeit synthetisch erzeugter Inhalte,
• die Offenlegung von Deepfakes,
• bestimmte KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden.

Für öffentlichkeitsbezogene Texte bestehen Ausnahmen, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle erfolgt und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Die „KI-Schleuse Schlaumeier“ kann die erforderliche Kennzeichnung somit technisch unterstützen. Ob und in welcher Form eine Kennzeichnung rechtlich erforderlich ist, muss jedoch anhand des jeweiligen Inhalts und Verwendungszwecks beurteilt werden.

Flexible Anbindung unterschiedlicher KI-Systeme
Unternehmen können die „KI-Schleuse Schlaumeier“ abhängig vom gewählten Betriebsmodell unterschiedlich einsetzen:

• Nutzung bereits angebundener KI-Systeme,
• Hinterlegung eigener Anbieter- oder API-Schlüssel,
• Auswahl unterschiedlicher externer KI-Anbieter,
• Anbindung lokal betriebener KI-Systeme,
• Integration eigener Sprachmodelle innerhalb der Unternehmensinfrastruktur.

Bei einem Bring-your-own-Key-Modell, kurz BYOK, kann das Unternehmen bestehende Verträge und Unternehmenskonten bei einem KI-Anbieter weiterverwenden. Alternativ können lokale Modelle angebunden werden, wenn Inhalte die eigene technische Infrastruktur nicht verlassen sollen.
Das Unternehmen behält damit die Kontrolle über die Auswahl des KI-Anbieters und die Art der technischen Anbindung. Bei der Nutzung externer Anbieter müssen deren Vertragsbedingungen, Datenschutzinformationen, Speicherfristen, Unterauftragnehmer und mögliche internationale Datenübermittlungen dennoch gesondert geprüft werden.

Vertragliche und datenschutzrechtliche Einordnung
Soweit MGMSYS personenbezogene Daten ausschließlich nach dokumentierten Weisungen des Kunden verarbeitet, ist regelmäßig eine Auftragsverarbeitung anzunehmen. In diesem Fall ist der Einsatz der „KI-Schleuse Schlaumeier“ durch einen Vertrag nach Art. 28 DSGVO zu regeln.
Dieser Vertrag muss unter anderem den Gegenstand und die Dauer der Verarbeitung, die betroffenen Datenarten, die Zwecke der Verarbeitung, die Sicherheitsmaßnahmen und den Einsatz weiterer Auftragsverarbeiter regeln.
Werden externe KI-Anbieter durch MGMSYS zur Erbringung der vereinbarten Leistung eingesetzt, können diese weitere Auftragsverarbeiter beziehungsweise Unterauftragsverarbeiter sein. Sie müssen dann transparent ausgewiesen und entsprechend Art. 28 Abs. 2 und 4 DSGVO eingebunden werden.
Verwendet der Kunde dagegen einen eigenen API-Schlüssel und unterhält selbst eine unmittelbare Vertragsbeziehung zum jeweiligen KI-Anbieter, kann eine andere datenschutzrechtliche Rollenverteilung vorliegen. Der externe Anbieter ist in diesem Fall nicht zwangsläufig Unterauftragsverarbeiter von MGMSYS.
Die konkrete Rollenverteilung sollte deshalb für jedes angebotene Betriebsmodell eindeutig beschrieben und dokumentiert werden.

Geeignet für Unternehmen, Behörden und Kanzleien
Die „KI-Schleuse Schlaumeier“ richtet sich insbesondere an Organisationen, deren Beschäftigte regelmäßig mit personenbezogenen, vertraulichen oder geheimhaltungsbedürftigen Informationen arbeiten. Hierzu gehören beispielsweise:

• Unternehmen,
• Behörden und öffentliche Stellen,
• Rechtsanwalts- und Steuerkanzleien,
• Personal- und Compliance-Abteilungen,
• Versicherungen,
• Beratungsunternehmen,
• medizinische und soziale Einrichtungen,
• Forschungs- und Bildungseinrichtungen.

Typische Einsatzmöglichkeiten sind die Erstellung und Überarbeitung von Schreiben, die Zusammenfassung von Dokumenten, die Strukturierung umfangreicher Informationen oder die Vorbereitung interner Analysen.
Bei besonders sensiblen Daten, automatisierten Bewertungen oder rechtlich erheblichen Entscheidungen können weitere Maßnahmen erforderlich sein. Dazu gehören beispielsweise eine Datenschutz-Folgenabschätzung, zusätzliche Freigabeprozesse oder eine gesonderte Bewertung nach der europäischen KI-Verordnung.

Technischer Datenschutz statt unkontrollierter Schatten-KI
Unternehmen können die sichere Nutzung generativer KI nicht allein durch Verbote und schriftliche Richtlinien gewährleisten. Fehlen geeignete betriebliche Lösungen, besteht die Gefahr, dass Beschäftigte private Benutzerkonten oder nicht freigegebene KI-Dienste einsetzen.
Die „KI-Schleuse Schlaumeier“ schafft einen kontrollierten Zugang zu generativer KI. Sie verbindet die Nutzung moderner Sprachmodelle mit einer vorgeschalteten Erkennung und Pseudonymisierung schutzbedürftiger Informationen.
Damit unterstützt sie insbesondere:

• den Datenschutz durch Technikgestaltung,
• den Grundsatz der Datenminimierung,
• die zentrale Steuerung der betrieblichen KI-Nutzung,
• die nachvollziehbare Dokumentation von Anfragen,
• einheitliche Anbieter- und Berechtigungsstrukturen,
• die Reduzierung unkontrollierter Datenübermittlungen,
• den Schutz vertraulicher Unternehmensinformationen.

Die technische Lösung ersetzt jedoch nicht die datenschutzrechtliche und organisatorische Prüfung. Unternehmen benötigen weiterhin klar definierte Anwendungsfälle, Rechtsgrundlagen, Berechtigungskonzepte, Schulungen und verbindliche Regeln für die zulässige Nutzung generativer KI.

Fazit
Generative KI kann Unternehmen, Behörden und Kanzleien bei zahlreichen Aufgaben unterstützen. Dabei müssen Klardaten und vertrauliche Informationen jedoch nicht unkontrolliert an externe KI-Systeme übermittelt werden.
Die „KI-Schleuse Schlaumeier“ erkennt schutzbedürftige Angaben und ersetzt sie vor der Übermittlung durch eindeutige Platzhalter. Nach Eingang der KI-Antwort werden die Platzhalter innerhalb der kontrollierten Umgebung wieder durch die ursprünglichen Werte ersetzt. Ergänzende Dokumentations- und Kennzeichnungsfunktionen unterstützen die interne Datenschutzorganisation und die Umsetzung regulatorischer Transparenzanforderungen.
Die „KI-Schleuse Schlaumeier“ kann damit eine wesentliche technische Grundlage für einen kontrollierten, nachvollziehbaren und datensparsamen Einsatz generativer KI schaffen. Eine pauschale Garantie für die DSGVO-Konformität jedes denkbaren Anwendungsfalls ist damit jedoch nicht verbunden. Die Rechtmäßigkeit hängt weiterhin vom konkreten Zweck, den verarbeiteten Daten und der organisatorischen Ausgestaltung ab.
Mehr erfahren und kostenlos testen: mgmsys.de