
ChatGPT-Sicherheit: Risiken, Datenschutz & Schutzmaßnahmen für Unternehmen
ChatGPT-Sicherheit schützt Unternehmensdaten, wenn Beschäftigte KI-Assistenten nutzen. Erfahren Sie, welche Risiken bestehen, wie sich die Datenverarbeitung je nach Tarif unterscheidet und welche Schutzmaßnahmen eine kontrollierte Nutzung gewährleisten.

Das Wichtigste im Überblick
- ChatGPT-Sicherheit umfasst den Schutz sensibler Daten, Benutzerkonten, Prompts, Ausgaben und verbundener Systeme vor unbefugtem Zugriff, Missbrauch und unbeabsichtigter Offenlegung.
- Zu den wichtigsten ChatGPT-Sicherheitsrisiken zählen Datenlecks, Prompt Injection, kompromittierte Konten, die Erzeugung von Schadcode, fehlerhafte Ausgaben sowie KI-gestütztes Phishing und Social Engineering.
- Wie ChatGPT Daten verarbeitet, hängt vom Tarif, den Einstellungen und den Integrationen ab. Unternehmen müssen daher verstehen, wie Prompts gespeichert, aufbewahrt, abgerufen und möglicherweise verwendet werden, bevor sie Geschäftsdaten teilen.
- Eine ungeregelte ChatGPT-Nutzung kann Schatten-KI und Compliance-Risiken verursachen, die Transparenz darüber verringern, was Beschäftigte teilen, und die Offenlegung geistigen Eigentums oder vertraulicher Daten wahrscheinlicher machen.
Was ist ChatGPT-Sicherheit?
Im Sommer 2025 fügte der Leiter der US-Behörde, die für den Schutz von Bundesnetzwerken zuständig ist, sensible Regierungsdateien in eine öffentliche Version von ChatGPT ein. Der kommissarische Direktor der CISA lud Vertragsunterlagen mit dem Vermerk "For Official Use Only" hoch. Interne Überwachungssysteme meldeten die Aktivität innerhalb weniger Tage. Eine Untersuchung des Department of Homeland Security folgte. Kein Sicherheitsvorfall. Kein Angreifer. Nur wenige Prompts, und sensible Daten hatten kontrollierte Systeme verlassen.
Genau diese Datenoffenlegung soll ChatGPT-Sicherheit verhindern. ChatGPT-Sicherheit umfasst die Maßnahmen, die Ihre Unternehmensdaten und Konten schützen, wenn Beschäftigte ChatGPT und ähnliche KI-Assistenten bei der Arbeit nutzen.
Das Risiko ist systembedingt: Je nach Kontotarif können die Prompts von Beschäftigten aufbewahrt oder zum Training künftiger Modelle verwendet werden. Ohne organisatorische Kontrollen verlassen Ihre Daten so im Arbeitsalltag Ihre Umgebung. Mit dem richtigen Tarif, klaren Richtlinien und deren Durchsetzung wird das Tool, das Ihre Beschäftigten bereits nutzen, für Ihr Sicherheitsteam sichtbar und kontrollierbar.
Wie ChatGPT-Sicherheit zur Unternehmenssicherheit gehört
Generative KI wird in der gesamten Belegschaft genutzt. Sicherheitsteams müssen diese Nutzung nun regeln. Innerhalb Ihres Sicherheitsprogramms betrifft das zwei Bereiche: die Prompts, die Beschäftigte an KI-Assistenten senden, sowie die Konten und Integrationen, über die diese Assistenten mit Ihren Systemen verbunden sind.
Schatten-KI verschärft das Problem, weil Ihr Sicherheitsteam Aktivitäten über persönliche Konten und nicht genehmigte Kanäle nicht einsehen kann. Das Ziel ist eine kontrollierte Nutzung: ein genehmigter Zugang zu ChatGPT, damit die Arbeit nicht über persönliche Konten erfolgt, die Sie nicht einsehen können.
ChatGPT-Sicherheitsrisiken
Wenn Beschäftigte ChatGPT oder ähnliche KI-Assistenten nutzen, entstehen Risiken durch Datenoffenlegung, Modelltraining, Prompt Injection, kompromittierte Konten, Schatten-KI, Halluzinationen und Integrationen:
- Sensible Daten in Prompts. Beschäftigte fügen Quellcode, Kundendaten und Finanzdaten in ChatGPT ein. Dafür braucht es keinen Angriff: Die Daten verlassen Ihre Umgebung.
- Prompts zum Verbessern von Modellen. Bei Privatkonten hängt es von den Einstellungen der einzelnen Nutzer ab, ob Prompts zum Training künftiger Modelle verwendet werden. Eine zentrale Durchsetzung gibt es nicht.
- Prompt Injection und Jailbreaks. Prompt Injection ist ein bekanntes Risiko für große Sprachmodelle (LLMs). Indirekte Injection kann die Exfiltration von Daten aus der Sitzung auslösen.
- Kompromittierte Konten und Zugangsdaten. Gestohlene ChatGPT-Zugangsdaten legen den Gesprächsverlauf offen. Integrationen mit Cloud-Speichern oder E-Mail können zudem zu einer Ausweitung von OAuth-Berechtigungen führen.
- Schatten-KI durch nicht genehmigte Nutzung. Persönliche Konten und nicht genehmigte Tools entziehen Aktivitäten der Kontrolle und umgehen die Schutzmaßnahmen genehmigter Unternehmensbereitstellungen.
- Fehlerhafte oder erfundene Ausgaben. Das NIST-Profil für generative KI (NIST AI 600-1) bezeichnet Halluzinationen als offene Herausforderung für das Risikomanagement. Werden erfundene Ausgaben ungeprüft verwendet, fließen Fehler in Geschäftsentscheidungen ein.
- Risiken durch Drittanbieter-Plugins oder Integrationen. Code von Drittanbietern und verbundene Tools können Risiken für die Lieferkette mit sich bringen und Sitzungsdaten offenlegen.
Diese Risiken haben eine gemeinsame Ursache, die Sie kontrollieren können. Wie stark Ihre Daten gefährdet sind, hängt davon ab, wie ChatGPT sie im jeweiligen Tarif verarbeitet. Deshalb ist die Wahl des Kontos entscheidend.
Wie ChatGPT Ihre Daten verarbeitet
Wenn Beschäftigte einen Prompt eingeben, sendet ChatGPT ihn an die Infrastruktur von OpenAI und speichert Prompt und Antwort als Teil des Gesprächs. Was danach geschieht, hängt vom Kontotarif ab.
Datenverarbeitung | Privatkonto | Business | Enterprise |
Training mit Ihren Prompts | Kann je nach Nutzereinstellungen zur Verbesserung von Modellen verwendet werden | Wird nicht zum Trainieren von Modellen verwendet | Wird nicht zum Trainieren von Modellen verwendet |
Steuerungsmodell | Hängt vom Verhalten der einzelnen Nutzer ab | Durch Administratoren vorgegeben | Durch Administratoren vorgegeben |
Datenspeicherung | Standardmäßige Speicherdauer, begrenzte Kontrolle | Von der Organisation verwaltet | Individuelle Aufbewahrungsrichtlinien |
Identität | Individuelle Anmeldungen | SSO | SAML SSO mit SCIM-Provisionierung |
Audit und Compliance | Keine | DPA, grundlegende Kontrollmechanismen | Compliance-API, Audit-Logs, kundenseitig verwaltete Verschlüsselungsschlüssel, DPA |
Dieser Unterschied beim Umgang mit Daten macht unkontrollierte Nutzung zum Geschäftsrisiko und zeigt, welche Kosten entstehen, wenn Kontrollmechanismen fehlen.
Die Kosten unkontrollierter ChatGPT-Nutzung
Unkontrollierte ChatGPT-Nutzung kostet Unternehmen auf drei Ebenen: Datenkontrolle, Wettbewerbsposition und Compliance. Wenn Beschäftigte proprietären Code oder Kundendaten in Prompts für Privatnutzer einfügen, gelangen diese Daten an einen externen KI-Dienst. Ihre Organisation kann dadurch die tatsächliche Kontrolle darüber verlieren.
Dieselbe Offenlegung gefährdet wettbewerbsrelevante Informationen. Denn Tarifstufe und Einstellungen zur Datenverarbeitung bestimmen, ob Geschäftsgeheimnisse und proprietäre Algorithmen aus Prompts innerhalb Ihrer Organisation bleiben.
Die Offenlegung gefährdet auch Compliance und Vertrauen. Bestehende Datenschutz- und Vertraulichkeitspflichten gelten weiterhin, wenn Sie KI-Anwendungen nutzen. Wer regulierte Daten wie personenbezogene Daten (PII) oder geschützte Gesundheitsdaten (PHI) ohne Datenverarbeitungsvertrag (DPA) an eine KI-Anwendung für Privatnutzer übermittelt, kann gegen die DSGVO, HIPAA, oder ähnliche Vorschriften verstoßen. Wird ein solcher Vorfall öffentlich bekannt, kann dies Kunden und Aufsichtsbehörden auf Lücken in Ihrer Daten-Governance hinweisen.
Herausforderungen bei der Absicherung der ChatGPT-Nutzung
Selbst mit einer Richtlinie lässt sich die ChatGPT-Nutzung in der Praxis nur schwer steuern. Vier Hürden stehen Ihnen dabei im Weg:
Herausforderung | Warum die Kontrolle schwierig ist |
Begrenzte Sichtbarkeit des KI-Datenverkehrs | Die Netzwerküberwachung kann nicht prüfen, was Beschäftigte in eine browserbasierte KI-Anwendung eingeben. Endpoint-Telemetrie unterscheidet selten zwischen genehmigter und nicht genehmigter Nutzung |
Schnelle Funktionsänderungen | OpenAI aktualisiert die Funktionen und Datenrichtlinien von ChatGPT häufig. Governance-Dokumentation kann daher schon nach wenigen Wochen veraltet sein |
Nachfrage überholt Richtlinien | Beschäftigte nutzen neue Anwendungen schneller, als Sicherheits- und Rechtsteams sie bewerten können |
Vom Anbieter kontrollierter Umgang mit Daten | Sie legen weder die Aufbewahrungsfristen und Trainingsrichtlinien von OpenAI noch die Zugriffskontrollen für dessen Infrastruktur fest |
Deshalb reichen Richtlinien allein selten aus. Die folgenden Schutzmaßnahmen verbinden schriftliche Vorgaben mit technischer Durchsetzung.
Schutzmaßnahmen für die ChatGPT-Nutzung im Unternehmen
Ihre Teams können ChatGPT bei der Arbeit sicher nutzen, wenn die richtigen Kontrollmechanismen vorhanden sind. Die meisten Risiken entstehen, wenn Beschäftigte Quellcode, Zugangsdaten oder Kundendatensätze in einen Prompt einfügen. Die folgenden Schutzmaßnahmen verbinden schriftliche Vorgaben mit technischer Durchsetzung, um dieses Verhalten sichtbar zu machen und zu verhindern:
- Legen Sie eine Richtlinie zur zulässigen Nutzung von KI-Anwendungen fest. Definieren Sie, welche KI-Anwendungen zugelassen sind, welche Datenkategorien nicht in Prompts eingegeben werden dürfen und welche Folgen Verstöße haben. Zu den verbotenen Daten können PII, PHI, Quellcode, Zugangsdaten, Geschäftsgeheimnisse und Rechtsdokumente gehören. NIST AI 600-1 bietet Orientierung zum Risikomanagement für die Gestaltung dieser Richtlinie.
- Nutzen Sie die Enterprise-Stufe mit Datenkontrollen und Single Sign-on (SSO). Wechseln Sie zu ChatGPT Business oder Enterprise, um stärkere Kontrollen für Ihr Unternehmen, SSO und eine Auftragsverarbeitungsvereinbarung (DPA) zu erhalten. Wenn Ihr Unternehmen individuelle Aufbewahrungsfristen, Audit-Logs, System for Cross-domain Identity Management (SCIM) oder kundenseitig verwaltete Verschlüsselungsschlüssel benötigt, bietet Enterprise den umfassendsten Funktionsumfang.
- Setzen Sie Data Loss Prevention und Datenklassifizierung ein. Klassifizieren Sie Ihre Daten, bevor sie eine KI-Anwendung erreichen. Nutzen Sie Data Loss Prevention (DLP), um ausgehenden Datenverkehr zu prüfen, und blockieren Sie den Zugriff auf nicht genehmigte KI-Endpunkte auf Proxy- oder Firewall-Ebene.
- Kontrollieren Sie den Zugriff und prüfen Sie die KI-Nutzung. Setzen Sie rollenbasierte Zugriffsrechte durch, die auf definierte Anwendungsfälle begrenzt sind. Protokollieren Sie Identität, Zeitstempel, KI-Endpunkt und Datenvolumen des ausgehenden KI-Datenverkehrs. Aktivieren Sie für ChatGPT Enterprise die Compliance API und Audit-Logs. Eine umfassendere KI-Sicherheit verbindet Richtlinien mit ihrer technischen Durchsetzung.
- Schulen Sie Mitarbeitende im sicheren Umgang mit Prompts. Folgen Sie dem Modell von CISA und machen Sie KI-Schulungen für Mitarbeitende zur Voraussetzung für die Nutzung von KI-Anwendungen. Behandeln Sie die Richtlinie zur zulässigen Nutzung, verbotene Datenkategorien, die Validierung von KI-Ausgaben und die Meldung versehentlicher Datenoffenlegungen. Verlangen Sie eine jährliche Auffrischung der Schulung.
- Prüfen Sie sorgfältig, wie Anbieter mit Daten umgehen. Stellen Sie sicher, dass Ihre Auftragsverarbeitungsvereinbarung (DPA) sowohl KI-Prompt-Inhalte als auch die herkömmliche Datenverarbeitung ausdrücklich abdeckt. Prüfen Sie Zertifizierungen und legen Sie vertragliche Meldefristen für Datenschutzverletzungen fest.
Diese Schutzmaßnahmen greifen ineinander. Die Richtlinie setzt die Grenzen. Die Wahl der Version schafft die vertragliche und technische Grundlage. DLP und Transparenz setzen die Richtlinie technisch durch. Schulungen stärken den menschlichen Faktor, und die sorgfältige Anbieterprüfung schließt die Lücke beim Anbieter.
Verbessern Sie die Sicherheit von ChatGPT mit SentinelOne
Richtlinien und die Wahl der Version legen die Regeln fest. SentinelOne setzt sie am Punkt der Interaktion durch: direkt beim Prompt. Prompt Security erkennt und kontrolliert regulierte Daten, Quellcode und Zugangsdaten, bevor sie ChatGPT oder andere KI-Anwendungen für Endverbraucher erreichen. Es stoppt Datenexfiltration direkt im Browser.
Singularity™ Identity verknüpft jede KI-Session mit einer menschlichen oder nicht menschlichen Identität, einschließlich KI-Agenten und Dienstkonten. So kann Ihr Team ein Offenlegungsereignis bis zu seiner Quelle zurückverfolgen.
Purple AI™ macht Untersuchungen in natürlicher Sprache möglich. Analysten stellen eine Frage, rekonstruieren den zeitlichen Ablauf und beurteilen, ob eine Offenlegung versehentlich oder böswillig erfolgte. Laut IDC werden Bedrohungen 63 % schneller erkannt, und die durchschnittliche Reaktionszeit sinkt um 55 %.
Mit der Singularity Platform erzielte SentinelOne bei den MITRE ATT&CK Evaluations 2024 88 % weniger Alerts bei einer Erkennungsrate von 100 %. So verbringen SOC-Teams weniger Zeit mit irrelevanten Meldungen und mehr Zeit mit KI- und Identitätsaktivitäten, die echte Risiken bergen. Für umfassendere Transparenz durch Extended Detection and Response (XDR) werden diese Ereignisse an einem Ort mit Signalen von Endpunkten, Identitäten und aus der Cloud korreliert.
Vereinbaren Sie Ihre SentinelOne-Demo noch heute und steuern Sie, wie Ihre Teams KI nutzen.

Erhalten Sie vollständige Transparenz, Sicherheit und Governance über die KI-Nutzung in Ihrem Unternehmen. Decken Sie Schatten-KI auf, schützen Sie Ihre sensiblen Daten und ermöglichen Sie den sicheren Einsatz von KI in der Organisation.
Fazit
ChatGPT-Sicherheit schützt Ihre Daten, wenn Mitarbeitende KI-Assistenten nutzen. Das zentrale Risiko ist die Offenlegung von Daten über Prompts. Schatten-KI verstärkt es, weil sie die Transparenz einschränkt. Bei der Nutzung der Endverbraucherversion hängt der Schutz stärker von individuellen Einstellungen ab. Die Versionen Business und Enterprise bieten dagegen stärkere Kontrollen für Unternehmen.
Kontrollierte KI-Nutzung verbindet eine Richtlinie zur zulässigen Nutzung mit der richtigen Version, Data Loss Prevention, Transparenz, Schulungen und sorgfältiger Anbieterprüfung. Setzen Sie diese Maßnahmen um, damit Ihre Teams die Vorteile von ChatGPT voll ausschöpfen. Ihre sensiblen Daten bleiben dort, wo sie hingehören.

Entfesseln Sie AI-gestützte Cybersicherheit
Verbessern Sie Ihre Sicherheitslage durch Echtzeit-Erkennung, maschinelle Reaktion und vollständige Transparenz Ihrer gesamten digitalen Umgebung.
Häufig gestellte Fragen
ChatGPT-Sicherheit bedeutet, den Datenfluss zwischen Mitarbeitenden und KI-Assistenten zu steuern: welche Konten und Versionen Prompts verarbeiten, welche Daten darin zulässig sind und wer die Aktivitäten einsehen kann. Eine einzelne Einstellung reicht dafür nicht aus.
In der Praxis tragen Sicherheits-, Rechts- und Identitätsteams gemeinsam die Verantwortung. Zunächst müssen Sie wissen, welche KI-Konten Ihre Mitarbeitenden bereits nutzen. Anschließend legen Sie Richtlinien fest und überwachen die Nutzung.
ChatGPT Enterprise bietet administrativ durchgesetzte Datenkontrollen, individuelle Aufbewahrungsrichtlinien, SSO auf Basis von Security Assertion Markup Language (SAML) mit SCIM-Provisionierung, kundenseitig verwaltete Verschlüsselungsschlüssel und eine Compliance API mit Audit-Protokollierung. Es unterstützt außerdem eine DSGVO-konforme Auftragsverarbeitungsvereinbarung (DPA).
Bei der Endverbraucherversion hängt der Schutz deutlich stärker von individuellen Einstellungen ab. Enterprise bietet dagegen zentrale Governance-Funktionen, die Ihre Sicherheits-, Rechts- und Identitätsteams in der gesamten Umgebung durchsetzen können.
Das hängt von der Version und den Einstellungen ab. Bei Endverbraucherkonten können Prompts je nach individuellen Nutzereinstellungen zur Verbesserung künftiger Modelle verwendet werden. Bei Business- und Enterprise-Bereitstellungen kontrolliert das Unternehmen direkt, ob Prompt-Inhalte gespeichert oder für das Training verwendet werden.
Wenn Ihre Mitarbeitenden mit sensiblen Daten arbeiten, betrachten Sie die Wahl der Version als Sicherheitsmaßnahme und klären Sie die Verwendung der Daten für das Training vertraglich.
Ja, mit den richtigen Kontrollen. Wählen Sie die Version Business oder Enterprise für vertraglich geregelten Datenschutz. Kombinieren Sie diese mit einer Richtlinie zur zulässigen Nutzung, Data Loss Prevention, Schulungen für Mitarbeitende und Transparenz über die Nutzung.
Öffentliche LLMs sind kein Ort für sensible Informationen. Stellen Sie sicher, dass Mitarbeitende den freigegebenen, kontrollierten Kanal nutzen. So gelangen Arbeitsinhalte nicht in persönliche Konten oder nicht genehmigte Anwendungen, die Ihre Kontrollen umgehen.
Schatten-KI bezeichnet die Nutzung von KI-Anwendungen durch Mitarbeitende über persönliche Konten oder nicht genehmigte Anwendungen außerhalb der vom Unternehmen bereitgestellten und überwachten Umgebung.
Schatten-KI nimmt Sicherheitsteams die Sichtbarkeit, umgeht Datenkontrollen und schafft Compliance-Risiken, die herkömmliche Endpunkt-Telemetrie möglicherweise nicht erkennt. In der Praxis wird die KI-Nutzung so zu einem unkontrollierten Datenpfad. Deshalb scheitern pauschale Verbote oft.
Die DSGVO gilt, wenn Prompts personenbezogene Daten aus der EU enthalten. Sie verlangt einen Auftragsverarbeitungsvertrag und eine rechtmäßige Grundlage für die Verarbeitung. HIPAA gilt, wenn Prompts geschützte Gesundheitsdaten enthalten. Der Payment Card Industry Data Security Standard (PCI-DSS) gilt, wenn Zahlungskartendaten betroffen sind. Bestehende Datenschutz- und Verbraucherschutzgesetze gelten auch für die KI-Nutzung.
Je nach Datentyp, Geschäftsfunktion und Rechtsraum des Prompt-Workflows können auch branchenspezifische Vorschriften gelten, darunter der Sarbanes-Oxley Act (SOX), der Gramm-Leach-Bliley Act (GLBA) und Datenschutzgesetze einzelner US-Bundesstaaten.




