Richtlinie zur zulässigen KI-Nutzung: Best Practices und Beispiele

Was ist eine Richtlinie zur zulässigen KI-Nutzung?

Eine Richtlinie zur zulässigen KI-Nutzung (AUP) legt fest, welche KI-Tools Ihr Unternehmen freigibt, welche Daten niemals darin eingegeben werden dürfen, wann Menschen Ergebnisse übersteuern müssen und wer verantwortlich ist. Sie geht über eine herkömmliche Richtlinie zur zulässigen Nutzung hinaus. Denn generative KI bringt Risiken mit sich, für die herkömmliche Richtlinien nicht ausgelegt sind: Halluzinationen, Prompt Injection und agentische Autonomie.

Diese Regeln sind besonders wichtig, sobald Daten das Unternehmen verlassen. Im November 2025 verpflichtete ein Bundesgericht OpenAI, 20 Millionen von Identifikationsmerkmalen bereinigte ChatGPT-Protokolle in einem Urheberrechtsstreit vorzulegen, und im Januar 2026 bestätigte der zuständige Richter die Anordnung. Keiner der Nutzer hinter diesen Protokollen war an dem Verfahren beteiligt. Alles, was Ihre Beschäftigten in ein privates KI-Konto eingeben, kann ebenso enden: in einem System und einem Rechtsstreit, über die Sie keine Kontrolle haben.

Wie eine Richtlinie zur zulässigen KI-Nutzung mit Cybersecurity zusammenhängt

Ihre Beschäftigten schaffen Schatten-KI-Risiken, wenn sie ohne formelle Freigabe oder Aufsicht zu einem Tool greifen. ISACA bezeichnet dies als ein Risiko, das „über die Risiken von Schatten-IT hinausgeht“. Dazu zählen Datenlecks und der Diebstahl geistigen Eigentums (IP).

Sensible Daten gelangen Prompt für Prompt in öffentliche Modelle. Prompt Injection eröffnet einen weiteren Weg. NIST AI 600-1, das Profil für generative KI des NIST AI Risk Management Framework (AI RMF), beschreibt Prompt Injection als Manipulation der Eingabe, damit ein generatives KI-System unbeabsichtigt reagiert. Hat Ihr Unternehmensmodell Zugriff auf interne Datenbanken, kann eine erfolgreiche Injection es zum Werkzeug für Datenexfiltration machen. Hinzu kommen Compliance-Risiken: Der EU AI Act führt abgestufte Pflichten für erfasste KI-Systeme ein. Eine Richtlinie macht aus jeder dieser offenen Fragen eine definierte Kontrollmaßnahme.

Kernbestandteile einer Richtlinie zur zulässigen KI-Nutzung

Eine praxistaugliche Richtlinie zur zulässigen KI-Nutzung beantwortet acht operative Fragen, bevor ein Vorfall sie aufwirft: Für wen gilt sie? Welche Tools sind erlaubt? Welche Daten sind tabu? Wann müssen Menschen Ergebnisse prüfen? Wer ist für Entscheidungen verantwortlich? Wie wird die Nutzung überwacht? Wie werden Vorfälle gemeldet? Und welche Folgen haben Verstöße? Die folgenden Bestandteile behandeln diese acht Fragen in derselben Reihenfolge.

• Geltungsbereich und Anwendbarkeit: Eine Richtlinie zur zulässigen Nutzung von KI-Tools legt zunächst fest, für wen und was sie gilt. Sie umfasst Beschäftigte, Auftragnehmer, Anbieter und Praktikanten auf jedem beruflich genutzten Gerät, einschließlich privater Geräte im Rahmen von Bring-your-own-device-Programmen (BYOD). Zu den erfassten Systemen gehören generative und agentische KI sowie KI-Funktionen in zugelassenen SaaS-Produkten.
• Zugelassene und verbotene Tools: Unterscheiden Sie zwischen zugelassenen, eingeschränkt nutzbaren und verbotenen Kategorien. NIST AI 600-1 empfiehlt in Maßnahme GV-6.1-010, Richtlinien zur zulässigen Nutzung zu aktualisieren, damit sie sowohl proprietäre als auch quelloffene generative KI und externe Mitarbeitende abdecken.
• Datenklassifizierung und Umgang mit Daten: Vertrauliche und besonders geschützte Daten, einschließlich personenbezogener Daten (PII), geschützte Gesundheitsdaten (PHI), Quellcode und Karteninhaberdaten gemäß dem Payment Card Industry Data Security Standard (PCI DSS) dürfen unter keinen Umständen an öffentliche KI-Tools übermittelt werden.
• Menschliche Aufsicht: Oregons Entwurf einer Richtlinie zur verantwortungsvollen KI-Nutzung, der den Behörden zur Stellungnahme vorgelegt wurde, legt menschliche Aufsicht als grundlegende Anforderung fest. Dem Entwurf zufolge agiert KI „nicht unabhängig von menschlicher Verantwortung.“
• Rollen und Verantwortlichkeiten: ISO/IEC 42001 beschreibt, wie ein KI-Managementsystem eingerichtet, umgesetzt, aufrechterhalten und kontinuierlich verbessert wird. Eine Analyse der International Association of Privacy Professionals (IAPP) hält fest, dass Organisationen Rollen festlegen und Maßnahmen zur Meldung von Bedenken im Zusammenhang mit KI einführen müssen.
• Überwachung und Überprüfung: Überwachen Sie die Modellleistung, prüfen Sie die Einhaltung der Richtlinie und erkennen Sie neue Risiken in festgelegten Abständen.
• Meldung von Sicherheitsvorfällen: Legen Sie Melde- und Eskalationspflichten für Fehler bei der Datenweitergabe, schädliche Ausgaben, Prompt Injection und damit verbundene Vorfälle fest.
• Durchsetzung: Schriftliche Regeln brauchen technische und organisatorische Kontrollen sowie festgelegte Konsequenzen bei Verstößen.

Diese Komponenten zeigen, was eine Richtlinie enthalten muss. Sie sagen nichts darüber aus, wie die Richtlinie erstellt oder dauerhaft durchgesetzt wird. Eine Klausel zur Datenklassifizierung bewirkt nichts, bevor sie formuliert, von einem zuständigen Gremium genehmigt und bei jedem Prompt durch eine Kontrolle geprüft wird. So führt der Weg vom ersten bereichsübergreifenden Entwurf zur regelmäßigen Überprüfung, die die Richtlinie aktuell hält.

So funktioniert eine Richtlinie zur zulässigen KI-Nutzung

Eine Richtlinie bewährt sich erst, wenn aus einem Dokument durchgesetzte Kontrollen werden. Eine Richtlinie zur zulässigen KI-Nutzung durchläuft fünf Phasen, vom Entwurf bis zur regelmäßigen Überprüfung. Wird eine Phase übersprungen, scheitert die nächste unbemerkt: Eine ungeprüfte Tool-Liste macht die Einführung wirkungslos. Ohne Durchsetzung bleiben die Regeln bei der Einführung unverbindlich.

Werden die Phasen der Reihe nach durchlaufen, knüpft die Richtlinie zur zulässigen KI-Nutzung an Ihre bestehenden Richtlinien zur Datenklassifizierung und zulässigen Nutzung an. Sie erweitert beide um Modellausgaben, agentische Aktionen und KI-Funktionen in genehmigter Software. 

Jede Phase liefert zudem einen Nachweis für Genehmigende oder Prüfer: eine genehmigte Tool-Liste, einen Schulungsnachweis, ein Protokoll der Durchsetzung oder einen Überprüfungstermin. Hier beginnt der Nutzen einer lückenlosen Nachweiskette.

Die wichtigsten Vorteile einer Richtlinie zur zulässigen KI-Nutzung

Eine schriftliche Richtlinie zur zulässigen KI-Nutzung macht aus einem Risiko, das Sie erst im Nachhinein erkennen, ein Risiko, das Sie gezielt steuern. Sie gibt dem Sicherheitsteam eine belastbare Antwort, wenn Prüfer, Aufsichtsbehörden oder die Geschäftsleitung fragen, wie die KI-Nutzung kontrolliert wird. Mitarbeitende erhalten klare Grenzen, innerhalb derer sie arbeiten können. Der Nutzen zeigt sich in vier Bereichen: weniger Datenoffenlegung, bessere Nachweise für regulatorische Anforderungen, schnellere sichere Einführung und klare Verantwortlichkeiten für KI-Entscheidungen.

• Risikominderung: Klare Regeln zur Datenklassifizierung verhindern, dass Daten durch Einfügen in öffentliche Modelle abfließen.
• Einhaltung regulatorischer Anforderungen: Die Zuordnung von Richtlinienkontrollen zu den Anforderungen des NIST AI RMF, der ISO/IEC 42001 und des EU AI Act schafft dokumentierte Nachweise für Governance und Aufsicht, einschließlich der Überprüfung.
• Sichere Nutzung: Listen genehmigter Tools und klare KI-Richtlinien für Mitarbeitende fördern den produktiven Einsatz von KI ohne Unsicherheit über die Grenzen. Klare Vorgaben machen aus Schatten-KI eine genehmigte KI-Nutzung.
• Klare Verantwortlichkeiten: Festgelegte Rollen klären, wer für KI-Entscheidungen verantwortlich ist, bevor ein Vorfall die Frage aufwirft.

Diese Vorteile setzen voraus, dass sich die Richtlinie im Alltag bewährt. Genau daran scheitern Programme häufig: Die Shadow AI, gegen die sich die Richtlinie richtet, erschwert zugleich ihre Durchsetzung. 

Herausforderungen bei der Umsetzung einer Richtlinie zur zulässigen KI-Nutzung

Shadow AI erschwert die Durchsetzung sowohl strukturell als auch durch das Verhalten der Mitarbeitenden. Das Whitepaper der Cloud Security Alliance (CSA) Labs zu Shadow AI beschreibt das Problem als mangelnde Transparenz über eingesetzte Ressourcen und als systemisches Risiko. Ihre Mitarbeitenden setzen Tools häufig ein, bevor Sicherheits-, Rechts-, Datenschutz- und Beschaffungsteams sie bewerten können. Die rasante Entwicklung der Tools verschärft das Problem. Eine auf ein einzelnes Tool zugeschnittene Richtlinie ist schnell veraltet.

CISOs müssen Regeln durchsetzen, ohne die Produktivität zu beeinträchtigen. Zu strenge Sperren treiben Mitarbeitende zu Umgehungslösungen. Zu viel Spielraum macht die Richtlinie undurchsetzbar. Die Überprüfung der Einhaltung im großen Maßstab ist eine weitere Herausforderung. 

Das Kopieren und Einfügen von Inhalten in KI-Plattformen kann die Kapazität für manuelle Prüfungen übersteigen. Eine maschinelle Klassifizierung wird damit zur praktischen Notwendigkeit. Tools für Transparenz über die KI-Nutzung, wie SentinelOne Prompt Security, dokumentieren für Sicherheitsteams, wo KI in Browsern und Apps genutzt wird. Diese Daten machen die Überprüfung möglich.

Häufige Fehler bei Richtlinien zur zulässigen KI-Nutzung

Die Gründe, aus denen eine KI-Nutzungsrichtlinie scheitert, sind vorhersehbar. Das ist die gute Nachricht: Sie können ihnen vor der Einführung entgegenwirken. Die folgenden vier Fehler treten immer wieder auf. Richtlinien wirken auf dem Papier fertig, scheitern aber in der Praxis – etwa an undurchsetzbaren Regeln oder übersehenen Tool-Kategorien. Hier liegen die Probleme:

• Pauschale Verbote: Wer jede KI-Nutzung ohne zugelassene Alternative verbietet, treibt sie in den Untergrund. Die CSA-Leitlinien weisen darauf hin, dass ein vollständiges KI-Verbot „wahrscheinlich nicht wirksam ist und Mitarbeitende dazu bewegen kann, ungeprüfte Tools über Shadow IT zu nutzen“.
• Fehlender Durchsetzungsmechanismus: Richtlinien, die „nicht autorisierte KI-Nutzung“ verbieten, ohne die Voraussetzungen für eine Autorisierung zu nennen, werden laut demselben Whitepaper der CSA Labs „häufig ignoriert“.
• Eingebettete KI und KI von Drittanbietern übersehen: NIST AI 600-1 fordert Richtlinien, die Auftragnehmer sowie proprietäre und quelloffene generative KI berücksichtigen. Browser-Erweiterungen, die alle Inhalte im Fenster sehen können, müssen ausdrücklich geregelt werden.
• Einmal festlegen, nie überprüfen: KI-Tools und Risiken verändern sich schnell. Eine veraltete Richtlinie scheitert mit hoher Wahrscheinlichkeit.

Diese Fehler haben dieselbe Ursache: Die Richtlinie wird als Dokument zum Ablegen behandelt, nicht als Kontrolle für den laufenden Betrieb. Dagegen helfen klare Verantwortlichkeiten, automatisch ausgelöste Prüfungen und ein fester Überprüfungsplan. Die folgenden Maßnahmen verbinden jeden Fehler mit einer Vorgehensweise, die ihn verhindert.

Best Practices für Richtlinien zur zulässigen KI-Nutzung

Ob Menschen eine Richtlinie befolgen oder ignorieren, entscheidet sich in der Praxis. Wirksame Maßnahmen haben eines gemeinsam: Sie machen aus einer Absicht einen wiederholbaren Prozess mit Verantwortlichen und Zeitplan. Fünf Maßnahmen sind besonders wichtig.

• Tools in einem geregelten Verfahren freigeben. Prüfen Sie jedes Tool nach einem festgelegten Ablauf: Geschäftszweck, Risikoprüfung, Sicherheits- und Datenschutzprüfung, Freigabe durch Rechts- und Beschaffungsteams, Zustimmung der fachlich verantwortlichen Person und anschließende Überwachung. Behandeln Sie Unternehmens- und Verbraucherversionen desselben Tools als unterschiedliche Produkte, da sie Eingaben unterschiedlich verarbeiten. Befristen Sie jede Freigabe, damit sie planmäßig erneut geprüft wird.
• Datenregeln mit Tool-Kategorien verknüpfen. „KI verantwortungsvoll nutzen“ ist eine Absicht. Eine Regel benennt die Daten und das Tool. Ein Stufenmodell, das die Vertraulichkeit der Daten mit zulässigen Tool-Kategorien verknüpft, bildet den operativen Kern des Dokuments.
• Überwachung automatisieren. Manuelle Prüfungen können mit der Menge an Prompts und Uploads nicht Schritt halten. Prompt Security deckt diese Ebene der KI-Nutzung mit Überwachung in Echtzeit und Richtlinienkontrollen für Prompts ab, die an KI-Tools gesendet werden. Menschen bleiben an Entscheidungen beteiligt. Automatisierung bewältigt die Menge.
• Mitarbeitende für ihre tatsächlichen Aufgaben schulen. Vermitteln Sie Datenschutzregeln und den sorgfältigen Umgang mit Prompts. Integrieren Sie die Prüfung von KI-Ausgaben in Arbeitsabläufe. Entwickeln Sie Leitplanken gemeinsam mit Mitarbeitenden, damit verantwortungsvolle KI-Nutzung zur Gewohnheit statt zum Schlagwort wird.
• Regelmäßige Überprüfungen festlegen. Planmäßige Neubewertungen und zusätzliche Prüfungen bei neuen Tools, Sicherheitsvorfällen oder regulatorischen Änderungen halten die Richtlinie aktuell.

Die Maßnahmen oben zeigen, wie eine wirksame KI-Nutzungsrichtlinie im Betrieb funktioniert: Freigaben laufen ab, Klassifizierungsregeln sind mit Tools verknüpft, die Überwachung ist skalierbar und Schulungen orientieren sich an echten Aufgaben. Diese Abläufe schriftlich festzuhalten, ist oft die nächste Hürde. Denn ein leeres Dokument zeigt nicht, welche Inhalte wohin gehören. Die folgende Gliederung und die Musterklauseln bieten einen Ausgangspunkt.

Beispiele und Vorlage für eine Richtlinie zur zulässigen KI-Nutzung

Nachvollziehbare KI-Nutzungsrichtlinien haben eine gemeinsame Struktur: Abschnitte, anhand derer Verantwortliche Freigaben prüfen und Prüfer die Vorgaben nachvollziehen können. Die folgende Gliederung dient als Vorlage für eine KI-Richtlinie. Sie nennt die erforderlichen Abschnitte und deren Inhalte. Danach folgen Musterklauseln, die Sie für Datenbeschränkungen, Offenlegung, menschliche Prüfung und Durchsetzung anpassen können.

Die Datenklassifizierung entscheidet darüber, ob eine Richtlinie zur zulässigen KI-Nutzung (AUP) funktioniert oder bei vagen Empfehlungen stehen bleibt. Ein Stufenmodell beantwortet die Frage, die sich Mitarbeitende im entscheidenden Moment stellen: Dürfen diese Daten in dieses Tool eingegeben werden? Die vier folgenden Stufen ordnen Daten nach Sensibilität und zulässiger Tool-Kategorie.

• Stufe 1, öffentlich. Veröffentlichte Marketingmaterialien, öffentlich zugängliche Website-Inhalte und allgemeine Branchenanalysen. In jedem vertrauenswürdigen KI-Tool zulässig.
• Stufe 2, intern. Interne Kommunikation, Prozessdokumentation und nicht vertrauliche Projektmaterialien. Nur in genehmigten Enterprise-KI-Tools zulässig, die mit Unternehmenskonten verknüpft sind.
• Stufe 3, sensibel. Kundendaten, personenbezogene Daten von Mitarbeitenden, Finanzunterlagen, proprietäre Prozesse und regulierte Informationen. Nur mit ausdrücklicher Genehmigung in dafür vorgesehenen Tools zulässig, für die Vereinbarungen zur Datenverarbeitung gelten.
• Stufe 4, verboten. Zugangsdaten und Verschlüsselungsschlüssel. Dürfen unter keinen Umständen in ein KI-Tool eingegeben werden.

Musterklauseln machen die Richtlinie verbindlich:

• Zur Beschränkung der Datennutzung schreibt die Richtlinie des Department of Energy zu generativer KI (DOE P 203.1) vor, jeden Prompt auf die für das Tool freigegebene Datenstufe abzustimmen: Proprietäre Daten, Controlled Unclassified Information und personenbezogene Daten „dürfen nicht als Eingabe“ für ein Tool verwendet werden, das nur für öffentliche Daten freigegeben ist. 
• Zur Offenlegung empfehlen die KI-Leitlinien von Stanford University Communications, eine wesentliche Beteiligung von KI an einem Arbeitsergebnis „der zuständigen Redaktion, vorgesetzten Person oder entscheidungsbefugten Person offenzulegen“. 
• Zur menschlichen Überprüfung erklärt die University of Iowa, dass KI-Ausgaben von einem Menschen sorgfältig geprüft und verifiziert werden sollten. 
• Legen Sie zur Durchsetzung Konsequenzen, Meldekanäle und Eskalationsverfahren fest, bevor es zum ersten Verstoß kommt.

Setzen Sie Ihre Richtlinie zur zulässigen KI-Nutzung mit SentinelOne durch

Eine Richtlinie ohne Durchsetzung bleibt ein Dokument. SentinelOne setzt die Regeln Ihrer AUP in technische Kontrollen um, die bei jedem Prompt, Tool und Agenten in Ihrer Umgebung greifen. Echtzeittransparenz und die Durchsetzung von Richtlinien über Tausende von KI-Tools hinweg sorgen dafür, dass Ihre Listen genehmigter und verbotener Tools verbindlich statt bloße Absichtserklärungen sind. Die Schwärzung direkt am Endpunkt entfernt sensible Daten, bevor sie ein externes Modell erreichen. Integrierte Hinweise korrigieren riskantes Verhalten im entscheidenden Moment. 

Dieselbe Durchsetzung gilt auch für Entwicklertools wie Code-Assistenten und integrierte Entwicklungsumgebungen (IDEs). Sie schließt damit die Lücke bei eingebetteter KI und KI von Drittanbietern, die die meisten Richtlinien übersehen. Sie erfasst auch agentische Systeme: Die Erkennung nicht genehmigter Agenten und von Model Context Protocol (MCP)-Servern, richtlinienbasierte Kontrollen für Agentenaktionen und durchsuchbare Audit-Logs liefern den Nachweispfad, den Ihre AUP verlangt.

Purple AI™ unterstützt Untersuchungen und KI-gestütztes Threat Hunting als Sicherheitsanalyst, der natürliche Sprache versteht. Frühe Anwender berichten, dass sie Bedrohungssuchen bis zu 80 % schneller durchführen. Ihr SOC gelangt von verstreuten Signalen zur KI-Nutzung zu priorisierten Untersuchungsansätzen.

Die Singularity™ Platform bildet die Grundlage für Transparenz und Durchsetzung: mit einem Agenten, einer Konsole und einem einheitlichen Data Lake für Endpunkte, die Cloud und Identitäten. Sie verhindert und erkennt Bedrohungen autonom und reagiert darauf. Bei den 2024er MITRE ATT&CK Evaluations erzeugte die Behavioral AI der Plattform 88 % weniger Warnmeldungen als der Median aller bewerteten Anbieter. So bearbeiten Ihre Analysten eine kurze Liste tatsächlicher Befunde statt unnötiger Meldungen.

CISOs können dem Vorstand eine klare Strategie für die KI-Governance vorlegen. SOC-Verantwortliche erhalten Kontrollen, die sie in der gesamten Umgebung durchsetzen können.

Vereinbaren Sie eine Demo von SentinelOne, um zu sehen, wie diese Kontrollen zu Ihrer KI-Richtlinie passen.

Tour starten

Erhalten Sie vollständige Transparenz, Sicherheit und Governance über die KI-Nutzung in Ihrem Unternehmen. Decken Sie Schatten-KI auf, schützen Sie Ihre sensiblen Daten und ermöglichen Sie den sicheren Einsatz von KI in der Organisation.

Fazit

Betrachten Sie alles, was Ihre Mitarbeitenden in ein KI-Tool eingeben, als Daten, die Sie möglicherweise nicht zurückholen können. Das ist der praktische Grund, die KI-Nutzung schriftlich zu regeln, bevor Aufsichtsbehörden oder ein Gericht die Frage an Sie richten. Eine Richtlinie ist dann sinnvoll, wenn sie konkret wird: mit abgestuften Datenregeln, einer Durchsetzung ohne Abhängigkeit von manueller Überprüfung und einem festgelegten Überprüfungstermin. 

Prompt Security setzt diese Regeln dort durch, wo KI genutzt wird. Die Singularity Platform und Purple AI geben Ihrem SOC die Transparenz und Geschwindigkeit, um auf Erkenntnisse zu reagieren. Mit diesen Bausteinen nutzt Ihr Team KI offen und innerhalb von Grenzen, die Sie durchsetzen können.