16. Juli 2026
Anfang Juni sperrte Anthropic auf Anordnung der US-Regierung den Zugang zu
seinem neuesten KI-Modell für bestimmte Behörden. Hintergrund war die
Befürchtung, dass es einzelnen Akteuren gelungen sein könnte, die
Sicherheitsmechanismen des Modells zu umgehen und es für illegale Zwecke zu
nutzen [].
In diesem Zusammenhang fiel immer wieder der Begriff Jailbreaking: der Versuch,
Sicherheitsvorkehrungen eines KI-Modells durch geschickt formulierte Eingaben zu
umgehen, um geschützte Informationen zu erhalten. Anders als bei einem
Hackerangriff wird dabei keine technische Schwachstelle ausgenutzt, sondern
gezielt die Art, wie Sprachmodelle Sprache verstehen und Anweisungen verarbeiten
[, , ].
--------------------------------------------------------------------------------
RELEVANZ FÜR KMU
Viele KMU haben keine eigene IT-Sicherheitsabteilung, nutzen KI aber längst im
Tagesgeschäft – etwa zur Datenanalyse oder über KI-Assistenten mit Zugriff auf
Firmenwissen. Jailbreaking bedeutet nicht, dass Angreifende jederzeit
uneingeschränkt an Daten kommen, zeigt aber, dass sich Sicherheitsmechanismen
grundsätzlich umgehen lassen. Greifen KI-Agenten auf interne Wissensdatenbanken
zu, gilt: Sensible Informationen sollten nur dort verfügbar sein, wo sie
wirklich gebraucht werden [2, 3].
--------------------------------------------------------------------------------
UND DIE MITBESTIMMUNG?
Der Einsatz von KI im Betrieb ist nicht nur eine IT-Sicherheitsfrage, sondern
auch eine Frage der Mitbestimmung. Systeme, die geeignet sind, das Verhalten
oder die Leistung von Mitarbeitenden zu überwachen, unterliegen nach § 87 Abs. 1
Nr. 6 BetrVG der Mitbestimmung des Betriebsrats. Auch Regeln zum Umgang mit
sensiblen Daten sollten dort, wo ein Betriebsrat besteht, gemeinsam mit ihm
erarbeitet werden.
Nicht jeder Betrieb (insbesondere bei KMU) hat einen Betriebsrat oder ein
vergleichbares Gremium.
In diesem Fall raten wir Unternehmen sich direkt an ihre Mitarbeiter:innen zu
wenden und aktiv Feedback einzuholen. Es sollte frühzeitig und offen
kommuniziert werden, welche KI-Tools genutzt werden sollen.
--------------------------------------------------------------------------------
LÄSST SICH JAILBREAKING KOMPLETT VERHINDERN?
Die ehrliche Antwort: Nein, zumindest nicht vollständig. KI-Anbieter arbeiten
kontinuierlich daran, ihre Modelle robuster zu machen, und auch die
KI-Verordnung verpflichtet sie dazu. Einen hundertprozentigen Schutz gibt es
aktuell trotzdem nicht [3] – das ist keine Schwäche einzelner Anbieter, sondern
eine Eigenschaft der Technologie selbst.
Was können Betriebe konkret tun?
* Klare Regeln aufstellen: Festlegen, welche Informationen in öffentliche
KI-Systeme eingegeben werden dürfen – idealerweise mit dem Betriebsrat,
ansonsten direkt mit den Mitarbeitenden abgestimmt.
* Mitarbeitende sensibilisieren: Wer weiß, dass auch moderne Sprachmodelle
keine vollständig geschlossenen Systeme sind, geht automatisch vorsichtiger
mit sensiblen Daten um.
* Datenzugriff gezielt einschränken: Nicht jede KI-Anwendung braucht Zugriff
auf sämtliche Unternehmensinformationen. Je gezielter Daten freigegeben
werden, desto geringer das Risiko im Fall einer Sicherheitslücke [2, 3].
Diese Punkte lassen sich mit wenig Aufwand umsetzen – unabhängig davon, ob ein
Betriebsrat existiert.
--------------------------------------------------------------------------------
ZWISCHEN INNOVATION UND VERANTWORTUNG
Jailbreaking zeigt, dass KI-Systeme trotz Sicherheitsmechanismen nicht unfehlbar
sind. Das ist kein Grund, auf KI zu verzichten, macht aber den
verantwortungsvollen – und mitbestimmten – Einsatz umso wichtiger [2, 3].
Sie sind sich unsicher, wie es in Ihrem Betrieb um den sicheren,
menschenzentrierten Umgang mit KI steht? Gerne unterstützen wir Sie dabei, eine
praxisnahe, menschenzentrierte KI-Richtlinie zu entwickeln und Ihr Team dafür zu
sensibilisieren – sprechen Sie uns einfach an.
--------------------------------------------------------------------------------
QUELLEN
1. Science Media Center Germany. (2026). Anordnung der US-Regierung: Anthropic
schränkt Zugang zu neuen KI-Modellen ein.
2. IBM. (o. D.). AI Jailbreak: Was ist ein KI-Jailbreak?
3. Teichmann, F. (2026). Generative AI Jailbreaks: Ethical, Societal and Legal
Implications. International Cybersecurity Law Review, 7, 187–204.
4. Deutschlandfunk. (2025). KI-Jailbreaks: Wie sicher sind Chatbots?
Das Beitragsbild wurde mit KI generiert.
--------------------------------------------------------------------------------