Einleitung
In den letzten Monaten haben die großen KI‑Anbieter spezielle Programme und strenge Sicherheitsvorkehrungen eingeführt, um zu verhindern, dass ihre Modelle von böswilligen Akteuren missbraucht werden. Während diese Maßnahmen aus Sicht der Unternehmen und Regulierungsbehörden sinnvoll erscheinen, zeigen sich in der Praxis erhebliche Probleme für legitime Sicherheitsforscher, die genau dieselben Werkzeuge benötigen, um Schwachstellen aufzudecken und Systeme zu stärken.
Regulierungsdruck und Exportkontrollen
Im Juni 2026 verhängte die US‑Regierung Exportkontrollen für Anthropics KI‑Modelle Mythos und Fable. Der Schritt folgte einem Bericht, der behauptete, die Guardrails der Modelle könnten umgangen werden, um gezielte Cyberangriffe zu planen. Obwohl die Kontrollen später teilweise aufgehoben wurden – Fable 5 ist seit dem 1. Juli wieder allgemein verfügbar, Mythos 5 bleibt jedoch nur für ausgewählte US‑Organisationen im Rahmen eines Prüfverfahrens zugänglich – bleibt das Grundproblem bestehen: Die Modelle werden als potenzielle „Doomsday‑Maschinen“ vermarktet, die nur unter strengster Aufsicht genutzt werden dürfen.
Programme für geprüfte Zugriffe
Sowohl Anthropic als auch OpenAI bieten spezielle Zugangsprogramme an, die Forschern nach einer Vetting‑Phase weniger restriktive Nutzung ermöglichen. OpenAI nennt sein Angebot Trusted Access for Cyber, Anthropic das Cyber Verification Program. Diese Initiativen sollen ein Gleichgewicht zwischen Sicherheit und Forschung schaffen, doch die Praxis zeigt, dass die Hürden oft zu hoch sind und die Guardrails selbst nach erfolgreicher Zulassung noch zu restriktiv bleiben.
Kritik aus der Offensive‑Security‑Community
Mehrere Experten aus dem Bereich der offensiven Sicherheit äußern sich kritisch. Sie argumentieren, dass die derzeitigen Guardrails nicht nur Hacker, sondern auch Verteidiger und Forscher behindern, die proaktiv Schwachstellen identifizieren wollen, bevor Kriminelle sie ausnutzen.
Mark Dowd: „Zufällige Unternehmen bestimmen Sicherheit“
Der renommierte Sicherheitsforscher Mark Dowd betont, dass es problematisch sei, wenn große Technologieunternehmen willkürlich entscheiden, was als „sicher“ gilt. Dowd, der seit Jahrzehnten Zero‑Day‑Lücken an westliche Regierungen verkauft, weist darauf hin, dass Regierungen bereit sind, für nicht gepatchte Schwachstellen zu zahlen, weil sie für nachrichtendienstliche Zwecke wertvoll sind. Für ihn ist die Einschränkung durch KI‑Guardrails ein Hindernis, das die Qualität und Geschwindigkeit seiner Arbeit reduziert.
Chris Anley: Das Dilemma von Hammer und Waffe
Chris Anley, Chef‑Wissenschaftler bei NCC Group, beschreibt KI‑Modelle als „Hammer“, der sowohl zum Bau eines Hauses (Verteidigung) als auch zum Zerstören (Angriff) verwendet werden kann. Wenn ein Guardrail das Modell dazu zwingt, eine Anfrage abzulehnen, verliert der Forscher ein wichtiges Werkzeug, um zu prüfen, ob ein gefundener Bug tatsächlich ausnutzbar ist. Anley betont, dass die Trennung von offensiver und defensiver Nutzung bei KI‑Modellen kaum machbar ist, weil dieselben Prompts beide Zwecke bedienen können.
Paolo Stagno: Kindersicherung oder Innovationsbremse?
Paolo Stagno, CTO von Crowdfense, kritisiert die Guardrails als „Babysitting“ für erwachsene Fachleute. Sein Team nutzt zwar Frontier‑Modelle für Reverse‑Engineering, vermeidet jedoch den Einsatz von KI zur Schwachstellenfindung, weil die restriktiven Vorgaben das Risiko von Fehlinterpretationen und Fehlentscheidungen erhöhen. Stattdessen greifen sie auf Open‑Source‑Modelle zurück, die keinerlei Guardrails besitzen – ein Hinweis darauf, dass die aktuelle Politik die Innovationskraft der Sicherheitsforschung erstickt.
Ausblick und mögliche Lösungen
Die Diskussion verdeutlicht, dass ein ausgewogenes Regelwerk nötig ist, das sowohl Missbrauch verhindert als auch legitime Forschung ermöglicht. Vorschläge reichen von transparenteren Vetting‑Prozessen über differenzierte Guardrails, die je nach Anwendungsfall angepasst werden können, bis hin zu einer stärkeren Einbindung der Sicherheitscommunity in die Entwicklung von Richtlinien. Ohne solche Anpassungen riskieren Unternehmen und Regierungen, dass die besten Verteidiger ihrer eigenen Schutzmechanismen ausgeliefert werden.