Ein neuer Ansatz für die Regulierung von Frontier‑KI
Auf X veröffentlichte Demis Hassabis, CEO von Google DeepMind, einen detaillierten Vorschlag für ein unabhängiges Gremium, das die Veröffentlichung von hochentwickelten KI‑Modellen streng überwachen soll. Inspiriert vom Modell der Financial Industry Regulatory Authority (FINRA) will das geplante „Standards Body“ technische Prüfungen durchführen, Best‑Practice‑Richtlinien erarbeiten und als Bindeglied zwischen Forschungslabors und Behörden fungieren.
Freiwillige Vorab‑Tests und mögliche Zulassungspflicht
In der ersten Phase sollen sogenannte Frontier Labs ihre Modelle bis zu dreißig Tage vor dem geplanten Launch freiwillig an das Gremium übermitteln. Nach einer erfolgreichen Evaluation könnte dieses Verfahren schnell zu einer formellen Anforderung werden, sodass jedes Frontier‑Modell, das den US‑Markt betreten will, die Zertifizierung bestehen muss. Zusätzlich sollen Labore gemeinsam mit dem Gremium kritische Schwachstellen nach dem Rollout adressieren.
Probleme vergangener Regierungsreviews
Der Vorschlag baut auf den bisherigen, eher ad‑hoc‑Artigen Prüfungen der US‑Regierung zu Systemen wie Anthropics Mythos und OpenAIs Sol auf. Diese Reviews wurden wegen mangelnder technischer Expertise und intransparenter Entscheidungsfindung kritisiert. Hassabis’ Konzept verlagert diese Verantwortung in ein neu geschaffenes, von der Regierung unterstütztes, aber von der KI‑Industrie finanziertes und operativ unabhängiges Organ.
Finanzierung, Fachkompetenz und operative Unabhängigkeit
Um Bedenken gegenüber staatlichen Eingriffen zu zerstreuen, soll das Gremium als Selbstregulierungsorganisation nach dem FINRA‑Prinzip agieren. Es würde aus Open‑Source‑Vertretern, technischen Expert*innen der Branche und unabhängigen Sicherheitsteams bestehen, wobei die Finanzierung von den AI‑Laboren selbst stammt. Durch Outsourcing bestimmter Bewertungen an spezialisierte KI‑Sicherheitsgruppen könnte das Gremium flexibel auf unterschiedliche Risikotypen reagieren.
Innovation fördern, Verantwortung stärken
Hassabis betont, dass dieser Ansatz technikzentriert ist, jedoch gleichzeitig Innovation nicht erstickt. Durch kontinuierliche Anpassung an das rasante Entwicklungstempo der KI‑Forschung soll das Gremium schnell auf neu auftretende Gefahren reagieren können. Sollte die Lage es erfordern, könnte das Prüfverfahren weiter verschärft werden – ein „Ratcheting‑Mechanismus“, der die Sicherheit stets in den Vordergrund stellt.
Die Idee stößt sowohl in der Technologie‑Community als auch in politischen Kreisen auf kontroverse Diskussionen. Während einige Beobachter ein staatliches „FDA für KI“ für unwahrscheinlich halten, sehen sie in einer branchenintern organisierten Instanz eine praktikable Lösung, um sowohl Vertrauen als auch Fortschritt zu sichern.