Warum die Sperre von Fable 5 laut mehr als 100 Sicherheitsforschern nach hinten losgeht
Nach einer US-Anordnung zog Anthropic die Modelle Mythos und Fable zurück. Mehr als 100 Sicherheitsforscher warnen, ein pauschales Verbot von Fable 5 könne gefährlichere Folgen haben als die Freigabe — unter anderem durch Verringerung von Transparenz und Erschwerung von Sicherheitsforschung. Statt Totalverbot fordern sie gezielte, kontrollierte Maßnahmen und internationale Abstimmung.
- Anthropic zog Mythos und Fable nach einer US-Anordnung zurück.
- Über 100 Sicherheitsforscher halten ein Verbot von Fable 5 für kontraproduktiv.
- Risiko: Entwicklung und Missbrauch könnten ins Verborgene verlagert werden.
- Sicherheitsforschung und Tests würden durch Einschränkungen leiden.
- Experten plädieren für gezielte Regulierung, Tests und internationale Kooperation.
Nach einer Anordnung aus den USA hat Anthropic die Modelle Mythos und Fable aus dem Verkehr gezogen. Die Maßnahme hat eine Debatte unter Sicherheitsforschern losgetreten, die sich intensiv mit den Folgen solcher Eingriffe auseinandersetzen.
Mehr als hundert Experten warnen, dass ein generelles Verbot von Fable 5 unerwünschte Nebeneffekte haben könne. Ihrer Einschätzung nach führt ein Totalverbot nicht automatisch zu mehr Sicherheit, sondern verschiebt Risiken in schwer kontrollierbare Bereiche.
Kritiker nennen mehrere konkrete Probleme: Forschung an Schwachstellen würde erschwert, unabhängige Prüfungen sänken und Entwicklung möglicherweise in weniger transparente, private oder illegale Kanäle abwandern. Diese Effekte machten es schwerer, Bedrohungen frühzeitig zu erkennen und zu beheben.
Statt eines generellen Verbots empfehlen die Unterzeichner zielgerichtete Maßnahmen: formalisierte Tests (Red‑Teaming), verpflichtende Transparenzvorgaben, abgestufte Freigabeverfahren und internationale Abstimmung, um Inkonsistenzen zwischen Rechtsräumen zu vermeiden.
Die Debatte zeigt, dass Regulierung von KI technisch versiert und abgestimmt erfolgen muss. Ein ausgewogener Ansatz sollte Sicherheitsforschung ermöglichen, Missbrauch vorbeugen und gleichzeitig offene Kontrolle und Kooperation zwischen Unternehmen, Forschern und Behörden fördern.