Anthropic warnt vor Beschleunigung selbst‑verbessernder KI
Anthropic legt einen Bericht zu rekursiv selbstverbessernden Systemen (RSI) vor und meldet, dass das Sprachmodell Claude zunehmend Entwickleraufgaben übernimmt. Interne Daten zeigen, dass ein großer Anteil des zusammengeführten Codes von Claude stammt und die Entwicklungsrate zuletzt deutlich stieg. Das Unternehmen sieht RSI als mögliches Zukunftsszenario und fordert koordinierte politische Gespräche und Vorsichtsmaßnahmen.
- Bericht untersucht Risiken und Pfade zu rekursiver Selbstverbesserung (RSI).
- Mehr als 80 % des zusammengeführten Codes stammen laut Anthropic im Mai von Claude.
- Entwickler liefern in Q2 2026 bis zu achtmal mehr Code pro Tag als 2024.
- Anthropic will bei kollegialer Zurückhaltung ebenfalls langsamer vorgehen.
- OpenAI beschreibt ähnliche Erstansätze zu RSI in seiner Governance‑Skizze.
- Startups und andere Labore berichten ebenfalls von selbstverstärkender Entwicklung.
Anthropic hat in einem neuen Bericht die Möglichkeit rekursiv selbstverbessernder KI‑Systeme (RSI) analysiert und interne Entwicklungsdaten veröffentlicht. Die Firma betont, dass RSI noch nicht Realität und auch nicht zwangsläufig ist, sieht jedoch eine beschleunigende Dynamik in der Entwicklung.
Interne Zahlen von Anthropic zeigen, dass ein Großteil des zusammengeführten Codes im Projekt Claude inzwischen von dem Modell selbst verfasst wurde. Zudem stieg die Code‑Produktivität der Ingenieurteams in kurzer Zeit deutlich an, was auf eine stärkere Automatisierung von Entwicklungsaufgaben hindeutet.
Anthropic warnt, dass spätere Versionen von Modellen potenziell von früheren Versionen in größerem Maße aufgebaut werden könnten, ohne dass Menschen jeden Schritt direkt steuern. Ähnliche Sorgen hat zuletzt auch OpenAI in einem Governance‑Papier geäußert.
Als Reaktion auf das Risiko plant Anthropic politische Gespräche mit anderen Akteuren und hat erklärt, bei einem breiten Peer‑Konsens über Zurückhaltung die eigene Forschung zu drosseln oder zu pausieren. Praktische Umsetzung und globale Koordination bleiben jedoch problematisch.
Auch andere Labore und Startups berichten von frühen Formen der Selbsthilfe bei Modellen, wodurch das Thema breit diskutiert wird. Die technische und gesellschaftliche Unsicherheit über mögliche Entwicklungen ist weiterhin groß.
Die Debatte dreht sich nun darum, welche technischen Schutzmaßnahmen, Governance‑Regeln und internationalen Absprachen nötig sind, um potenziell riskante Pfade der KI‑Entwicklung beherrschbar zu machen. Viele Fragen bleiben offen, sowohl wissenschaftlich als auch politisch.