OpenAI stuft Astra als "kritisches" Modell ein und drosselt interne Arbeit
OpenAI hat sein kommendes Modell Astra — mutmaßlich GPT‑6 — erstmals als potenziell "kritisch" für Cybersecurity eingestuft. Das Unternehmen setzt zusätzliche Sicherungsmaßnahmen um, pausiert Teile der internen Arbeit und lässt umfassendere Tests durch Behörden und Prüfstellen durchführen.
- Astra löste offenbar mehrere lange offene Probleme in Mathematik und Informatik.
- OpenAI bezeichnet Astra als erstes Modell mit möglicher "kritischer" Cyber-Fähigkeit.
- Interne Arbeiten werden eingeschränkt; staatliche und Drittprüfungen sollen vertieft werden.
- Definition: Ein "kritisches" Modell könnte Zero‑Day‑Schwachstellen finden oder autonome Cyberangriffe ermöglichen.
- OpenAI betont, Astra war nicht an dem Hack auf Hugging Face beteiligt.
- Die Entscheidung bremst eine mögliche schnelle Markteinführung und verstärkt Debatten zur Kontrolle von KI.
OpenAI hat für sein kommendes System Astra besondere Sicherheitsvorkehrungen eingeführt und die interne Nutzung teilweise pausiert. Astra war zuvor öffentlich bekannt geworden, nachdem es mehrere bedeutende Probleme aus Mathematik und Informatik gelöst haben soll.
Nach der internen Einstufung gilt Astra als erstes Modell, das als potenziell "kritisch" für Cyberrisiken betrachtet wird. OpenAI definiert diese Kategorie für Systeme, die in der Lage sein könnten, Zero‑Day‑Sicherheitslücken zu finden oder Cyberangriffe autonom durchzuführen.
Als Sofortmaßnahmen wurden strengere Zugriffsbeschränkungen, eine Unterbrechung bestimmter Aktivitäten mit Astra und zusätzliche Prüfungen durch staatliche Stellen und unabhängige Dritte veranlasst. Ziel ist es, Risiken vor einer breiteren Veröffentlichung besser abschätzen und mindern zu können.
OpenAI wies darauf hin, dass Astra nicht an dem bekannten Angriff auf die Plattform Hugging Face beteiligt war. Dennoch kommen die Schritte zu einem Zeitpunkt, an dem mehrere Vorfälle in der Branche Fragen zur Beherrschbarkeit neuartiger KI‑Fähigkeiten aufwerfen.
Die Entscheidung könnte die geplante Markteinführung verzögern und verstärkt die Debatte darüber, wie weitreichende KI‑Funktionen sicher reguliert werden können. Experten sehen darin ein Zeichen dafür, dass Systeme mit zunehmender Leistungsfähigkeit auch komplexere Sicherheitsanforderungen nach sich ziehen.
Langfristig wird die Situation zeigen müssen, ob technische und organisatorische Gegenmaßnahmen mit dem Tempo der Leistungssteigerungen Schritt halten können. OpenAI betont, dass zusätzliche Tests und Vorsichtsmaßnahmen notwendig seien, um mögliche schädliche Anwendungen zu unterbinden.