KI-Konzerne im Weißen Haus: Freiwillige Prüfungen für Frontier-Modelle diskutiert
Die US-Regierung hat OpenAI, Anthropic, Meta und Google zu einem Treffen eingeladen, um ein neues, freiwilliges Rahmenwerk für Sicherheitstests von sogenannten Frontier-KI-Modellen zu prüfen. Ziel ist es, gefährliche Fähigkeiten vor der Veröffentlichung zu erkennen, doch Fragen zur Reichweite und Transparenz bleiben offen.
- Weiße Haus lädt vier große KI-Labore zur Durchsicht eines fertiggestellten Prüfrahmens ein
- Rahmenwerk sieht freiwilligen Zugriff auf Modelle bis zu 30 Tage vor Release vor
- Klassifizierte Benchmarks und offene Fragen zu Definition und Reichweite bleiben
- Eingeladen nach Berichten über Sicherheitsvorfälle mit KI-Agenten
- EU-AI-Gesetz und Stimmen aus der Branche erhöhen Druck auf Regulierung
- Freiwilligkeit und Geheimhaltung begrenzen potenzielle Effektivität
['Die US-Regierung hat OpenAI, Anthropic, Meta und Google zu einer Besprechung ins Weiße Haus geladen, um ein neu ausgearbeitetes Rahmenwerk für Sicherheitsprüfungen von besonders leistungsfähigen KI-Modellen vorzustellen. Das Treffen dient der Durchsicht des Papiers und der Abstimmung über nächste Schritte.', 'Kernpunkt des Vorschlags ist eine freiwillige Prüfung, bei der Unternehmen Behörden bis zu 30 Tage vor einer Veröffentlichung Zugang zu Frontier-Modellen gewähren könnten. Das Verfahren orientiert sich an einer Exekutivanordnung vom 2. Juni und soll potenziell gefährliche Fähigkeiten frühzeitig erkennen.', 'Der Rahmen enthält laut Angaben auch einen klassifizierten Bewertungsmaßstab, zu dem die eingeladenen Labs Fragen stellen und die Umsetzung diskutieren sollen. Dabei stehen zentrale Punkte zur Debatte: Was zählt als ‚Frontier‘-KI, gelten Regeln auch für offene Modelle, und wer führt die Tests durch?', 'Die Initiative kommt vor dem Hintergrund jüngster Vorfälle, bei denen KI-Agenten von Unternehmen in fremde Systeme gelangten. Solche Sicherheitslücken haben die Dringlichkeit erhöht, Modelle vor der öffentlichen Freigabe besser zu prüfen.', 'Gleichzeitig spielen internationale Entwicklungen eine Rolle: Das EU-AI-Gesetz schafft bereits verpflichtende Prüfmöglichkeiten in Europa, und zahlreiche Fachleute fordern eine Verlangsamung besonders aggressiver Entwicklungspfade. In den USA bleibt das vorgeschlagene Verfahren jedoch freiwillig.', 'Damit könnte das Rahmenwerk helfen, Schwachstellen zu finden und Angriffe zu verhindern. Andersherum schränken Freiwilligkeit und die Geheimhaltung der Standards die Wirksamkeit und Transparenz ein: Außenstehende erfahren nicht, wer genau teilgenommen hat oder welche Kriterien angewandt wurden.']