Anthropic-Chef warnt vor KI‑Gefahren und fordert stärkere Regeln
Der Vorstandsvorsitzende des KI‑Unternehmens Anthropic hebt die wachsenden Risiken leistungsfähiger KI‑Modelle hervor und plädiert für verbindliche Sicherheitsprüfungen, unabhängige Audits und eine engere Zusammenarbeit von Politik und Industrie, um Missbrauch und unbeabsichtigte Schäden zu begrenzen.
- Anthropic‑Leitung sieht ernsthafte Risiken durch fortgeschrittene KI
- Forderung nach verpflichtenden Tests und unabhängigen Audits vor Einsatz
- Unternehmen sollen mehr in Sicherheitsforschung und Stress‑Tests investieren
- Regulatorische Zusammenarbeit national und international notwendig
- Vorsichtige, gestufte Einführung leistungsfähiger Systeme empfohlen
Der Chef des KI‑Unternehmens Anthropic hat öffentlich vor den potenziellen Gefahren leistungsfähiger KI‑Modelle gewarnt und betont, dass technischer Fortschritt ohne passende Schutzmechanismen erhebliche Risiken birgt.
Zu den genannten Gefahren zählen Missbrauch durch Dritte, unbeabsichtigte schädliche Verhaltensweisen von Modellen sowie gesellschaftliche Nebenfolgen wie Desinformation und Störungen von Arbeitsmärkten. Solche Risiken seien nicht nur hypothetisch, sondern bedürften konkreter Gegenmaßnahmen.
Als Reaktion verlangt er verbindliche Sicherheitsprüfungen vor dem großflächigen Einsatz neuer Systeme, unabhängige Audits zur Bewertung von Risiken und mehr Transparenz seitens der Anbieter über Leistungsfähigkeit und Grenzen ihrer Modelle.
Anthropic selbst setzt laut Aussage des Managements verstärkt auf interne Sicherheitsforschung, systematisches Testen und Red‑Teaming, um Schwachstellen frühzeitig zu entdecken und abzumildern. Solche Maßnahmen sollen die Einführung neuer Systeme absichern.
Herausfordernd bleibe jedoch die schnelle technische Entwicklung kombiniert mit uneinheitlichen internationalen Regeln. Deshalb sehen die Forderungen neben nationaler Gesetzgebung auch die Notwendigkeit internationaler Abstimmung und gemeinsamer Standards vor.
Abschließend betont die Unternehmensführung, dass eine Kombination aus unternehmensinterner Vorsicht, regulatorischer Aufsicht und internationaler Kooperation nötig ist, um die Vorteile von KI nutzbar zu machen und gleichzeitig erhebliche Schäden zu verhindern.