Kann ein schwächeres KI-Modell helfen, ein stärkeres zu beaufsichtigen? Anthropic-Forschende untersuchten diese Frage in einem begrenzten Experiment mit parallel arbeitenden Claude-Agenten. Ihr Bericht vergleicht das Ergebnis der Agenten mit einer menschlichen Ausgangsarbeit an derselben Forschungsfrage.
Was die 97 Prozent bedeuten
Das Team mass die Leistungslücke zwischen dem schwachen Aufseher und einem starken Modell, das mit korrekten Antworten trainiert wurde. Zwei Forschende schlossen nach sieben Tagen Anpassung vorhandener Methoden 23 Prozent dieser Lücke. Darauf aufbauend erreichten neun parallele Agenten nach fünf weiteren Tagen und insgesamt 800 Agentenstunden 97 Prozent. Das bedeutet nicht, dass 97 Prozent aller KI-Sicherheitsprobleme gelöst wären.
Die Kosten für Rechenleistung und API-Aufrufe beziffert das Team auf rund 18.000 Dollar. Menschen wählten Problem und Bewertung aus; die Agenten bauten auf ihrer Vorarbeit auf. Die Zahlen sind deshalb kein allgemeiner Vergleich menschlicher und künstlicher Forschungsfähigkeit.
Die Grenzen des Versuchs
Untersucht wurden bestimmte Modelle mit offenen Gewichten und ausgewählte Datensätze. Die Übertragung auf grössere Modelle und andere Aufgaben ist laut Forschenden eine gesonderte Herausforderung. Das Ergebnis zeigt einen möglichen automatisierten Forschungsschritt, beweist aber keine sichere Aufsicht über künftige übermenschliche Systeme.
