Daha zayıf bir yapay zekâ modeli, daha güçlü bir modeli ne kadar iyi denetleyebilir? Anthropic araştırmacıları bu soruyu sınırlı bir deney düzeninde incelemek için paralel çalışan Claude ajanlarından yararlandı. Şirketin raporu, ölçülen görevde ajanların elde ettiği sonucu insan araştırmacıların başlangıç çalışmasıyla karşılaştırıyor.
Yüzde 97 neyi ifade ediyor?
Araştırmacılar, zayıf gözetmenin kendi sonucu ile güçlü modelin doğru yanıtlarla eğitildiğindeki sonucu arasındaki performans farkını ölçtü. İki insan araştırmacı, önceki yöntemleri yedi gün boyunca uyarlayarak bu farkın yüzde 23’ünü geri kazandı. Dokuz paralel ajan, bu çalışmadan hareketle beş gün ve toplam 800 ajan-saat sonunda yüzde 97 düzeyine ulaştı. Bu, bütün güvenlik problemlerinin yüzde 97’sinin çözüldüğü anlamına gelmiyor.
Ekip toplam hesaplama ve API maliyetini yaklaşık 18.000 dolar olarak bildirdi. İnsanlar problemi ve değerlendirme düzenini belirledi; ajanların çalışması mevcut insan sonuçlarını başlangıç noktası olarak kullandı. Bu nedenle rakamlar genel zekâ veya tüm araştırma alanları için bire bir insan karşılaştırması değil.
Sınırlar neden önemli?
Deney belirli açık ağırlıklı modeller ve veri kümeleri üzerinde yürütüldü. Araştırmacılar, yöntemlerin daha büyük modellere ve farklı görevlere güvenilir biçimde aktarılmasının ayrı bir sorun olduğunu belirtiyor. Bulgular, bir gözetim araştırması yönteminin otomatikleştirilebileceğine dair örnek sunuyor; gelecekteki üstün sistemlerin güvenli biçimde denetlenebileceğini kanıtlamıyor.
