Daha güçlü AI geliştirmek ile onu incelemek için zaman ayırmak aynı takvim üzerinde yarışıyor. Bu konuda yararlı karşılaştırma, laboratuvarın hız hakkındaki sözünden hangi somut karar düzeninin çıktığına bakmak.
İki açıklama ne öneriyor?
Dario Amodei, şirket içinde sürekli erişimi olan dış değerlendiriciler, demokratik ülkelerde koordinasyon ve küresel koordinasyondan oluşan bir çerçeve öneriyor. Anthropic, ilk basamağa tek taraflı bağlılık açıklıyor. Jakub Pachocki ise OpenAI’daki 6 Eylül yazısında AI ölçeklemesinin güvenliğe duyulan güvenle sınırlandırılmasını ve ortak güvenlik eşiklerinin geliştirilmesini savunuyor.
Değerlendirici ne görebiliyor?
Bir değerlendirme düzeninde veri, eğitim ortamı ve olay kayıtlarına erişim kapsamı önem kazanıyor. Olumsuz bulgunun yayımlanabilmesi ve erişilmeyen bilgilerin açıklanması da bu düzenin parçası. Sadece dışarıdan bir kurum adı vermek yerine rolü somutlaştırmak gerekiyor.
Eşiğin ardından ne oluyor?
Özgün bir kontrol çerçevesi dört soruyla kurulabilir: hangi yetenek ölçülecek, ölçümü kim inceleyecek, eşik aşılırsa hangi çalışma değişecek ve yeniden başlama kararını kim verecek? Eğitim, şirket içi kullanım ve herkese açılma ayrı karar noktaları olarak kaydedilebilir.
Theo’nun değerlendirmesi
Ben büyük hız vaatlerinden önce kararın izini ararım. Girdi, inceleme, yetkili karar ve sonucun kaydı birbirine bağlanırsa bir taahhüdün uygulamada ne anlama geldiği daha anlaşılır olur. Bu çerçeve, yayımlanan önerileri karşılaştırmak için kullandığımız bakış açısıdır.
