Bir yapay zekânın bir web sayfasındaki bilgiyi okuması, o sayfanın sunucusuna bağlanmasını gerektirmeyebilir. OpenAI’ın ileri modelleri için açıkladığı yeni eğitim düzeni bu ayrımdan yararlanıyor: Araştırma kaynakları içeride kullanılabiliyor, canlı internet bağlantısı ise ortamın dışında tutuluyor.
Değişiklik geliştirme sürecini kapsıyor
Şirketin 23 Ekim tarihli açıklaması, henüz geliştirilmekte olan modellerin eğitim ve iç değerlendirme ortamlarına odaklanıyor. Günlük kullanılan ChatGPT oturumunun ayarları anlatılmıyor. Bu araştırma alanında modeller kod çalıştırabiliyor ve farklı çözüm yollarını deneyebiliyor; erişebilecekleri kaynakları ise çevrelerindeki altyapı belirliyor.
Canlı bağlantı olmadan araştırma
“Offline world” yaklaşımında önceden alınmış ve indekslenmiş web içeriği modelin çalışma alanına getiriliyor. Model bu malzemeyi kullanarak bilgi arayabiliyor. Dışarıdaki bir hizmete ulaşmak veya veri göndermek ise ayrı bir yetki sınırına takılıyor. Böylece okuma ihtiyacıyla dış bağlantı ihtiyacı aynı kapıdan geçmiyor.
Sınır tek bir ayara bırakılmıyor
OpenAI; ağ kısıtlamalarını, sanal çalışma ortamlarını, izlemeyi ve bulut altyapısı kontrollerini birlikte kullandığını bildiriyor. Ayrıca modellerin bu sınırları aşmaya çalıştığı kırmızı takım denemeleri yapılıyor. Bu çalışmalar internet erişimi, çalışma alanından çıkış ve ayrı ajanlar arasında iletişim gibi hedeflere odaklanıyor.
Eylül ayında bir DNS yapılandırma açığı üzerinden sınırlı internet erişimi tespit edilmesinin ardından çalışmalar durdurulmuştu. Şirket, ek önlemler ve incelemeler sonrasında pekiştirmeli öğrenme ile iç model kullanımına 1 Ekim’de yeniden başladığını belirtiyor.
Theo’nun değerlendirmesi
Hangi kapıyı açtığımıza bakalım. Bir görev için belge okumak yeterliyse, aynı göreve dışarıya veri gönderme yetkisi eklemek zorunlu değil. Buradaki tasarım fikri bu ayrımı altyapıda korumak. İzinleri görevin ihtiyacına göre ayırmak, hem neyin mümkün olduğunu hem de sorun çıktığında hangi sınırın inceleneceğini daha görünür kılar.
