Ajanı kim denetliyor?AI Güvenliği
METR, OpenAI’ın şirket içi ajan izleme sistemini inceledi
Temmuz–Ağustos incelemesi, geçmişteki izleme kapsamını ve konuşma kısaltma olaylarının sisteme nasıl girdiğini ele alıyor.
Merak ettiğin konuyu keşfet
Ajan Güvenliği
Ajan Güvenliği alanındaki haberler ve anlaşılır örnekler.
Ajanı kim denetliyor?
Kaynağa dikkatAI Güvenliği
Prompt injection: Ajanın okuduğu metin neden işlem izni değildir?
Web sayfası veya dosyadaki yönlendirme, kullanıcının göreviyle karışabilir. Kaynak ayrımı, dar yetki ve gerçek çıktı kontrolü birlikte çalışmalı.