Bir yapay zekâ hizmeti size belirli bir modeli kullandığını söylüyor. Peki cevabın gerçekten o modelden geldiğini nasıl anlarsınız? Anthropic’in açık kaynaklı araştırma prototipi FlashProve, bu soruya matematiksel bir kanıtla yaklaşmayı amaçlıyor.
Parmak izi nasıl çalışıyor?
Anthropic’in araştırmasına göre model sağlayıcısı önce modelin ağırlıklarına, yani öğrendiği sayısal parametrelere bağlı kısa bir dijital parmak izi yayımlıyor. Ardından belirli bir istek ve çıktı için ayrı bir kanıt dosyası üretiyor. Doğrulayan kişi, parmak izi, istek, çıktı ve bu dosyayla çıktının taahhüt edilen ağırlıklarla hesaplanıp hesaplanmadığını kontrol edebiliyor.
Burada parmak izinin doğru modele ait olduğunu güvenilir bir kaynaktan bilmek de önemli. Kanıt, yanıtın doğru, güvenli veya tarafsız olduğunu söylemiyor; belirli hesaplamanın taahhüt edilen modelle ilişkisini gösteriyor.
Sistem, sıfır bilgi kanıtı adı verilen bir yöntem kullanıyor: Kanıt, modelin gizli ağırlıklarını açmadan kontrol yapılmasını hedefliyor. Anthropic, model mimarisinin gizlenmediğini ve zamanlama gibi yan kanallardan bilgi sızması riskinin bu sürümün kapsamı dışında olduğunu belirtiyor.
Neden yararlı olabilir?
Bir müşteri, pahalı bir model yerine daha ucuz bir modelin gizlice kullanılıp kullanılmadığını daha iyi denetleyebilir. Güvenlik araştırmacıları da test ettikleri model ile kullanıcılara sunulan modelin aynı olup olmadığını karşılaştırabilir. Bunlar araştırmanın mümkün gördüğü kullanım alanları; mevcut ürünlerde otomatik olarak sunulan özellikler değiller.
Deney ne gösterdi?
Anthropic, sistemi Meta’nın Llama 4 Maverick modelinin 4 bitlik sürümüyle değerlendirdi. Teknik özette yaklaşık 19 MB büyüklüğündeki kanıt, 1.024 token’lık bir isteği kapsıyor. Kanıt üretimi normal model çalıştırmaya göre ek GPU zamanı gerektiriyor; bu nedenle çalışma henüz bir araştırma prototipi olarak sunuluyor.
FlashProve kodu Apache 2.0 lisansıyla açık. Depo, projeyi bakımı yapılmayan bir araştırma prototipi olarak tanımlıyor. Dolayısıyla bu çalışma, bugün her Claude yanıtına eklenmiş bir doğrulama mührü olarak sunulmuyor.
