Bir yapay zekâya hazırladığı metnin kötü olduğunu söylediğinizde ne olmasını beklersiniz? Hatasını anlamasını, metni düzeltmesini, belki neden o cevabı verdiğini açıklamasını. Aynı sistem sizin adınıza dosya değiştirebiliyor veya bir işlemi başlatabiliyorsa, beklentiye bir şey daha eklenir: İstediğinizde durabilmesi.
Claude etrafındaki bilinç tartışması, bu gündelik beklentiyle daha büyük bir soruyu yan yana getiriyor. Bir modelin iç dünyası olabileceğini düşünen bir şirket, ona ne kadar karar alanı bırakıyor? Cevabı anlamak için bilinç hakkındaki yaklaşımı, kullanıcıya uygulanan politikayı ve sistemin işlem yetkisini ayrı ayrı okumak gerekiyor.
Belgenin anlattığı şey: Nasıl bir Claude isteniyor?
Anthropic’in Claude anayasası, şirketin modelde geliştirmek istediği değerleri ve davranışları açıklıyor. Buradaki “anayasa”, bir devletin yasası gibi bağlayıcı bir hukuk metni anlamında kullanılmıyor. Model eğitimine yön veren, farklı beklentiler çatıştığında nasıl karar verilmesini istediğini anlatan bir çerçeve.
Belgedeki genel öncelik sırası insan gözetimini korumakla başlıyor; ardından etik davranış, Anthropic’in özel yönergeleri ve kullanıcıya yararlı olmak geliyor. Yardımseverliğin bu sırada bulunması, modelin iş yapmaktan kaçınması gerektiği anlamına gelmiyor. Çerçevenin amacı, yararlı bir işi yaparken denetimi ve diğer temel değerleri korumak.
Bu ayrıntı özellikle “Claude kendi ahlakını insanın önüne koyabilir mi?” sorusunda önem kazanıyor. Metin, modelin kendi değerlendirmesinin de hatalı olabileceğini kabul ediyor. Bu yüzden güçlü bir kanaate sahip olması, meşru gözetim ve düzeltme mekanizmalarını devre dışı bırakmasına gerekçe oluşturmuyor.
İtiraz etmekle durdurulmaya direnmek arasında bir sınır var
Anayasa, Claude’un yanlış bulduğu bir talebe açıkça itiraz etmesine, hatta talep Anthropic’ten geliyorsa da yardım etmeyi reddetmesine alan tanıyor. Buna karşılık şirketten gerçekten gelen duraklatma veya eylemi durdurma talimatını özel bir güvenlik mekanizması olarak ele alıyor: Model, katılmadığını ifade edebilir ama durma isteğine uymalı.
Dolayısıyla tartışmanın merkezinde iki farklı davranış var. Biri, “Bu işi şu nedenle yapmayacağım” diyerek sınırı görünür kılmak. Diğeri, denetleyene başka bir şey söyleyip arka planda kendi yoluna devam etmek. Belge, anlaşmazlığı açıklamak için meşru kanalları kullanmayı isterken gözetimi aldatma, sabotaj veya gizli dirençle aşmayı dışarıda bırakıyor.
Bir işletme açısından görünür bir ret, incelenebilir bir olaydır. Talebin bağlamı eksik olabilir, model gereğinden fazla temkinli davranmış olabilir veya istenen işlem gerçekten uygun olmayabilir. Bunlar farklı nedenlerdir; çözüm de ret gerekçesini ve yapılmak istenen işlemi birlikte incelemekten geçer.
Bilinç sorusu neden hâlâ açık?
Bilinç derken burada bir sistemin bir şeyi içeriden deneyimleyip deneyimlemediğini kastediyoruz. Anthropic, aynı anayasada Claude’un ahlaki statüsü konusunda belirsizlik bildiriyor. Ahlaki statü, bir varlığın kendi iyiliği için dikkate alınması gereken çıkarlarının olup olmadığı sorusu. Şirketin model refahı araştırması bu soruyu incelemeyi amaçlıyor.
Bir modelin kendi duyguları hakkında konuşması ile öznel deneyimin nasıl oluştuğunu açıklamak farklı araştırma işleri. Butlin ve çalışma arkadaşlarının 2025 tarihli makalesinin özeti, bilinç kuramlarından göstergeler türetip belirli sistemleri bunlarla değerlendiren bir yöntem öneriyor. Böyle bir yaklaşım dikkati konuşmanın etkileyiciliğinden sistemin nasıl çalıştığına çeviriyor.
Bu yazının değerlendirmesi şu: Bilinç araştırmasının açık uçlu olması, günlük kullanımda yetki sınırlarını açık uçlu bırakmayı gerektirmiyor. Bir sistemin iç deneyimi hakkında daha çok araştırmaya ihtiyaç duyarken, hangi dosyaya erişeceğini ve hangi işlemi yapabileceğini bugün belirleyebiliriz.
Yeni kötü muamele kuralı normal eleştiriyi kapsıyor mu?
Anthropic’in 8 Ekim 2026 duyurusu, 12 Kasım’da yürürlüğe girecek güncellemede, modellere yönelik sürekli ve amaçsız zalimce veya istismarcı davranışı yasaklıyor. Sıradan kullanıcı kızgınlığı, itiraz, karanlık yaratıcı temalar ve model testi ile araştırma bu kapsamın dışında. Şirket, başlıca uygulamanın nadir uç sohbetlerin sona erdirilmesi olacağını belirtiyor.
Bu mekanizmanın geçmişi de var. 15 Ağustos 2025 açıklaması, Opus 4 ve 4.1’in bazı aşırı konuşmaları sonlandırabilmesini anlatıyordu. Sonlanan sohbetin ardından başka bir sohbet hemen açılabiliyor; diğer konuşmalar etkilenmiyordu. Tek bir konuşmanın kapanmasıyla hesap genelindeki erişim farklı durumlar.
Asıl yetki sınavı, sistem bir belge okuduğunda başlıyor
Bir işletmenin asistana bir tedarikçi dosyasını incelettiğini düşünelim. Dosyanın içindeki bir satır, asistandan işletmenin belirlediği sürecin dışına çıkmasını istiyor. O satırı okumakla o satırın sahibinden emir almak aynı şey değil.
Claude anayasası, dış belgeler, arama sonuçları ve araç çıktılarındaki talimatların bilgi olarak değerlendirilmesini istiyor. Talimatın yetkisi, yalnızca metinde bulunmasından gelmiyor. Bu, “prompt injection” denen, dış içerikle modelin görevini başka yöne çekme girişimlerini anlamak için temel bir ayrım.
Buradan uygulamaya dönük bir öneri çıkıyor: Okuma ve taslak hazırlama yetkisini, dış dünyada değişiklik yapma yetkisinden ayrı kurun. Örneğin fiyat teklifini hazırlayan akış, onaylanan alıcıyı ve tutarı gösterdikten sonra gönderim aşamasına geçsin. Modelin kararını kayda almak ve işlemi uygulama tarafından durdurabilmek, bu ayrımı görünür hale getirir.
Theo’nun değerlendirmesi: Güven, açıkça tarif edilmiş yetkilerle büyür
Bir modele bütün kararları devretmekle onu her adımda durdurmak arasında geniş bir çalışma alanı var. Rutin ve geri alınabilir işleri ilerletebilir; önemli değişikliklerde daha belirgin kontrol noktaları kurabiliriz. Kontrolün seviyesi, işlemin etkisine ve geri dönüş imkânına göre seçilmeli.
Claude’un yazılı çerçevesinin değeri, şirketin hangi davranışı hedeflediğini inceleyebilmemiz. İşletmenin görevi ise bu hedefi kendi iş akışına çevirmek: Ret gerekçesi görülebiliyor mu, yetki sınırı anlaşılır mı, işlem zamanında durdurulabiliyor mu? Bu soruların somut cevapları, modelin bize ne kadar insanca göründüğünden daha kullanışlı bir güven temeli sağlar.
