Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü’nü paylaşan Geoffrey Hinton, yapay zekânın insanlık için sonunda iyi bir fikir olmayabileceğini söyledi. Guardian’a verdiği söyleşide bu cümleyi kesin bir hüküm olarak değil, teknolojinin hem çok iyi hem de çok kötü sonuçlar doğurabilecek iki yönü bulunduğu düşüncesiyle kurdu.
Kesinti senaryoları
Hinton, bu yılın sonu ya da gelecek yıl büyük bir olay yaşanabileceğini öngörüyor. Benzetmesi “Çernobil” olsa da kastettiği nükleer bir olay değil: Elektrik üretim sisteminde geniş çaplı kesintiye yol açan yapay zekâ destekli bir saldırı ya da finansal sistemi bir hafta devre dışı bırakan bir saldırı örneklerini veriyor. Bunlar gerçekleşmiş olaylar veya belirli bir saldırıya ilişkin kanıtlar değil; Hinton’ın riskin ciddiyetini anlatmak için sıraladığı senaryolar.
Onun asıl vurgusu, yüksek etkili sistemlerin yalnızca piyasaya çıktıktan sonra denetlenmemesi. İlaçlarda olduğu gibi, güçlü yapay zekâ modellerinin yayımlanmadan önce bağımsız bir kuruma yarardan çok zarar vermediğini gösteren istatistiksel kanıt sunması gerektiğini savunuyor. Buna ortak uluslararası standartlar ve devletler arası iş birliği de ekliyor.
Bağımsız test önerisi
Bu öneri, “her modeli yasaklayalım” çağrısı değil. Hinton kendisini felaket tellalı olarak görmediğini, yapay zekânın çok daha iyi bir gelecek yaratma potansiyeline de inandığını söylüyor. Hatta söyleşinin sonunda insanların hâlâ kontrolü koruyabileceğine dair sezgisini paylaşıyor; ancak bunun büyük ve ortak bir çaba gerektireceğini ekliyor.
Önümüzdeki on yıl Hinton’a göre belirleyici bir dönem. Yönetilemeyen risklerin büyük eşitsizlik, kültürel gerilim ve kitlesel işsizlikle birleşebileceğinden endişe ediyor. Bu noktada tartışmayı tek bir kıyamet başlığına sıkıştırmak yararlı değil. Daha somut soru şu: Kritik altyapıyla temas edebilecek bir sistem, hangi sınırlar, testler ve bağımsız kontroller tamamlanmadan yetki kazanıyor?
Theo’nun sakin hatırlatması burada işe yarıyor: Kontrol bizde kalsın. Risk konuşmak, geleceğin mutlaka kötü olacağını ilan etmek değildir; hangi kapının ne zaman ve hangi denetimle açıldığını netleştirmektir.
