Bir modeli yeniden eğitmeden içindeki belirli bir sorunu düzeltmek mümkün mü? MIT CSAIL araştırmacılarının yeni çalışması, bu soruya sınırlı ama dikkat çekici bir örnek sunuyor.
Deneyde ne değişti?
Araştırmacılar GPT-6 Astra’ya küçük Qwen3.5-0.8B modelinin ağırlıklarını inceleme ve değiştirme görevi verdi. Ağırlıklar, bir sinir ağının öğrendiği sayısal ayarlardır. Ekip, bu yaklaşımı “ağırlık uzayında programlama” olarak adlandırıyor. Astra, Python aracılığıyla ağırlıkları inceledi ve alıştırma sorularıyla modeli çalıştırabildi; düzeltme için geleneksel gradyan tabanlı eğitim kullanılmadı.
Sorun, modelin bazı sorularda aynı düşünceyi tekrar edip yanıtı tamamlayamamasıydı. Ekip, 50 çalışma hakkı verilen deneyde Astra’nın ağırlıkların yaklaşık yüzde 0,016’sını değiştirdiğini bildiriyor. Araştırmacıların ölçümünde MATH-500 puanı yüzde 7,9’dan 48,1’e yükseldi; GSM8K sonucu 13,8’den 67,1’e çıktı. MATH-500 yanıtlarında uzunluk sınırına ulaşma oranı yüzde 93’ten 33’e indi. Bunlar çalışmanın belirttiği koşullardaki sonuçlar; bütün modeller için genel bir başarı oranı değil.
Sonuç neyi gösteriyor, neyi göstermiyor?
Asıl fark: döngüyü azaltmak, modele sıfırdan matematik öğretmekle aynı şey değil. Ekip, benzer düzenlemeyi döngüye daha az giren Gemma 3 270M üzerinde denediğinde anlamlı bir matematik iyileşmesi sağlayamadığını söylüyor. Deney, bir yapay zekânın kendi kendini sınırsız biçimde geliştirdiğini de göstermiyor: İnsanlar hedefi, araçları, çalışma bütçesini ve ölçümü belirledi.
Bu çalışma, ağların içindeki belirli davranışları anlamak ve hedefli biçimde değiştirmek için yeni araştırma soruları açıyor. Yöntemin ne kadar genellenebileceği ise farklı modellerde ve bağımsız deneylerde sınanmalı.
