Moonshot AI, Kimi K3.1 Pro’nun model ağırlıklarını Hugging Face’te yayımladı. Bu, daha önce ürünlerde kullanıma açılan modelin tam ağırlıkları için 4 Kasım’da tamamlanması planlanan aşamaydı.
Açık ağırlık ne sağlıyor?
İndirilebilir ağırlıklar, uygun altyapısı olan ekiplerin modeli kendi ortamında çalıştırmasına ve lisans koşulları çerçevesinde uyarlamasına imkân veriyor. Model kartı metin ve görsel girdisini, yaklaşık bir milyon token bağlamı ve karma uzmanlı mimariyi tanımlıyor.
Moonshot toplam 2,8 trilyon parametre ve token başına 104 milyar etkin parametre bildiriyor. Bunlar aynı ölçü değil: toplam sayı modelin bütün uzmanlarını, etkin sayı ise bir işlemde kullanılan bölümü anlatıyor.
Donanım ve lisans
Modelin büyüklüğü yerel çalıştırma kararında belirleyici. AMD, yayımlanan MXFP4 ağırlıklarıyla sekiz Instinct MI355X GPU kullanan bir sunucu yapılandırmasını belgeliyor. Bu bir örnek yapılandırma; her kurulum için tek zorunlu seçenek veya sıradan bir masaüstü bilgisayarın yeterli olduğu anlamına gelmiyor.
Moonshot model kartı, kullanımı Kimi K3.1 Pro lisansına bağlıyor. İndirmeden veya ticari bir işe katmadan önce lisans hükümlerini ve kendi altyapınızın bellek gereksinimlerini inceleyin.
