DeepSeek-V3.2-Exp modeli resmi olarak yayınlandı ve Açık Kaynak

【DeepSeek-V3.2-Exp modeli resmi olarak yayınlandı ve Açık Kaynak】DeepSeek-V3.2-Exp modeli resmi olarak yayınlandı ve Açık Kaynak. Model, hesaplama kaynak tüketimini etkili bir şekilde azaltabilen ve model çıkarım verimliliğini artıran seyrek Attention mimarisini tanıtmaktadır. Şu anda, bu model resmi olarak Huawei Cloud büyük model hizmet platformu MaaS'ta listeleme yapılmıştır, DeepSeek-V3.2-Exp modeli için Huawei Cloud bu sefer yine büyük EP paralel çözüm dağıtımını kullanmaktadır, seyrek Attention yapısı üzerine eklenerek uzun dizilim uyumlu bağlam paralel stratejisi gerçekleştirilmekte ve model gecikmesi ile throughput performansı dengelenmektedir.