LongCat-2.0: 1,6 Trilyon Parametre ve 48 Milyar Aktif Uzmanla Başlıyor

LongCat-2.0, yeni bir büyük ölçekli MoE modeli olarak tanıtıldı. Tüm uzmanlarda 1,6 trilyon parametreye sahiptir.

LongCat-2.0, yeni bir büyük ölçekli MoE modeli olarak tanıtıldı. Tüm uzmanlarda 1,6 trilyon parametreye sahiptir. Sadece 48 milyar parametreyi inference zamanında aktif hâldedir. Model, orijinal LongCat mimarisini temel alır. Boyutu dil modellemesinin sınırlarını zorlamak için tasarlanmıştır. MoE tasarımı, kapasiteyi hesaplama maliyeti ile dengeler. Geliştiriciler, LongCat websitesinden modeli keşfedebilir. Gelecek çalışmalarda, performansını önceki sürümlerle karşılaştırabiliriz.