Optimize Edilmiş CUDA Çıkarım Motoru RTX 5090 ve Blackwell GPU'larda Çalışıyor
Yeni bir CUDA tabanlı çıkarım motoru, RTX 5090 ve Blackwell gibi son nesil GPU'larda yüksek performans sunuyor.
Yeni bir CUDA tabanlı çıkarım motoru, son nesil GPU'larda yüksek performans sağlıyor. Motor, C diliyle yazılmış ve en yeni RTX 5090 ile Blackwell donanımını kullanıyor.
Büyük yapay zeka iş yüklerini verimli bir şekilde işlemek üzere tasarlanan motor, önceki uygulamalara göre belirgin hız artışları gösteren benchmark sonuçlarıyla destekleniyor.
Kod, açık kaynak olarak kamuya açık bir depoda barındırılıyor; geliştiriciler uyumlu NVIDIA kartları üzerinde motoru derleyebiliyor. Belgeler, kullanım örnekleri ve performans ayar ipuçları içeriyor.
Proje, talepkar uygulamalar için daha hızlı çıkarım sağlama hedefiyle ilerliyor.