Üretim Düzeyinde OCR Akışını Kubernetes Üzerinde vLLM ve Rust ile Geliştirildi
Geliştiriciler, üretim ortamları için açık kaynaklı bir OCR akışını yayınladı. Sistem, Kubernetes üzerinde çalışır ve kapsayıcı orchestrasyonunu kullanır.
Geliştiriciler, üretim ortamları için açık kaynaklı bir OCR akışını yayınladı. Sistem, Kubernetes üzerinde çalışır ve kapsayıcı orchestrasyonunu kullanır. Bu sayede büyük dil modeli inference'ini akış içinde ele alır. vLLM, büyük dil modeli inference'ini akış içinde ele alırken, Rust performans-critical bileşenleri için kullanılır ve düşük gecikme sağlar. Bu kombinasyon, güvenilir ve yüksek-throughput metin extraction'ini sağlar. Akış, bulut veya ön-premise kümelerde dağıtılabilir. Belgeler, kurulum adımları ve örnek yüklemeler içerir. Proje, yeteneklerini genişletmek için topluluk contributions'ını davet eder.