Transformers documentation
Optimum
Başlayın
Taban sınıfları
Modeller
Önişleyiciler
Çıkarım
Pipeline API
Generate API
Optimizasyon
Modellerle sohbet edin
Sunum
Eğitim
Donanım
Kantizasyon
Genel BakışKantizasyon kavramlarıBir yöntem seçin OptimumBir kuantizasyon yöntemi katkıda bulunun
Yaygın görevler
Yükleme sırasında kuantizasyon
Önceden kantize edilmiş checkpoint'leri yükle
Ekosistem entegrasyonları
Kaynaklar
API
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v5.22.2).
Optimum
Optimum, Intel, Furiosa, ONNX Runtime, GPTQ ve daha düşük seviyeli PyTorch kuantizasyon işlevleri için kuantizasyon desteği sunan bir optimizasyon kütüphanesidir. Belirli donanımlar (Intel CPU/HPU, AMD GPU, Furiosa NPU vb.) ve ONNX Runtime gibi model hızlandırıcılar için performansı artırmak üzere tasarlanmıştır.
Update on GitHub