Sprzęt i wdrażanie
Kwantyzacja po uczeniu
Post-training quantization
Inne nazwy i skróty: PTQ, kwantyzacja potreningowa.
Co to jest kwantyzacja po uczeniu?
Zmniejszenie precyzji zapisu lub obliczeń już wyuczonego modelu bez pełnego ponownego treningu.
Część metod wykorzystuje dane kalibracyjne. Efekt należy sprawdzać na docelowych zadaniach i sprzęcie.
Przykład zastosowania
Administrator kwantyzuje gotowy klasyfikator, a następnie ponownie sprawdza trafność rozpoznawania rzadkich reklamacji.
O czym pamiętać?
Nawet bez ponownego treningu potrzebna jest walidacja jakości po konwersji.
Powiązane pojęcia
- Wnioskowanie modelu (Inference)
- Zasoby obliczeniowe (Compute)