概要
この記事では、ICCV2025の量子化論文を紹介します。
DMQ: Dissecting Outliers of Diffusion Models for Post-Training Quantization
- 概要:拡散モデルの量子化
- キモ:LESはスケーリングによる最適化だが、(7)式のようにtimestampに応じて重みづけて最適化する(最初程重い)。
PTSは大きな外れ値の対策として、2ベキのスケーリングをチャンネル毎に入れる。
AHCPTQ: Accurate and Hardware-Compatible Post-Training Quantization for Segment Anything Model
- 概要:SAMのPTQ
- キモ:GELUに対しては部分的にlog2量子化を適用する。Projectionでチャンネルごとのばらつきが大きい問題に対しては、チャンネルごとに似た部分はクラスタリングし量子化パラメータを共有できるようにする。