概要
- 量子化の際に品質の低下を回避するために考案された手法の一つ。ConvRotは「Convolutional Rotation」の略。
論文
ConvRot: Rotation-Based Plug-and-Play 4-bit Quantization for Diffusion Transformers
実用面での解説
- ConvRot自体はあくまでなるべく品質を落とさずに量子化する手法だが、INT8以下の低精度での組み合わせで真価を発揮する。
- 同じ8bitの量子化でもFP8はRTX4000シリーズ以降しかハードウェアアクセラレーションに対応していないのに対して、RTX2000シリーズでもINT8には対応しているため、生成が高速化する上に品質がさほど低下しないというメリットを多くのユーザーが享受できる。
利用法
- ConvRotで量子化されたモデル(DiTやText Encoder)を入手する。
- 2026年6月以前のUIには対応していないことが多いので、適宜更新する。
- ConvRotモデルの価値はKrea2登場に合わせて強く認知され、ComfyUI v0.27においてINT8量子化モデルと合わせてネイティブサポートに至った。
モデルそのものは、以前から存在していた。
ハードウェア要件
以下はINT8量子化セットのモデルとしての要件です。ConvRot単独としての要件に関する情報はありません。また、INT4については高速化のハード要件が異なります。「参考」のリンク先も参照してください。
- 実際に高速化を体感するためのハードウェア要件として、RTX20xx以降のNVIDIA製GPUが必要。
- ハードウェアによって効果が異なり、FLUX.1による研究やKrea2による検証の結果、RTX30xxシリーズで約2倍、RTX40xx,50xxシリーズで約4倍高速化するようだ。
- INT8対応はRTX20xxシリーズ(Turing)からCUDAに搭載されたハードウェア機能であり、RTX20からレイトレーシング(RTX)機能のみを削除したGTX16シリーズでも同様に動作する。(余談だがノート用のRTX2050のみRTX30と同じAmpere世代になっている)
- VRAM32GBで中古市場で有名になったV100(2017年)はRTX20よりINT8を搭載していないため注意(無条件だとfp16変換して処理=fp16より重い、cudaで専用コードを組めばもっと速く処理できなくはないそうだがそこまで過去のチップに拘る人はいない)
対応UI
- ComfyUI
- INT8 ConvRot対応はv0.27.0以降
- ComfyUI v0.27.0よりも前は、カスタムノードBobJohnson24氏によるComfyUI-INT8-Fastが必要だった。
- INT4 (W4A4) ConvRot対応はv0.28.0以降
- ComfyUI v0.28.0よりも前は、カスタムノードviralvfx氏によるComfyUI-INT4-Fast(ComfyUI-INT8-Fastの改変版)が必要だった。
- INT8 ConvRot対応はv0.27.0以降
関連情報
トピック
- MXFP8時代のINT8。さまざまな量子化方式の品質と処理速度に関する調査:reddit
https://www.reddit.com/r/StableDiffusion/comments/1tazxqz/int8_in_the_age_of_mxfp8_an_investigation_into/ - ComfyUIでINT8ネイティブサポートされた:reddit
https://www.reddit.com/r/StableDiffusion/comments/1uhcg69/comfyui_now_natively_supports_int8_tested_and/ - INT8-ConvRotは今、注目の的になっているのでしょうか?:reddit
https://www.reddit.com/r/StableDiffusion/comments/1uimp1j/so_is_int8convrot_the_new_hot_thing/ - ComfyUI v0.27.0では、convrot int8モデルが正式にサポートされるようになりました。ほとんどのGPU (Nvidia 20、30、40、50 シリーズ) において、fp16やggufよりも2倍以上高速です:reddit
https://www.reddit.com/r/comfyui/comments/1uk6q5m/comfyui_v0270_now_officially_supports_convrot/ - ComfyUIで高速INT4(W4A4)推論が可能になりました!6GB VRAM搭載のRTX 3060でKrea2 Turbo INT4 Convrot(W4A4)モデルを実行(reddit)
https://www.reddit.com/r/StableDiffusion/comments/1ushlb4/fast_int4_w4a4_inference_in_comfyui_is_here_krea2/
おおまかな流れ
ConvRot導入の流れはそれなりに大きく経緯がつかみにくい。
経緯を見落とすと状況を追いにくくなるため、備忘録として下記に控えていく。
- 2026/6月末:ComfyUI v0.27にてConvRotがネイティブサポート。
- 2026/6/29:ComfyUIからKrea2モデルのINT8 ConvRotバージョンが配布される。
- 2026/7/2:Ideogram-4, Krea-2, Boogu-Image, QIE-2511, SeedVR2, Z-Image-Turbo, Z-Image, Wan_2.2等のInt8 ConvRot配布始まる
- 2026/7/上旬:学習ツールOneTrainerをはじめとして、海外コミュニティでKrea2学習におけるINT8(必ずしもConvRotではない)の重要性の認知が拡大する*1。
- RTX20xx,30xx辺りのユーザーの食いつきが強い。議論とセットでConvRotが議題になることがあった。
- 2026/7/10:musubi-tunerにおけるINT8 ConvRot導入検討が始まる。
- 2026/7/11:INT4 ConvRot化のチューニング結果が報告される。
- 2026/7/11:ComfyUIでINT4 Convrot導入準備が完了。