INT4 ConvRotの評価

ComfyUIとForge NeoがINT4 (W4A4) ConvRotに対応したので画像の変化と生成時間を評価しました。先に結論を書くと、Krea2等の大きいモデルに限っては使う価値がありそうです。

• GeForce RTX 5090ユーザー：使う必要なし

• GeForce RTX 5050～5080ユーザー：速度メリットは少ないが、省メモリに魅力を感じるなら使う価値あり

• GeForce RTX 20, 30, 40シリーズユーザー：速度メリットも大きいため利用価値大

Anima等の小さいモデルには向いていないようです。

2026/10/16: Anima INT4 Quantsについて追記
2026/7/20: ComfyUI-INT4-Fastについて追記、AnimaとZ-Image-TurboでのINT4 ConvRotの検証結果をComfyUI-INT4-Fastで変換したものに差し替え
2026/7/20: GeForce RTX 5090以外のRTX 50シリーズにおける評価を変更

前提知識・関連記事

本記事は以下の関連記事の内容を理解している前提で記載しています。

INT4 ConvRotとは

INT4 W4A4（4-bit Weights and 4-bit Activations = 重み4bit・活性値4bit）にConvRotを適用した量子化・モデル化方式です。

INT4 ConvRotの利用方法

INT4 ConvRotはComfyUI、またはForge Neoで利用することができます。

ComfyUI

ComfyUIは以下のバージョンでINT4 ConvRotにネイティブ対応しています。

• ComfyUI: v0.28.0以降

• comfy-kitchen: 0.2.17以降

comfy-kitchenは0.2.17以降も最適化や不具合修正のため頻繁に更新されているため、"pip install -r requirements.txt" 等でできるだけ最新版にアップデートしたほうがよいです。

Forge Neo

Forge Neoは2.27でINT4 ConvRotにネイティブ対応しています。
実はForge Neoはcomfy-kitchenを使用しており、webui-user.bat, EasyForgeNeo, Stability Matrixなどを使っていれば、Forge Neo本体のrequirements.txtに従って自動で更新されます。

INT4 ConvRotモデルの入手先・変換ツール

INT8 ConvRotと異なり、執筆時点ではComfy-OrgはINT4 ConvRot形式のモデルを配布していません。
有志やモデル製作者が変換して配布しているものを入手するか、自分で変換する必要があります。

モデル配布：Winnougan/INT4-Convrot-Comfy-Models

Winnougan氏が、Starnodes2024/comfyui-starnodes-modelconverterを使って変換して配布しているものです。
Krea2 Raw, Krea2 Turbo, Flux.2 Dev, LTX 2.3, SeedVR2 (7B) などのINT4 ConvRot形式モデルが配布されています。

変換ツール：viralvfx/ComfyUI-INT4-Fast

ComfyUI用カスタムノードです。
ConvRotが注目されるきっかけとなったBobJohnson24/ComfyUI-INT8-FastをINT4で動作するよう改修したもので、INT8には対応していません。BobJohnson24/ComfyUI-INT8-Fastと同様に変換してファイル保存するだけでなく、そのままオンザフライで利用することも可能です。

ファイル保存する場合は、以下のようなワークフローを使います。

INT4 ConvRot形式への変換に関しては、本記事で紹介する変換ツールの中でもっとも変換後のモデル品質が安定していました。

変換ツール：Starnodes2024/comfyui-starnodes-modelconverter

ComfyUI用カスタムノードとして動作する変換ツールです。ただしviralvfx/ComfyUI-INT4-Fastのようなオンザフライでの利用はできず、ファイル保存しかできません。

Krea2ではWinnougan/INT4-Convrot-Comfy-Modelsで配布されているものと同じものに変換できましたが、Z-ImageやAnimaではINT4 ConvRotへ変換しても他のツールでINT8 ConvRotに変換したモデルよりもサイズが大きくなってしまって使い物になりませんでした。使用する際は変換後のファイルサイズやtensor構成を確認したほうがよいです。

変換ツール：Haoming02/sd-forge-compressor

Forge Neoの開発者であるHaoming02氏が開発した変換ツールで、Forge Neoの拡張機能として動作します。

convrot_w4a4がINT4 ConvRotのことです。

INT4 ConvRotの性能

Nvidia製GPUのハードウェア対応

下表は符号化とスケーリングの方式に対するNvidia製GPUのハードウェア対応一覧です。

$$\begin{array} {l|c|c|c|c} & \bf{RTX 20} & \bf{RTX 30} & \bf{RTX 40} & \bf{RTX 50} \\ & \bf{Series} & \bf{Series} & \bf{Series} & \bf{Series} \\ \hline \text{FP16} & \text{✓} & \text{✓} & \text{✓} & \text{✓} \\ \\ \hline \text{INT8} & \text{✓} & \text{✓} & \text{✓} & \text{✓} \\ \\ \hline \text{BF16} & & \text{✓} & \text{✓} & \text{✓} \\ \\ \hline \text{FP8} & & & \text{✓} & \text{✓} \\ \\ \hline \text{FP8 Scaled} & & & \text{✓} & \text{✓} \\ \\ \hline \text{MXFP8} & & & & \text{✓} \\ \text{(Microscaling)} \\ \hline \text{FP4} & & & & \text{✓} \\ \\ \hline \text{NVFP4} & & & & \text{✓} \\ \text{(Microscaling)} \\ \hline \text{INT4} & \text{✓} & \text{✓} & \text{✓} \\ \\ \end{array}$$

GeForce RTX 50シリーズはINT4に対応していません。NvidiaがAI処理ではINT4よりもFP4が有用であると判断して、INT4対応を廃止しました。
50シリーズではcomfy-kitchenがINT4をINT8にフォールバックさせて処理するため、INT4はINT8と同等の処理速度になります（サイズが小さくなることで生成時間が短くなることはあります）。
そのため、INT4で処理速度が向上するのはGeForce RTX 20, 30, 40シリーズのみとなります。

検証環境

以下の環境でKrea2 Turbo, Anima base-v1.0, Z-Image-Turboで画像生成して性能を比較しました。

• GPU: RTX 5090

• Driver: Game Ready 610.74 WHQL (2026/7/7)

• Python: Python 3.12.12, torch 2.13.0+cu130, triton-windows 3.7.1.post27, sageattention 2.2.0+cu130torch2.9.0andhigher.post4

• Soft: ComfyUI v0.28.0 (2026/7/16)
  --reserve-lvram 0.9 --preview-method auto --use-sage-attention

ワークフローは各モデル公式またはComfyUIテンプレート、モデルはDiTのみを変更しTEは同じものを使用しました。
Krea2 Turboは複数の画像で比較しましたが、AnimaとZ-Image-TurboはINT4 ConvRotを利用する価値はほとんどないと思うので最小限の比較です。

Krea2 Turboでの検証

ComfyUIテンプレートWFを使用、prompt_enhanceとenable_loraをfalseにした以外は初期設定のまま、4種類のプロンプトで比較しました。プロンプトはComfyUI外部のLLMでエンハンスしたものです。

• モデルの詳細

$$\begin{array} {l|l|r} \bf{形式} & \bf{入手先} & \bf{ファイル} \\ & & \bf{サイズ} \\ \hline \text{BF16} & \text{Comfy-Org} & \text{24.48GiB} \\ \hline \text{FP8 Scaled} & \text{Comfy-Org} & \text{12.24GiB} \\ \hline \text{INT8 ConvRot} & \text{Comfy-Org} & \text{12.57GiB} \\ \hline \text{INT4 ConvRot} & \text{Winnougan} & \text{6.43GiB} \\ \hline \text{NVFP4 ※参考} & \text{Comfy-Org} & \text{7.15GiB} \\ \end{array}$$

• 画像１：複数の人物

明るい喫茶店
左側：ホットコーヒーを飲む日本人女性
右側：アイスコーヒーを飲む欧米人女性

INT4 ConvRotでも品質の問題は感じません。書き分けも問題無し。
BF16からの画像の変化量は INT8 ConvRot < FP8 Scaled < INT4 ConvRot。

• 画像２：縦書き漢字

夕方の商店街
縦書きの「焼き芋」看板のある店で焼き芋を買う女性

INT4 ConvRotでも品質の問題は感じません。文字も問題なし。
BF16からの画像の変化量は INT8 ConvRot < FP8 Scaled < INT4 ConvRot。
しかしINT8 ConvRotのみ「芋」の下の字が「子」になってしまいました。

• 画像３：顔のアップ

そばかすがある女性の顔のアップ

INT4 ConvRotでも品質の問題は感じません。肌や瞳の描写も問題無し。
BF16からの画像の変化量は INT8 ConvRot < FP8 Scaled < INT4 ConvRot。

• 画像４：ComfyUIテンプレート

INT4 ConvRotでも品質の問題は感じません。プロンプトからの乖離はなし。
BF16からの画像の変化量は FP8 Scaled < INT8 ConvRot < INT4 ConvRot。

• 生成時間

「画像４：ComfyUIテンプレート」の生成時間です。

$$\begin{array} {l|r|r} \bf{形式} & \bf{起動直後} & \bf{2回目以降} \\ & \bf{cold  start} & \bf{warm  start} \\ \hline \text{BF16} & \text{14.21s} & \text{4.87s} \\ \hline \text{FP8 Scaled} & \text{7.50s} & \text{3.93s} \\ \hline \text{INT8 ConvRot} & \text{7.22s} & \text{2.55s} \\ \hline \text{INT4 ConvRot} & \text{5.32s} & \text{2.66s} \\ \end{array}$$

INT4 ConvRotは、RTX 5090ではファイルサイズが小さくなった分cold start時のみ高速化するだけで、その後のwarm  startではINT8 ConvRotと同等です（フォールバック処理の分だけ僅かに遅くなる？）。
ただ、ファイルサイズが小さくなったことでVRAM使用量もINT8 ConvRot比で約6GiB削減されるため、RTX 5090以外のRTX 50シリーズではVRAMからメインメモリへのオフロードが減ることで、warm  startでも僅かに高速になるかもしれません。自分の環境で試してみてください。
RTX 20, 30, 40シリーズではINT8 ConvRotよりも20～30%ほど高速になるそうです。

Anima base-v1.0での検証

Anima公式サンプルWFを使用、すべて初期設定のままモデルのみを変更して比較しました。Krea2 Turbo、Z-Image-Turboと異なりTurboではなくBaseモデルです。

• モデルの詳細

$$\begin{array} {l|l|r} \bf{形式} & \bf{入手先・} & \bf{ファイル} \\ & \bf{変換ツール} & \bf{サイズ} \\ \hline \text{BF16} & \text{Anima公式} & \text{3.89GiB} \\ \hline \text{INT8 ConvRot} & \text{sd-forge-compressor} & \text{2.26GiB} \\ \hline \text{INT4 ConvRot} & \text{ComfyUI-INT4-Fast} & \text{1.44GiB} \\ \end{array}$$

• 生成画像

INT4 ConvRotではまともな画像を生成できなくなりました。Starnodes2024/comfyui-starnodes-modelconverterやHaoming02/sd-forge-compressorで変換した場合も、程度の違いはありますがまともな画像にはなりませんでした。これはAnimaのパラメータ数が2Bと小さいことが関係しているようです（Flux.2は32B、Krea2は12B、Z-Imageは6B）。
INT8 ConvRotは特に問題を感じませんが、Krea2のBF16→INT8 ConvRotと比較すると変化量が大きい気がします。

2026/10/16追記：
INT4でもまともな画像が出せるよう工夫して量子化したAnimaのモデルがCivitaiで公開されました。

• 生成時間

$$\begin{array} {l|r} \bf{形式} & \bf{2回目以降} \\ & \bf{warm  start} \\ \hline \text{BF16} & \text{6.06s} \\ \hline \text{INT8 ConvRot} & \text{4.10s} \\ \hline \text{INT4 ConvRot} & \text{4.62s} \\ \end{array}$$

Z-Image-Turboでの検証

ComfyUIテンプレートWFを使用、すべて初期設定のままモデルのみを変更して比較しました。

• モデルの詳細

$$\begin{array} {l|l|r} \bf{形式} & \bf{入手先・} & \bf{ファイル} \\ & \bf{変換ツール} & \bf{サイズ} \\ \hline \text{BF16} & \text{Comfy-Org} & \text{11.46GiB} \\ \hline \text{NVFP4} & \text{Comfy-Org} & \text{4.20GiB} \\ \hline \text{INT8 ConvRot} & \text{Comfy-Org} & \text{5.78GiB} \\ \hline \text{INT4 ConvRot} & \text{ComfyUI-INT4-Fast} & \text{4.30GiB} \\ \end{array}$$

INT8 ConvRot→INT4 ConvRotであまりファイルサイズが小さくなりません。NVFP4も同程度のため、Z-Image-Turboのモデル構造によるものだと思います。

• 生成画像

INT4 ConvRotは肌が汚くなり少し別人のようになってしまいました。そういう肌をした人物のようにも見えますが、私は品質の劣化だと感じます。
INT8 ConvRotはKrea2と同様にBF16からの変化が少なく精度の高さを感じます。NVFP4はINT8 ConvRotよりも変化量が大きいですが品質の問題は感じません。

• 生成時間

$$\begin{array} {l|r} \bf{形式} & \bf{2回目以降} \\ & \bf{warm  start} \\ \hline \text{BF16} & \text{2.53s} \\ \hline \text{NVFP4} & \text{1.24s} \\ \hline \text{INT8 ConvRot} & \text{1.46s} \\ \hline \text{INT4 ConvRot} & \text{1.64s} \\ \end{array}$$

一般的にはNVFP4よりINT8 ConvRotのほうが速いことが多いのですが、Z-Image-TurboではNVFP4が最速となりました。

まとめ

ComfyUIとForge NeoがINT4 (W4A4) ConvRotに対応したので画像の変化と生成時間を評価しました。
Krea2等の大きなモデルに対しては、GPU環境によって使う価値があると思います。

このような感じで、技術的な内容を分かりやすく基本無料で解説しています。「スキ」「フォロー」「チップ」で応援よろしくお願いします。質問がありましたら遠慮なく「質問箱」へどうぞ。

本記事の文章・画像等の無断転載・複製・改変・盗用を禁じます。
発見した場合は黙認せず対応します。これらの行為を発見された方は、相手ではなく私までお知らせください。