メインコンテンツへスキップ
見出し画像

【Flux.1】Flan-T5xxl_TE-only の FP32、FP16、GGUF 形式 を公開!

    はじめに

    こんにちは、きまま / Easygoing です。

    今回は、Flan-T5xxl_TE-only の FP32, FP16, GGUF 形式 を公開したのでご紹介します。

    Flan-T5xxl ってなに?

    T5 は、Google が 2020年 に公開したテキストからテキストを生成する AI モデルです。

    Table of T5 model types, file size and number of parameters

    T5xxl モデルは、T5 のうち最大パラメータのモデルで、Flux.1 / SD 3.5 のプロンプトを解析するテキストエンコーダーとして使われています。

    Table comparing T5xxl's year of appearance and performance

    Flan-T5xxl は、T5xxl を微調整してさらに精度を向上させたモデルです。画像生成 AI で Flan-T5xxl モデルを利用すると、プロンプトの理解力の改善 と 画質の向上 が期待できます。

    モデルの一覧

    Hugging Face の Flan-T5xxl の公開サイトでは、次のモデルを公開しています。

    Screenshot of model listing in huggingface's flan-t5xxl repository with comment
    最初は flan_t5_xxl_TE-only_FP16.safetensors を試すのがおすすめ
    Table of flan_t5_xxl TE-only Size and SSIM Similarity and Reccomend
    Flan-T5xxl_TE-only_MAE_SSIM_Similarity

    Flan-T5xxl_TE-only は、画像生成 AI で使うテキストエンコーダー部分のみを抽出して軽量化したモデルです。

    GGUF 形式 は Flan-T5xxl_TE-only_FP32 をもとに 量子化圧縮 を行ってさらに軽量化したモデルです。

    GGUF 形式の Q8 の数字はビット数を表していて、数字が小さいものほど容量が軽くなりますが、精度も低下 します。

    Flan-T5xxl を画像生成で利用する場合は、Q6_K 以上 をお勧めします。

    Flan-T5xxl の使い方!

    ダウンロードしたファイルを次のいずれかのフォルダに配置します。

    • インストールフォルダ/models/text_encoder

    • インストールフォルダ/models/clip

    • インストールフォルダ/Models/CLIP

    ComfyUI

    ComfyUI で Flux.1を使うとき、DualCLIPLoader ノードを使ってテキストエンコーダーをロードします。

    DualCLIPLoader ノードのスクリーンショット

    2025.4.13、デフォルトの DualClipLoader ノードに device の選択項目が追加され、モデルのロード先を選択できるようになりました。

    • cuda → VRAM

    • cpu → システム RAM

    Flux.1 のテキストエンコーダーは容量が大きいので、ほとんどの場合 device を cpu に設定してモデルを システムRAM に保持 した方が高速化します。

    モデルを システム RAM に保持する方が GGUF への軽量化より効果が大きいので、現状では ComfyUI でGGUF 形式を使うメリットはほぼありません。

    ComfyUI で Flux.1 を実行するときは、FP16 以上の形式のテキストエンコーダーを使いましょう。

    Stability Matrix の ComfyUI の  --fp32-text-enc の起動設定のスクリーンショット
    Stability Matrix の ComfyUI の  --fp32-text-enc の起動設定

    ComfyUI では、起動時に --fp32-text-enc の設定をすることで、FP32 形式 のテキストエンコーダーも利用することができます。

    Stable Diffusion WebUI Forge

    Stable Diffusion WebUI Forge Operation Screenshot with Comments

    Stable Diffusion WebUI Forge では、通常使う T5xxl_v1_1 の代わりに Flan-T5xxl モデルを選択します。

    Stability Matrix の Stable Diffusion webUI Forge  の  --clip-in-fp32 の起動設定のスクリーンショット

    Stable Diffusion webUI Forge で FP32 形式 のテキストエンコーダーを使用するときは、--clip-in-fp32 オプションで起動して下さい。

    改良型 CLIP-L も使おう!

    Flux.1 / SD 3.5 / HiDream では、テキストエンコーダーは T5xxl とは別に CLIP-L も精度の良いものにアップグレードすることができます。

    Flan-T5xxl と CLIP-L はそれぞれ別の働きをしているので、両方をアップグレードすると画質がさらに向上します。

    CLIP-L は T5xxl よりも軽量なので、こちらのアップグレードも試してみることをオススメします。

    Claude と Grok のコーディングはすごい!

    私は自分でコードを書くことはできないので、今回の変換に使ったコードは全て AI に書いてもらいました。

    今回利用した AI は、次の2つです。

    • Claude 3.7(2025/2/25 公開):コードが正確

    • Grok3(2025/2/15 公開):最新の情報を web で検索、ファイルもたくさんアップロードできる

    今回と同じ変換を、2か月前に ChatGPT を使って試したことがあるのですが、その時はコードが動作せずに失敗しています。

    Anime Illustration of  A young woman sitting at a table in a cafe

    今回は Claude 3.7 にコードの原型を書いてもらい、エラーメッセージを Grok 3 にアップロードして修正を繰り返すことで作業効率が大きく向上して、モデルを完成させることができました。

    AI を使ってコードを書かれている方は、是非この方法を試してみて下さい!

    まとめ:Flan-T5xxl を使ってみよう

    • Flan-T5xxl は新型のテキストエンコーダー

    • TE-only は必要な部分のみを抽出

    • GGUF 形式はさらに軽量化したモデル

    ローカルの画像生成は、世界中の無料で公開されているモデルを自由に利用できるのが大きな魅力です。

    画像生成 AI の Flux.1 と SD 3.5 と HiDream は、高品質のイラストを生成することができますが、テキストエンコーダーをアップグレードするとさらに 画質を上げる ことができます。

    Anime Illustration of  A young girl holding a chalkboard that says flan t5 xxl and te-only
    文字もかなりの精度で入る

    TE-only モデルの公開で、Flan-T5xxl モデルを使うときの 容量面でのデメリット がなくなったので、みなさんもぜひアップグレードを試してみてはいかがでしょうか?

    最後までお読みいただきありがとうございます!


    更新履歴

    2025.8.25

    内容を一部修正しました

    2025.7.24

    Flan-T5xxl_TE-only の GGUF 形式の再アップロードに伴い、表とグラフを修正しました。以前のものより容量が小さくなっています

    2025.4.20

    Stable Diffusion webUI Forge の FP32 形式の利用方法を追記しました

    2025.4.15

    ComfyUI のアップデートに伴い、記事の内容を整理しました

    2025.4.2

    ComfyUI-MultiGPU の解説記事のリンクを追加しました

    2025.3.20

    Flan-T5xxl のモデル一覧と表を更新しました

    2025.3.15

    Civitai のリンクを追加しました

    2025.3.10

    Flux.1_MultiGPU のサンプルワークフローを追加しました


    English Article


     
     
    はじめまして、きまま です。ふとしたきっかけでAI画像生成に出会い、その魅力にすっかり取り憑かれました。AI画像で気づいたことを発信していきます。 画像はAIで生成したものですが、もし気に入ったものがあればご自由にお使い下さい。AI技術を否定する目的でのご利用はご遠慮下さい。

    あなたへのおすすめ