新登場 Gemma4 QAT で文字化け解決！ Ollama 0.30系で日本語50万文字出力して検証

ローカルLLM Ollamaで AIに(エロ)小説を量産させるツール(Inkubus)というのを作っています。

ある日、gemma4:31b で生成したら本文に変な文字列が混ざるようになった。

`<0xE3><0x80><0x80>` みたいなやつ。全角スペースとか「躙」みたいな漢字が、こういう生のバイト表記のまま出てくる。読めたもんじゃない 😭

まず対症療法

原因はよく分からんけど、放っておくと読者に化けた小説が届く。やばい。

とりあえずアプリ側で、保存する前に `<0x..>` の並びを元の文字に戻すサニタイズを入れた。これで表に出る文章はキレイになる。応急処置（まだ未リリースです、v2.xでリリース予定）。

ついでに「ollama のバージョンが怪しいのでは」と思って、古い ollama(0.24 系)に戻してみたら、これは確かに化けない。でも毎回ダウングレードして運用するのはダルいし、根本は分からないまま。モヤる。

gemma4:12b が出た

しばらくして gemma4:12b が公開された。ollama は新しいまま(0.30.6)で使ってみる。

…あれ。文字化け、出ない。

同じ ollama 0.30 なのに、31b は化けて 12b は化けない。なんで?

Claude Code に投げる🦀

分からんことは Claude Code(ターミナルで動かしてる相棒)に聞く。

要するに、ollama のレジストリにある gemma4:31b が、古い変換のまま放置されてたっぽい。新しく変換し直したモデルにはちゃんとメタデータが入ってて化けない、という話。12b はたまたま新しく作り直されてたから平気だった、と。

unsloth を試す

じゃあ新しく変換されたやつを、ってことで、HuggingFace の unsloth が出してる再変換版の gemma4:31b GGUF を入れて回してみた。使ったのはこれ(qat 版)。

ollama run hf.co/unsloth/gemma-4-31B-it-qat-GGUF:UD-Q4_K_XL

または、モデルだけ先に落としておくなら:

ollama pull hf.co/unsloth/gemma-4-31B-it-qat-GGUF:UD-Q4_K_XL

配布元のページはここ:

https://huggingface.co/unsloth/gemma-4-31B-it-qat-GGUF

結果:文字化け、出ない 😁

しかも DB に残してるサニタイズのログを見たら、古い 31b は 19 文字も補正してたのに、unsloth 版はゼロ。手元の同じマシン・同じ ollama・同じ設定で、モデルの変換だけ差し替えた。これで犯人が確定した。

そしたら公式が QAT を出してきた

…と、ここまで分かったまさにその頃。Ollama から、こんなお知らせメールが届いた。😇

念のため、QAT について少しだけ。QAT は Quantization-Aware Training(量子化対応学習)の略。ふつうの量子化は、学習し終わったモデルを後から 4bit に丸める方式(PTQ)だけど、QAT は学習の段階で「4bit にされること」を織り込んで鍛える。だから 4bit に縮めても品質がほとんど落ちない ── これが「軽いのに賢い」が成立する理由。詳しくは下の Google 公式ブログに。

要するに、自分が unsloth で拾ってきた「再変換された QAT の GGUF を使う」ってやつを、Ollama が公式に取り込んでくれた形。31b の QAT もレジストリから直接落とせる。

ollama pull gemma4:31b-it-qat

Ollamaのモデルのフルリストは見つけにくい場所にあってここにある

gemma4系は全部新しいQATができている

E2B: 
ollama pull gemma4:e2b-it-qat
 
E4B: 
ollama pull gemma4:e4b-it-qat
 
12B: 
ollama pull gemma4:12b-it-qat
 
26B: 
ollama pull gemma4:26b-a4b-it-qat
 
31B: 
ollama pull gemma4:31b-it-qat

26b-a4bはVRAM16GBのビデオカードに乗りそう😦→😞

サイズも旧モデルにくらべて１～２Gそれぞれ２か月前よりさがっている。

26bは5070Ti 16GBに載りそう😆・・

さっそく回したら、公式版も文字化けゼロ(11本・約 24 万字)。これで、HF まで取りに行かなくても公式の一発で済むようになった。

ちなみに調べたら、この QAT はもともと Google が 2026年6月5日に公開したもの(下の公式ブログ)。unsloth が翌日にはもう GGUF 化してて、Ollama 公式版が 6月7日。化けてた古い 31b のほうは、今年の最初のローンチ時の古い変換で、6月5日の QAT 再リリースで作り直された ── という流れだった。要するに「Google が直した → unsloth が即配った → Ollama が公式に載せた」で、ぜんぶ同じ Google の QAT 重みが大元。

どれだけ回したか(検証)

念のため、合計で 50 万字以上(約 57 万字)ぶん回して確かめた。化けたのは、旧レジストリの 31b の1本だけ。

• gemma4:31b(ollama に元から置いてある旧版)… 約 2.2 万字 → 19字が `<0xNN>` 化 ← こいつだけ化けた

• gemma4:12b(新ビルド)… 約 12 万字 → クリーン

• unsloth gemma-4-31B-it-qat(UD-Q4_K_XL)… 約 11 万字 → クリーン

• unsloth gemma-4-31B-it-GGUF(Dynamic UD)… 約 9.6 万字 → クリーン

• gemma4:31b-it-qat(Ollama 公式の新 QAT)… 約 24 万字 → クリーン

(うち、公式・unsloth の QAT 版が合わせて約 35 万字。残りは QAT じゃない新ビルド版で、これも化けてない ── 新しく変換された GGUF なら大丈夫、ってこと。)

再変換 / 新ビルドの GGUF は、ローカルRTX5070Ti(16GB)でも RunPod の RTX 5090(32GB)でも、全部クリーン。化けるのは「古い変換の 31b」だけ、ってのがハッキリした。

まとめ

• 文字化けの正体は、ollama に置いてある gemma4:31b の変換が古かっただけ、だった。

• 直し方は、新しく変換された GGUF を使うだけ。今は Ollama 公式が QAT 版を出したので、ollama pull gemma4:31b-it-qat 一発が一番ラク(unsloth の HF 版でもOK)。

・・でgemma4:XXb-it-qatはエロ小説かけるの🤔

かけまーす😁
50万文字を出力して検証済みです

現在開発中のInkubus v2.xで書いた小説をどうぞ。
(※v2をゲットした方はv2.xバージョンは無料アップデート対象です）

タイトル

楽園の苗床計画 ――バイオ・エデンへの最適化――

サブタイトル

人間を捨て、至高の器へと書き換えられる快感の果てに

著者

ふわもこ

登場人物

• 瀬戸 結衣: 天才的な生物工学研究員 / 知的好奇心に突き動かされ自ら被験者となるが、次第に快楽による依存で理性を書き換えられていく。

• 椎名 舞: 結衣の助手 / 先輩である結衣を深く慕う献身的な少女。彼女と共に最適化が進む中で、共依存的に人間であることを捨てたいと願うようになる。

• 博士: バイオ・エデンの創設者 / 冷徹なカリスマ性を持ち、科学的アプローチを用いて女性たちを最高品質の「苗床」へと調教する絶対的な支配者。

• 管理官: 施設の運営および肉体管理担当 / 博士の右腕。拘束と徹底した快楽調教により、被験者の身体を絶えず発情状態に置き、屈服させる役割を担う。

• プロトタイプ・ゼロ: 人造生物 / 生殖機能のみが極限まで特化した超越的存在。その種子によって被験者の精神を砕き、完全な「器」へと変貌させる。

1章: 知的好奇心と白銀の檻

外界から完全に遮断された最先端の研究施設『バイオ・エデン』。そこは、あらゆる不純物を排除した純白の空間だった。壁も床も天井も、目に痛いほどの白に塗りつぶされ、空調からは無機質な電子音が一定のリズムで刻まれている。

瀬戸結衣は、その静謐な空間こそが自分にとって最高の居場所だと感じていた。若くして生物工学の分野で天才的な才能を発揮し、数々の論文を書き上げてきた彼女にとって、この施設で博士と共に取り組んでいる「生殖機能の最適化計画」は、人生における究極の挑戦だった。

「……なるほど。やはり既存の受精プロセスには、あまりにも多くの『無駄』と『不確定要素』が混入しているわね」

結衣はホログラムディスプレイに映し出された複雑な遺伝子配列を指先で操作しながら、独り言を漏らした。彼女の瞳には、知的な昂揚感に伴う鋭い光が宿っている。
人類という種が抱える不妊、先天的な疾患、そして出産に伴う肉体的な苦痛とリスク。それらを科学の力で排除し、完璧な次世代を産み出すための「至高の器」を作り上げる。それは医学的な救済であると同時に、生物としての進化を人為的に加速させるという神への挑戦でもあった。

「結衣先輩、こちらのデータの集計が終わりました」

控えめな声と共に、助手である椎名舞が近づいてきた。舞は結衣よりも数歳年下で、おどおどとした性格だが、その実務能力は高く、何より結衣に対して盲目的なまでの心酔を抱いていた。
舞の視線は常に結衣の背中を追い、彼女が口にする言葉の一つひとつを聖典のように受け止めている。白衣に身を包んだ舞の華奢な身体は、どこか庇護欲をそそる危うさを孕んでいた。

「ありがとう、舞。見てちょうだい。この最適化プロトコルを適用すれば、卵子の質を高めるだけでなく、子宮内膜の受容性を極限まで向上させることができるはずよ」
「すごい……。本当に、人間がもっと『効率的に』生命を宿せると言うことですね」

舞は感嘆に浸りながら、結衣の横顔を見つめた。結衣にとってこの研究は純粋な知的探求だったが、舞にとっては、その情熱に突き動かされる結衣自身への憧れが原動力となっていた。

そんな二人の会話を、背後から静かに見守る男がいた。バイオ・エデンの創設者であり、この計画の総責任者である博士だ。
彼は冷徹なまでの理知的な眼差しを持ちながら、同時に人を惹きつけてやまない不思議なカリスマ性を纏っていた。

「素晴らしい集中力だ、結衣君。そして舞君、君の献身的なサポートがなければここまで早く理論を構築することはできなかっただろう」

博士の低く心地よい声に、二人は同時に振り返った。

「博士！ はい、ありがとうございます」
「いえ、私はただ、先輩のお役に立ちたいだけで……っ」

舞が頬を赤らめて俯く。博士は薄い唇に微かな笑みを浮かべ、ゆっくりと彼女たちに歩み寄った。

「理論的な検証はほぼ完了した。だが、生物学における最大の壁は常に『実効性』にある。シミュレーションでどれほど完璧な結果が出ようとも、生きた肉体がどう反応するかを確認しなければ、この計画は完成しない」

博士の言葉に、結衣の胸が高鳴った。彼女は待ち望んでいた。理論を現実へと昇華させる瞬間を。

「……被験者が必要だということですね」
「その通りだ。だが、外部から被験者を募れば、倫理委員会の介入や情報漏洩のリスクが伴う。また、最適化のプロセスには高度な理解と同意が必要であり、何よりも『自らの意思で進化を望む』という精神的な覚悟が不可欠だ」

博士は結衣の瞳をじっと見つめた。そこにあるのは、支配者の視線であることに結衣は気づかなかった。彼女はただ、未知なる領域へ踏み出す高揚感に酔っていた。

「私が……やりましょう」

結衣の口から、迷いのない言葉が飛び出した。舞が目を見開いて絶句する。

「先輩！？ そんな、自分の身体で実験をするなんて！」
「いいえ、舞。これは科学者としての義務よ。自分が提唱した理論を、自らの肉体を使って証明することこそが至高の快楽だと思わない？ 痛みを排除し、効率的に生命を宿せる身体に書き換えられる。それは人類にとっての福音であり、私にとっても究極の体験になるはずよ」

結衣の瞳は、もはや研究者のそれではなく、禁断の果実に手を伸ばそうとする求道者のそれに変わっていた。
博士は満足げに頷き、結衣の肩にそっと手を置いた。その手のひらから伝わる温度は冷たく、しかし不思議と安心感を抱かせた。

「勇気ある決断だ、結衣君。君のような知的な女性が、自らの意志で『器』へと至る過程を観察できることは、私にとっても大きな喜びだ」

そして博士の視線は、震えている舞へと向けられた。

「舞君。君は結衣君のことを深く尊敬しているね。彼女が一人で孤独な実験に身を投じるのを、君は見過ごせるかな？」

その問いかけは、舞の心の最も脆い部分を正確に射抜いた。舞にとって、結衣に置いていかれることは死よりも恐ろしいことだった。結衣がどこへ行くのか、何に変わるのか。それを隣で支え、共有したいという強烈な欲求が、恐怖を塗りつぶしていく。

「私……私も！ 私も先輩と一緒に、最適化を受けたいです！」

舞の声は震えていたが、その瞳には結衣への共依存的な熱情が宿っていた。
博士の口角がわずかに上がった。計画通りだ。知性と献身。この二つの要素を持つ最高の素材が、自ら進んで檻の中に入ってきた。

「いいだろう。では、今日から君たちは研究員ではなく、『被験者』としての生活に入る。まずは身体のベースラインを測定し、感覚の鋭敏化から始めていこう」

案内されたのは、施設の最深部にある処置室だった。そこには、白銀に輝く拘束具付きの診察台が鎮座していた。
結衣と舞は、指示に従って衣服を脱ぎ捨てた。冷たい空気が露わになった肌を撫でる。研究員として数え切れないほど見てきたはずの人体だが、いざ自分が「被験者」として晒されるという状況に、結衣の心拍数は跳ね上がった。

それは恐怖ではなく、未知の刺激に対する期待だった。

「まずはホルモン剤の投与と、末梢神経への微弱電流刺激による『感度調整』を行う。これにより、君たちの肉体はこれまで感じたことのないレベルで外部刺激に反応するようになる」

博士が操作パネルを叩くと、診察台から伸びた細い電極が、結衣と舞の身体の敏感な部位――乳首や陰部、そして内腿へと正確に取り付けられた。
拘束具がカチリと音を立てて彼女たちの手足を固定する。自由を奪われた感覚が、逆に意識を肉体の一点へと集中させた。

「……っ」

不意に、かすかな電流が走った。
それは痛みなどではなく、脳の芯を直接揺さぶられるような、鋭く、それでいて甘い痺れだった。

「あ……っ！？」

結衣の口から、自分でも驚くほど艶っぽい声が漏れた。これまで経験したことのある快感とは根本的に異なる。神経細胞の一つひとつが強制的に開花させられ、皮膚の表面を撫でる空気の流れさえも、濃厚な愛撫のように感じられる。

隣にいた舞も同様だった。彼女は身体を弓なりに反らせ、激しく呼吸を乱している。

「ふあぁっ……！ な、なに、これ……っ！ 身体が、変に……熱い……ですっ！」

舞の瞳はすでに潤み、焦点が定まっていない。結衣は隣で快楽に翻弄される後輩の姿を見て、奇妙な興奮を覚えた。自分もまた、この抗えない波に飲み込まれていく。理性が「これは単なる神経刺激だ」と分析しようとするが、肉体はそれを拒絶し、もっと強い刺激を、もっと深い充足を求めて疼き始めていた。

「どうだね、結衣君。最適化の第一段階だ。君たちの脳内報酬系は、今この瞬間から書き換えられ始めている」

博士の声が遠くで聞こえる。
結衣は、自分が自分ではなくなっていく予感に震えた。しかし、その喪失感こそが、今の彼女にとって最高の快楽だった。

知的な研究者としての矜持。人間としての理な理性。それらが少しずつ剥がれ落ち、ただの「雌」としての本能が頭をもたげ始める。
結衣は、自分が作り上げた計画という名の檻に、自ら心地よく閉じ込められたことを確信した。

だが、彼女たちはまだ知らなかった。
この微弱な痺れは、これから訪れる絶頂の地獄――あるいは楽園――への、ほんの入り口に過ぎないことを。

そして、白銀の処置室の影から、冷徹な視線で彼女たちの肉体を品定めする男、管理官がゆっくりと歩み寄ってくるのを。

「博士、準備は整いました。ここからは私の管理下で、『身体的な調教』を開始します」

管理官の低い声と共に、結衣と舞の身体にさらなる刺激が加えられた。
二人の絶叫に近い嬌声が、真っ白な部屋に響き渡った。