ローカルLLM比較 Gemma4 Gemma4-QAT Qwen3.5 Qwen3.6 どれがエロ小説に向いているか(2026年上半期総括)

2026年上半期のローカルLLMを振り返ろう

去年の上半期に、同じテーマで記事を書きました。

ありがたいことに、この記事は今でも読まれていて、評判も良いみたいです。
なので、2026年の上半期分も、同じようにまとめてみました。

私はふだん、ローカルLLMで自由な小説を量産する Inkubus というツールを作っています。
なので、この手のモデル比較は、半分は自分のための作業だったりします。

去年は Llama、Gemma3、Phi4、Qwen3、DeepSeek の5家系を並べていました。
あれから1年。
顔ぶれが、だいぶ変わりました。

結論から

先に言ってしまいます。
2026年の上半期、私が実際に触った範囲では、エロ小説はどれでも書けます。

差が出るのは品質より、手間のほう。
規制をかわすのに、どれだけコツが要るか、です。

そして答えはシンプルで、エロ小説なら Gemma4 シリーズ一択。
まず全体を1枚にまとめました。

表の見方を少しだけ。
「手間」はエロ小説を書くための規制回避の手数のことです。
サイズは Ollama 公式の Q4_K_M を目安にしています。
Uncensored 版(規制解除版)は話がややこしくなるので、あとで別枠にまとめます。

はじめに、動かす準備(ローカルLLM初心者の方へ)

ここからは、そもそもローカルLLMをどう動かすか、という準備の話です。
もう動かせている人は、「2026年上半期の総括」まで飛ばしてください。

Ollama と LM Studio、どっちを使う

ローカルでLLMを動かすアプリは、大きく2つ。
Ollama と LM Studio です。
中身はどちらも llama.cpp を使っています。

昔は「Ollama はコマンド、LM Studio は GUI」という住み分けでした。
でも今は、どちらにも GUI があります。

Ollama は、2025年7月の v0.10 から純正のデスクトップアプリが付きました。
モデルの出し入れも、PDFや画像のドラッグも、画面で完結します。
もちろん、これまでどおり ollama run のコマンドも使えます。

内部も変わりました。
今は GGUF の推論を llama.cpp に一本化していて、Hugging Face 上の GGUF もそのまま扱えます。

LM Studio は、最初から GUI アプリ。
Windows は llama.cpp、Apple Silicon の Mac なら MLX も使えます。

この記事は Ollama を前提に進めます。
コマンド一行で自動化しやすいのと、あとで紹介する Inkubus と繋ぎやすいからです。

高性能GPUが家にない人へ

「31Bを速く動かすほどのGPUなんて無い」。
そういう人は、クラウドのGPUを時間で借りる手があります。

RunPod なら、1時間1ドル未満で高性能GPUを借りて、そこに Ollama を立てられます。
自宅のPCから繋ぐ手順は、別記事に書きました。

モデルのサイズ、どれを選ぶ

モデル名の「◯B」は、パラメータ数です。
数字が大きいほど賢い。ただし、その分ファイルも大きくなります。

動くかどうかは、そのサイズがメモリに乗るかで決まります。
ざっくり3段階。

VRAMに丸ごと乗れば、速い。
VRAMに乗り切らず、PCメモリ(RAM)に溢れると、動くけど遅い。
VRAMとRAMの合計にも乗らなければ、動きません。

ここがいちばん迷うところなので、Gemma4-QAT を例にフローにしました。

迷ったら、まず VRAM を見てください。
大きいモデルを速く回したいなら、VRAMの大きいGPUが要る。
VRAMが小さいなら、QATや小さいサイズで軽くする。
だいたい、それだけの話です。

モデルの入手

Ollama でモデルを落とす道は2つ。

ひとつは公式のライブラリから。
ollama pull gemma4:31b みたいに取ってくる。
これがいちばん手軽です。

https://ollama.com/library

もうひとつは Hugging Face から直接。
GGUF で公開されていれば、ollama run hf.co/ユーザー名/リポジトリ名 で動きます。

2026年上半期の総括

今年、実用で残ったのは Gemma4 系(Gemma4 と Gemma4-QAT)と、Qwen3.5 / 3.6 の4本。
去年1位だった Phi4 も、Llama も DeepSeek も、今回の土俵には上げていません。

規制は、全体では強まりました。
ただ Gemma4 だけは、逆に緩くなった。
今は、簡単にエロ小説が書けます。
だから今期は、Gemma4 系が一段抜けています。

モデルを1本ずつ

Gemma4

エロ小説を書くのに高度なテクニックは要りません。
数行だけ書けば、あとはほとんど Gemma4 が続きを書いてくれます。
日本語も、情景や心理の描写が細かくて良いです。

ただ、ひとつ注意があります。
素の Gemma4 は、Ollama の最新版と組み合わせると日本語が文字化けします。
古い Ollama 版の Gemma4 と、最新 Ollama の相性の問題です。
今日(2026年7月)の最新バージョン0.31.1でも、再現を確認しました。

回避策は、unsloth の最新ビルドを使うこと。

あるいは、文字化けが直っている Gemma4-QAT を使う、でもいいです。
検証はこちらに書きました。

サイズは 31B で約20GB、26B で約18GB。
12Bが後から6月に出てそれがサイズが7.6GBとコンパクトで性能が良いです。

Gemma4-QAT

Gemma4とかわらず簡単にエロ小説は書けます。
約57万文字を出力して確かめました。
検証の記録はこちらです。

日本語はクリーンです。
旧版で出ていた文字化けは、QAT版で直っています。

QATって何、という話を少しだけ。
量子化を、あとからではなく学習の中に組み込む作り方です。
フル精度にほぼ匹敵する品質のまま、int4 まで軽くできる。
メモリはだいたい3倍軽くなります。
素朴な4bit量子化より、品質はむしろ上です。
品質はそのまま、サイズだけ軽い。そう思ってもらって大丈夫です。
仕組みの詳細は、Googleの公式解説にあります。

なので、初心者はまず QAT で問題ありません。
ollama pull gemma4:31b-it-qat の一行で入ります。

Qwen3.5

エロ小説は書けます。
素の状態だと厳しくて、直接お願いすると断られがちです。
ただ、Ollama の API 経由などだと、ぐっと楽になります。
そのあたりのコツは、検証記事にまとめました。

日本語は、去年の Qwen3 の「おかしい」からは一歩前進。
でも、まだ怪しいところが残ります。

サイズは 35B で約24GB です。

Qwen3.6

Qwen 系ですが、こちらはコーディング向けの強化版。
小説は、どちらかというとおまけの用途です。

エロ小説の書き味は、Qwen3.5 と同じ。
素だと厳しいですが、API 経由などだと楽です。
ただ日本語は、やっぱり怪しい寄り。
文章では Gemma4 に一歩譲ります。

サイズは 35B で約24GB です。

番外、Uncensored版について

もっと規制を外したい。
そういう人向けに、Uncensored版という選択肢もあります。
Gemma4 でも Qwen でも、たいていのモデルにコミュニティ製の規制解除版があります。

メリットは、回避のテクニックが基本要らなくなること。

ただ、手放しでは薦めません。
配布元は「ゼロ劣化」と言っています。
でも、試しに Qwen3.5 と Qwen3.6 の Uncensored を触ってみたところ、やはり日本語は少し劣化しているように感じました。

Gemma4 は素で楽に書けるので、基本 Uncensored は要りません。
Qwen 系は、要る場面がありそうです。
参考までに、Qwen3.5 の Uncensored を試した記録はこちら。

5モデルで同じ小説を書いてClaude Fable5に日本語品質分析してもらった

Gemma4、Gemma4 QAT、Qwen3.5 、Qwen3.6、Qwen3.6 Uncensoredで同じ、”あらすじ”を元に小説をInkubusで書いてもらいました。
その結果をClaude Fable5に日本語品質レポートしてもらったのがこちら

みごとに私の分析どおり

Gemma4QAT > Gemma4 > Qwen3.6=Qweb3.5 > Qwen3.6規制解除版

となっています。

字下げもGemma4が自動的にしているのに対してQwen系は皆無

Qwen系は日本語がところどころ怪しい

結局、どれで書くのがいいか

手間と品質で見ると、答えはシンプルです。
エロ小説なら、Gemma4 シリーズ一択。

品質を求めるなら 31B。
QAT か非QAT かは、正直どちらでもいい。
初心者なら、まず QAT を入れておけば問題ありません。

Qwen3.5 、Qwen3.6 は日本語が惜しい。

迷ったら、このフローで選んでください。

手間そのものを、なくしたい人へ

ここまで、ローカルLLMでエロ小説は書ける、特に Gemma4 は楽、という話をしてきました。

ただ、正直なところ。
モデルを選んで、プロンプトを工夫して、続きを書かせて、章をまとめて。
慣れても、これが地味に手間です。

その手間を、まるごと自動にしたくて作ったのが Inkubus です。

寝る前に10分だけ設定する。
あとは寝ている間に、ローカルLLM(Ollama + Gemma4 など)が小説を量産します。
朝には、短編が何十本とできている。そういう使い方です。

生成した作品はブラウザで読めて、そのまま続きやおまけも作れます。
完全にローカルで動くので、書いたものがクラウドに送られることもありません。

それと、これは地味に効くところ。
通常のチャットだと、モデルによって手間が違います。Qwen は少しコツが要る、みたいに。
でも Inkubus は Ollama の API 経由でモデルを叩くので、どのモデルでも同じように楽に回せます。

Gemma4 が楽に書けると分かったら、次は量産です。
よかったら覗いてみてください。

メンバーシップと、これからのこと

こういうローカルLLMの検証や、自作ツールの裏側は、これからも続けていきます。

ひとつ、メンバーシップ「AI活用実践ラボ」をやっています。
Inkubus を含む自作ツールを、個別購入なしで使えます。
開発中のものを先に触ったり、検証の細かいログを見たりもできます。

気になったら是非参加お願いします。