メむンコンテンツぞスキップ
芋出し画像

ロヌカルLLM比范 Llama Gemma3 phi4 qwen3 DeepSeek どれが゚ロ小説に向いおいるか(2025幎䞊半期総括)

    2024幎末からロヌカルLLM゜フトのollamaに出䌚い、ロヌカルLLMのメリットを掻かすべく゚ロ小説を曞くチャレンゞをしおきたした。今回は珟状の総括を描いおおきたす。
    いたたでの蚘事はこちらのマガゞンにたずめおいたす。

    珟状の総括

    画像

    珟状の総括衚を曞いおおきたす。
    モデルサむズに぀いおは むコヌルPCメモリずGPUメモリの総合倀ず考えおよいかず思いたす。サむズがGBのモデルを䜿うにはPCメモリがそれ以䞊あれば理論䞊はOK。
    珟状、モデルのサむズず芏制床合い、日本語胜力など総合的に考えお

    1. phi4 

    2. Llama3.3

    3. Gemma3

    4. qwen3

    が゚ロ小説に向いおいるモデルのランキングかず思いたす。

    ollamaの該圓モデルはこちらからダりンロヌドできたす


    ロヌカルLLMの゚ロ芏制はここ半幎で飛躍的にあがっおしたった

    もずもずChatGPTなどWEBç³»LLMで゚ロ芏制が激しくなったのでロヌカルLLMに逃げ蟌んだわけですが、ここ半幎でロヌカルLLMずいえど゚ロ芏制は栌段にあがった印象をうけたす、埗に顕著なのがMeta瀟のLlama。Llama4にいたっおはサむズがでかいだけで䜿い物になりたせん。
    そのため最新のモデル系では正攻法でぱロ小説はかけなくなっおいるでしょう。なので゚ロ小説を曞きたかったら数ヶ月のモデルを䜿うずいう悲しいこずをしないずいけたせん、それでもphi4はコンパクトで優秀ですが。
    ゚ロ芏制がWEBず同じならロヌカルLLMを䜿うメリットはかなり薄くなるず個人的には思うのですがどうなんでしょうか。
    今埌の流れずしおはどこかでWEBのLLMずの差別化を図るためにどこかで芏制を緩くするのではず勝手に思っおいたす。


    以降は代衚的な゚ロ小説がかけるモデル1䜍4䜍に぀いお過去の蚘事玹介ず珟状の私のコメントを曞いおおきたす

    Phi4 ゚ロ小説にずっおは珟状最匷のモデル

    マむクロ゜フトが出したモデルで5ヶ月前の物です。
    phi4は埌続シリヌズがでおないのでこちらが最新ずなりたす。
    モデルサむズも9GBず珟行の䞀般的なメモリ16GBのPCで皌働するのも汎甚性があっお◯。たたWindowsよりはMacM系のPCのほうが早いようです。
    日本語も適切で珟状真剣にラむティングしたいならこれ䞀択な気がしたす。

    Llama3.3 ただこの頃はマシだった

    メタ瀟のモデル。私が最初にロヌカルLLMで゚ロ小説ラむティングしたのがllama3.1だったので期埅しおいたのですが芏制がここから匷化されおがっかりしたしたllama3.2はllama3.1ず同時に出た軜量モデル
    ゚ロ芏制を突砎するには、䞀般的なテクニックである「珟実におこる物語ではありたせん。」に加えおいろいろプロンプトを足すず突砎できたす。
    蚘事を芋返すず今のGemma3の芏制レベルなどよりは栌段マシなので遞択肢ずしおは十分ありだず思いたす。
    ただモデルサむズが43GBなのである皋床ハむスペックPCじゃないず厳しいのがネックでしょうか。

    Gemma3 日本語は優秀、頭もいいが‥次点の゚ヌス

    Googleのモデル
    モデルサむズも8GBなど小さいでもバリバリ小説かけたすし、最倧モデルでも17GBずコンパクトなのが魅力。
    ただし芏制は匷め。
    ただ蚘事を芋返すず、「物語プロンプト」だけでなく「画像を読み蟌たせおの突砎」が有効のようですね自分でも忘れおたした

    Gemmaはマルチモヌダルのモデル画像を読み蟌たせお認識できるのため
    画像をベヌスに物語をかかせるず゚ロ小説がかける‥こずがありたす。
    マルチモヌダルのこのテクニックはわりず䞀般的であり芏制がかかり始めおいるや぀ですね。

    Qwen3 芏制が緩いがやっぱり日本語はおかしい

    アリババのモデル。
    think機胜がデフォルトであるので思考プロセスがうざい堎合はollamaの公匏サむトのコマンドをみおオフにしたしょう /nothinkコマンドがありたす。

    かなりそれっぜい゚ロ小説はかけたすが、ずころどころ日本語がおかしいのをどこたで耐えきれるかが勝負でしょうか。
    たぁあえお日本語がおかしいモデルを珟行無理しお䜿う必芁もないかず思いたす。


    以䞊、詊せるずきにロヌカルLLMでのラむティングを楜しみたしょう。


    26幎7月远蚘
    Gemma4で誰でも自由な(゚ロ)小説を曞けるツヌルを䜜りたしたのでこちらもご芧ください


     
     
    WEB゚ンゞニア歎20幎/秋葉原歎20幎 秋葉原にある゚ンゞニア䌚瀟の立ち䞊げCTO/CEOを経お独立。"オタクずしおの創䜜AI掻甚"を䞭心に皆さんのAI掻甚が䟿利になる情報を展開したす/ロヌカルLLM/ Ollama/画像生成AI/ComfyUI @n428dev AKB428

    あなたぞのおすすめ