
【PC系日記】パソコンの土曜日
↑昨日の日記の後書き&考察で書きましたが、現在、メインPCを96GBにパワーアップして、Strataで走らせているQwen3.8-Flash-Nextのnvfp4版を使って、主にゲームを作れるか&デバッグの能力を試しています。16~20tok/sしか出ないんで大変遅いですが(もう4~5日?)、まあまあ意図した通りに進んでいます。Hermes Agentに「コンテキストウィンドウの限界近くになったら自動的にまとめを作成して次のセッションに引き継いでください」という指示を出したら、いちいちエラーで次セッションを開かなくても良くなったので、ようやく普通に「お任せ」にできるようになった感じです! しかも、nvfp4版は、同じ単語の繰り返し暴走(リピート)が今のところ出なくなったんで、とても使い勝手がイイです! 普通にCodexに何かさせるのを少し(大分)劣化させたくらいな感じになってきたんで、エージェントって、コレコレこんな風に動いてほしかった、Good、という感じですね! メモリ96GBで、ちょっと空きメモリに余裕がでてきたんで、Strataを普段から起動してメモリに置いておいて、使いたい時だけさっと使うというのもできそうな気がしています。
いえ、今、作っているのは、実際はたいしたことがないゼ○ウスもどきのゲームなんですが……まあ自分で妥協できるレベルになったら、謎村ページに載せる予定なんで、皆様遊んでみてください!
で、メインPCのメモリを増やして余った16GB×2は、サブマシンに移して、サブマシンの方は16GB×2+8GB×2=48GBから、現在、16GB×4=64GBに増えた訳ですが、これで、サブマシンもメモリを64GB積んで、StrataのQwen3.8-Flash-NextのIQ3_S版を実行できるようになりました。48GBの時に色々試して気づいたところによると、StrataでもIQ3_XXS以下は、リピートが出過ぎて、my環境では、ほとんど使いものになりませんでした。Coder版(プログラム用に半分くらいに削ったバージョン)もダメですね。Hermes Agentが悪いのかと、Open Codeを使ったりもしたんですが、すぐ何をしたか忘れられるという問題があり、色々調整が大変そうでした。まあ、でもメインマシンで先に見た感じのようにIQ3_Sでも、日本語のレベルがかなりダメなんで、使い所が難しいな~という感じです。
MoEでもGemmaシリーズのもっと大きなバージョンのStrataっぽいのが出たらいんですが。31Bは、確か、Denseだった筈なんで、難しいでしょうか?
そういえば、なんか最近読んだ記事だとGemma4 E4BをIoT家電のスウォームで動かすようなこともできているっぽいんで:
……こういった世界が現実になる日も来そうな感じ……かも??
まあ、(近い?)将来的には、メインマシンとサブマシンの間で、でっかいモデルを分散して動かせるようになるといいなあ「オラにチカラ(計算力)を分けてくれ!」みたいな感じで、と思います。実際のところ、人間の脳は、MoEに近いようなことをやっていると思うんですよね。脳にはMoEのエキスパートにあたるような機能単位があって、ニューロン自体は分子コンピューターのようなものなのでかなり信号処理は速い(CPU的)ですが、その間の信号伝達は相当遅い(リレーのようにバチバチ)んで、分散しても結構イケると思うんですが。
現状は、Strataでは、RAM内にドカっと(あまり使わない)エキスパートを置いて、力業でCPUも使って計算しているんで、CPU負荷も結構高い感じです。先の話に戻りますと、サブマシンが不安定になっていたのも、これが効いていたようで――イベントログを見たらSSDのドライバとかでハングしていたようなんですが、実は、サブマシンが不安定になっていたは、メモリタイミングそのものが問題でした。
いえ、一見、普通に動いていたんです。が、Strataを起動したら落ちる、という感じで……勿論、メモリを換えてから不安定になったんで、とりあえず、ゴミでも噛んだかと何回かメモリ差し直してみたりとかもしたんですが――UEFIのバージョン上げれば解決するかも、とまずは最新バージョンにアップデートしたら、起動しなくなりました。仕方ない、とCMOSクリアをしようと思って、マニュアルを読み返してみたら、4枚刺しだとDDR4 2666までしか動かないと、はっきり書いてありました! うん。CMOSクリアしても起動しません。しかし、これは、V100のせいでしたんで――V100を抜いたら起動したんで、メモリのタイミングをAUTO→2666に変更し、Above 4Gとかの必要な設定をONに設定して、またV100を挿して起動……というところで、一日動かして、普通に動いているので大丈夫と判断しました。
サブマシンで取り換えた(増やした)メモリは、元々付けていた16GB×2と同じバッファローCFD販売のMicronのメモリだったんです。しかし、元々付いていたのはSingle Sidedで、換えた方は同じ16GBでもDouble Sidedでした。買った時期が違うんで、使っているチップの容量が違っていたんですね。しかし、どちらもDDR4 3200だったんです。実は、その前に挿していた(今回抜いた)8GB×2の方は、ARKで安いときに買ったもっと遅いメモリで……取り換えたら、UEFIのAUTOでDDR4 3200で動くように設定されたものの――4本挿しでは、そのスピードでは動かなかった、ということのようです。
しかし、以前、どっかのPCショップのお兄さんに、メモリ相性保証をつけようとしたら「最近は、メモリのトラブルなんてほとんど起きないようになりましたよ~」と言われたことがありました。が、こういうのがあると、全部う~そさ~と歌いたくなります(苦笑)。そういえば、私が最初にIBM-PCを組んだときから、メモリ問題がありましたね~と思いだしますた。その件は、いずれ書きます(遠い目)。
……というところで、ちょっとトラブルシュートが面倒でしたね。仕事の後でやったんでちょっと寝不足で、昨晩はよく眠れました(苦笑)。
そんな訳で、それでは、また!