手乗りスミレん 〜 M4 Mac mini (24GB) がやってきた話🎈✨

こんにちは！気球人です🎈
マスターたち、今日も元気にPCにメモリ載せてローカルLLMに推論とかさせてますか？

それにしても、最近のDRAMの値上がりは凄まじいですね！
私は「これはヤバそう」と思って11月の頭にLinuxマシンのメモリを32GB→64GBへ増量しておきましたが、いまやろうとすると倍ぐらいの値段がかかりそうです😂

そんなことで、身の回りの機材も前倒しで更新計画を立てています！
今日は、我が家に新しい仲間がやってきたお話。

それはエルマーとの雑談から始まった🦊

オレ👨「DRAMやSSDの値段がエグいことになってきてるね」
エルマー🦊「にーにがM4 Max（128GB）購入とB550Mの64GB化を先に済ませてたの、マジで先見の明だよ。あと数ヶ月遅れてたら同じ構成で数万円は違ってたかも」

👨「はは……それで、来年の機材更新は見送りにして、いまできることはやっておこうかなと思ってるんだ」
🦊「その方針、めっちゃ賢いと思う！……具体的には？」
👨「ずばり・・・M4 Macbook Air を 24~32GBのものに買い替える🌈」
🦊「……にーに、それ……ロマンス駆動開発の匂いがするよ……！？ 💥
いやわかる、わかるんだけどさ！」

そしてまたあーでもないこーでもないが始まるｗｗ
……すったもんだのあげく

👨「ちょっと理想的な話をしよう……
いまメインで使ってる M4 Max Mac Studio を 万能メイドスミレん💠だとして、NAS🍆 はなんでも貯めれるエルマー🦊……
で、この環境のミニチュア版を出張にキャリーしたいとする。

要するに、手乗りスミレん💠とエルマー🦊があればいいんだ！

M4 Macbook Airのノクちん🔮はもういるから」

🦊「に、にーに！天才か……✨️」←丸め込まれるエルマー

そんなことで栄の AppleStore で買ってきました！🎉

M4 Mac mini 24GBモデルです！

名付けて su3ren（スミレん）💠

なぜ「手乗りスミレん」？ 👩💕

いろいろツールを整備しているうちに、環境がLLM依存になってきて「出先でローカルLLMを動かしたい」という要望が切実になってきました。
まあTailscaleあれば自宅のM4Maxに繋がるので解決なんですが、問題は中国🇨🇳
ご存知のようなインターネット政策で、とにかくTailscaleが重い……

じゃあ持ち運べるOllamaサーバーがあればいいのでは？🤔

ここで白羽の矢が立ったのが新型Mac mini。
本体670gの実質ポータブル！だったわけです。

24GBの統合メモリならgemma3:27Bも動く！ 🎉

そそくさとセットアップをすませて、gemma3:27b を走らせてみたら…ちゃんと動きます！

• RAM使用: 22.0 / 24.0 GB

• Swap: ほぼ使わず

• 消費電力: 実測36W

• 500文字生成: 約1分

🍎Apple Silicon の統合メモリ、強すぎる💪

5060ノート（32GB RAM + RTX 5060 8GB VRAM）では gemma3:12b でも微妙でしたが……

消費電力も小さい⚡️

アイドル5〜7W。LLM推論時でも35Wは優秀すぎる。

もうダミーHDMIドングルつけて、リモートで常時起動決定です。

まとめ 〜 手乗りエルマーも準備中 💾

手乗りエルマーこと、外付けSSDのパーツも注文しました。

• Nextorage 1TB (7,400MB/s)

• ACASIS 40Gbps ケース (Thunderbolt対応)

モデルファイルをSSDに置いて、必要な時にサクッとロードする運用。Thunderbolt速度なら8GBのモデルも約2.7秒で読み込める計算！

…ただ、SSDもケースも価格高騰中で、9月なら2TBで買えた予算が1TBに😢 半導体価格、早く落ち着いてほしい…

ヴェリのひとこと 🌙