Gemma3を自分のPCにテイムする

Ollamaと言うツールを使うと色々なAIが簡単に使えるんですよね。
自分のPCは、スペックも低いのでサイズの大きなAIを動かすことは、
難しいのですが小さなサイズのものは、結構動作はします。

しかし、今までのAIでは実用には性能的に難しかったんですよね。

それが最近出たGemma3:4bと言うのがあって、
これを使うと簡単な用途なら十分に使えるようになってました。

サイズも３．３GBとかなり小さい。

なので、もうご存じの方もたくさんいるとは思いますが
使わないのはもったいないので
自分のPCにインストールして使用する方法をご紹介します。

Windows環境を前提に説明します。

Ollamaのダウンロード

最初にOllamaをインストールします。

これは、Gemma3に限らず色々なAIをダウンロードして
チャットが出来る様になるツールです。

APIとしても使えるようになります。

そして、チャットとして使うよりもこのAPIを
使うと色々なことに利用することが出来る様になります。

ここから OllamaSetup.exe をダウンロードします。

Ollamaのインストール

OllamaSetup.exeをダブルクリックしてインストールします。

これだけ。

Ollamaの起動とモデルのダウンロード

ターミナルを開いて

Ollama run gemma3:4b

とすると gemma3:4b をダウンロードしてチャットが開きます。

ダウンロードにはそれなりの時間がかかります。

このコマンドは、すでにダウンロードしたものであれば
そのままチャットが開きます。

他のモデルは、OllamaのWebサイトで Models から確認することが出来ます。

モデルファイル名は、ファミリー名とバリアントを組み合わせたものです。Gemma3には、
gemma3:1b、
gemma3:4b、
gemma3:12b、
gemma3:27b
の4つが存在します。

ダウンロードされたモデルの確認

Ollama ls

とするとすでにインストールされたAIが表示されます。

モデルの削除

Ollama rm gemma3:4b

とすると gemma3:4b が削除されます。

ヘルプ

Ollama --help
Ollama run --help

とするとヘルプが表示されます。

実際にチャットしてみる

Ollama run gemma3:4b でチャットが起動すると
こんな画面になります。

自由にチャットしてみてください。
英訳なんかもちゃんとこなします。

"/?"でヘルプが表示されます。
"/bye"チャットを終了します。

"/set" : セッション変数を設定するために使います。　例"/set num_ctx 409"
"/show" : モデルの情報を表示します。例"show info"
"/load <名前>" : 保存したチャットの内容を<名前>で読み込む。
"/save <名前>" : チャットの内容を<名前>で保存する。
"/clear" : チャット内容をクリアする（忘れる）。
"/? shortcuts" : キーボードショートカットを表示する。

まとめ

今回は、簡単に
ローカルのPCで Gemma3:4b を使う方法を説明しました。

Ollamaをダウンロードしてインストールするだけで
モデルもモデルファイル名さえわかれば実行できることを説明しました。

Ollama run gemma3:12b

Ollama run mystral:7b

等とすると実行できます。

そしてチャットで使うコマンドについて説明しました。

Webで使えるAIサービスと違い、ローカルで動作させることで
セキュリティや拡張性の面で大きなメリットがあります。

特にAPIとしての活用にこそ真価があるので、
次回はその方法についてご紹介します。

次回は、APIとして使う方法について説明したいと思います

お楽しみに。