
【生成AI入門 #4】ローカルAIをはじめてみる──自分のPCの中でAIを動かす(Ollama入門)
📚 このシリーズは全6回(予定)。第4回は「ローカルAI入門」です。第3回(不便を片づける)→ [前の回へ]
ここまでの3回は、ChatGPTやClaudeといったクラウドのAIが中心でした。今回は一歩進んで、自分のPCの中だけでAIを動かす話です。
先に結論。ローカルAIは「上級者の趣味」ではありません。「この情報、ネットに送って大丈夫かな?」と一度でも思ったことがある人に、まっすぐ役立つ選択肢です。そして今は、コマンドを数行打つだけで始められます。
1. そもそも「ローカルAI」とは
ふだん使うChatGPTなどは、あなたの入力をインターネット経由で相手のサーバーに送って答えをもらっています。便利な反面、社外秘の情報や個人情報を扱うときは少し気をつかいますよね。
ローカルAIは、AIの本体(モデル)を自分のPCにダウンロードして、手元だけで動かすやり方です。

つまりプライバシーと引き換えに、少しだけ自分で準備する。それがローカルAIです。第1回で触れた「インフラやセキュリティに強い人ほど応用が効く」というのは、まさにここの話です。
2. Ollama(オラマ)が初心者にやさしい理由
ローカルAIを動かすツールはいくつかありますが、入門には Ollama が定番です。理由はシンプルで、インストールしてコマンド1行で動くから。難しい設定をほぼ肩代わりしてくれます。
ざっくりした流れはこれだけです。
公式サイト(ollama.com)からインストーラをダウンロードして入れる。
ターミナル(黒い画面)を開く。
モデルを1つ指定して動かす。
3のコマンドはたとえばこんな形です(モデル名は一例。軽いものから試すのがコツ)。
ollama run llama3.2これで初回はモデルが自動ダウンロードされ、そのまま対話が始まります。あとはチャットと同じ。ChatGPTの画面が、自分のPCの中に出てきたようなイメージです。
よく使うコマンドはこのくらい。
ollama list # 入れたモデルの一覧
ollama pull モデル名 # モデルだけ先にダウンロード
ollama run モデル名 # 対話を開始3. つまずきやすいポイント(先に知っておくと安心)
PCのスペック:AIモデルはメモリ(RAM/VRAM)を食います。まず軽い・小さいモデルから試して、重ければさらに小さいものへ。いきなり一番大きいモデルを選ばないのが鉄則。
最初の答えが遅い/そっけない:ローカルの小さいモデルは、クラウドの最新AIほど賢くありません。用途を割り切る(要約・下書き・社外秘の相談など)と満足度が上がります。
何を選べばいいかわからない:これこそ第1回の出番。クラウドのChatGPTやClaudeに、こう聞けばいいんです。
私のPCは(OS・メモリ・GPUを書く)です。
Ollamaで動かす初心者向けのモデルを、軽い順に3つ、理由付きで教えて。
それぞれの得意なことも一言で。ローカルAIの選び方を、クラウドAIに聞く。この合わせ技が、いちばん速くて確実です。
4. 今日やってほしいこと
ollama.com を開いて、自分のPC向けのインストーラを入れる。
ターミナルで `ollama run`(+クラウドAIにすすめてもらった軽いモデル名)を実行する。
「自己紹介して」と打ってみる。自分のPCの中のAIが、ネットなしで返事をしたら成功です。
うまくいかなくても大丈夫。エラーメッセージをそのままChatGPTやClaudeに貼って「これ何?」と聞けば、だいたい解決します。これも第1回・第3回でやった「わからないをそのまま投げる」、そのままです。
📚 このシリーズの記事一覧
⬅ 前の記事:【#3】日常の不便を10分で片づける
➡ 次の記事:【#5】自分の強み×生成AI
ツールがひと通り使えるようになったら、最後は「あなたにしかできない使い方」です。インフラ、セキュリティ、ハードウェア──あなたが元々持っている強みに生成AIを掛け算すると、何が起きるのか。一般論ではなく、自分の武器を伸ばす応用編に入っていきます。
★ #4 ローカルAIをはじめてみる(Ollama入門)(この記事)
#生成AI #生成AI初心者 #ChatGPT #Claude #AI活用 #Ollama #ローカルLLM #プライバシー #LLM #note