メインコンテンツへスキップ
見出し画像

Ollama で gpt-oss を試す

    「Ollama」で「gpt-oss」を試したのでまとめました。

    1. Ollama

    「Ollama」はLLMをWindows/Mac/Linuxで簡単に実行できるアプリケーションです。

    2. gpt-oss

    「gpt-oss」は、OpenAIが開発したオープンウェイトのLLMです。

    ・gpt-oss-20b
    16GBメモリ搭載の一般的な環境向け。
    メモリ16GB以上、ストレージ14GB。

    ・gpt-oss-120b
    高性能GPUを備えたハイエンド環境向け。
    メモリ60GB以上、ストレージ65GB。

    3. Ollama で gpt-oss を試す

    「Ollama」で「gpt-oss」を試す手順は、次のとおりです。

    (1) Ollamaのサイトからインストーラをダウンロードしてインストール。

    画像

    (2) 「Ollama」の実行し、モデルで「gpt-oss:20b」を選択。

    画像

    (3) メッセージを入力して送信。
    初回は、モデルのダウンロード時間 (20分ほど) がかかります。

    画像

    関連



     
     

    npaka

     
     
    プログラマー。iPhone / Android / Unity / ROS / AI / AR / VR / RasPi / ロボット / ガジェット。年2冊ペースで技術書を執筆。アニソン / カラオケ / ギター / 猫 twitter : @npaka123

    あなたへのおすすめ