メインコンテンツへスキップ
見出し画像

LM Studio で gpt-oss を試す

    「LM Studio」で「gpt-oss」を試したのでまとめました。

    1. LM Studio

    「LM Studio」はLLMをWindows/Mac/Linuxで簡単に実行できるアプリケーションです。

    2. gpt-oss

    「gpt-oss」は、OpenAIが開発したオープンウェイトのLLMです。

    ・gpt-oss-20b
    一般的なローカルPC環境向け。
    メモリ16GB、ストレージ14GB。

    ・gpt-oss-120b
    高性能GPUを備えたハイエンド環境向け。
    メモリ80GB、ストレージ65GB。

    3. LM Studio で gpt-oss を試す

    「LM Studio」で「gpt-oss」を試す手順は、次のとおりです。

    (1) LM Studioのサイトからインストーラをダウンロードしてインストール。

    画像

    (2) 「LM Studio」の実行すると、「Download gpt-oss-20b」が表示されるのでクリック。

    画像

    このダイアログが表示されない場合は、左の虫眼鏡(紫)ボタンからダウンロードできます。

    画像

    (3) 上端のモデル選択で「gpt-oss-20b」を選択。
    メッセージボックスに「Reasoning Effort」が表示され、「Low」「Medium」「High」が選択できるようになります。

    画像

    (4) メッセージを入力して送信。

    画像

    関連



     
     

    npaka

     
     
    プログラマー。iPhone / Android / Unity / ROS / AI / AR / VR / RasPi / ロボット / ガジェット。年2冊ペースで技術書を執筆。アニソン / カラオケ / ギター / 猫 twitter : @npaka123

    あなたへのおすすめ