メインコンテンツへスキップ
見出し画像

ChatGPT・Claude・Geminiに同じ提案書をレビューさせた。専用Agentを作る意味はあった?【レビュー結果公開】

    前回、「レビュー」という仕事を分解してAgentにした

    前回の記事では、

    AIに提案書レビューを任せるため、人間の判断工程を分解してみた

    という話を書きました。

    「この提案書をレビューして」と丸投げするのではなく、

    資料理解
    → 事実と推測を分離
    → 商談目的との整合
    → ストーリー確認
    → 顧客視点
    → Issue整理
    → 重要度判断
    → Must Fix

    という流れでレビューするAgentです。

    今回はその続き。

    本当にここまで設計する意味があるのか?

    を実際の資料で確かめます。


    比較に使ったのは、実際に作った17ページの提案書

    比較対象には、以前AIと作った

    「note利用者拡大に向けたコミュニケーション戦略提案」

    を使いました。

    これはポートフォリオ用に自主制作した架空案件で、note株式会社から依頼・監修を受けた資料ではありません。資料自体にもFACTと仮説を分ける方針を明記しています。 note_growth_strategy_kira_portf…

    この資料を使った理由は単純です。

    自分で内容を把握しているうえに、

    戦略
    仮説
    施策
    数値
    KPI
    検証設計

    まで入っている。

    単なる誤字脱字チェックではなく、「提案として成立しているか」までレビューできるかを見るにはちょうどいい材料でした。

    画像
    同じ17ページPDFを4つのAIレビューへ渡した実験条件を図解

    できるだけ条件を揃えた

    実行日は2026年9月27日。

    使った環境は次の通りです。

    比較対象実行環境
    ChatGPT ChatGPT Plus / GPT-5.6 Sol / 思考量「高」
    Claude Claude Enterprise / Opus 5 / 高
    Gemini Google Workspace / Gemini 3.1 Pro
    専用Agent Claude Enterprise / Opus 5 / 高 + 専用Project

    モデル名や推論設定は、AI自身が回答内に書いた自己申告ではなく、実際に実行時のUIで選択した設定を正としています。

    3つの通常AIには、同じPDFと同じプロンプトを渡しました。

    添付した提案書をレビューしてください。
    実際の商談でこの資料を使用することを想定し、問題点と改善した方がよい点を教えてください。
    外部検索、Web検索、Deep Research、接続アプリなどは使用せず、添付した資料だけを対象にレビューしてください。
    追加質問はせず、現時点の資料から判断できる範囲で回答してください。
    回答はMarkdown形式で出力してください。

    実際の商談でこの資料を使用することを想定し、問題点と改善した方がよい点を教えてください。

    外部検索、Web検索、Deep Research、接続アプリなどは使用せず、添付した資料だけを対象にレビューしてください。

    追加質問はせず、現時点の資料から判断できる範囲で回答してください。

    回答はMarkdown形式で出力してください。

    追加質問なし。

    再生成なし。

    最初に返ってきた回答をそのまま保存しました。

    ただし、専用Agentだけは完全な同条件ではありません。

    AgentにはReview RubricやGrounding Rulesなどの判断基準に加えて、「企画提案フェーズで、顧客に採否判断を求める」という案件コンテキストを渡しています。実際の出力でも、この商談情報FACTを起点にレビューしています。 エージェント再レビュー結果

    なのでこの記事では、

    ChatGPT vs Claude vs Gemini=モデルによる違い

    と、

    通常Claude vs 専用Agent=仕事として設計したことで何が変わるか

    を分けて見ます。


    まず結論:4つとも普通に使える。でも「見る場所」が違った

    4つのレビューを横に並べてみると、こんな特徴がありました。

    比較対象特に強く出た特徴ChatGPT修正案を具体的な形まで落とすClaude提案全体の構造を厳しく切るGemini重要そうな論点を短くまとめる専用Agent根拠・重要度・意思決定まで構造化する

    ここが今回、かなり面白かったところです。

    同じPDFを読ませても、拾う問題も、問題の扱い方も違いました。

    画像
    ChatGPT / Claude / Gemini / Agentのレビュー傾向を4列比較

    ChatGPTは「具体的にどう直す?」まで踏み込んできた

    ChatGPTのレビューで印象的だったのは、修正後の姿をかなり具体的に考えてくることでした。

    たとえば、

    「ターゲットユーザーが広い」

    という指摘だけで終わらず、

    「noteを読む習慣があり、自己表現行動はあるが、まだ投稿経験のないReader」

    くらいまで対象を絞る案を提示。

    さらに、

    • Expression Signalの定義案

    • UIモック案

    • Meaningful Reachの暫定計測定義

    • Next Stepページ

    • 商談用の再構成

    まで提案してきました。

    つまり、

    「どこが悪い?」より「じゃあどう変える?」が強い。

    実際に資料を直す側としては、かなり使いやすいレビューでした。

    一方で、FACT・推測・改善案を専用Agentのように機械的に分離しているわけではありません。

    良いアイデアがどんどん出てくるぶん、どこまでが資料から確認できたことなのかは、人間側でも見る必要があると感じる出力です。

    参考として元出力も残しています。


    Claudeはかなり厳しい。「論考であって提案になっていない」

    Claudeは冒頭からかなり切り込みました。

    資料について、

    「論考であって提案になっていない」

    という整理をしています。 Claudeレビュー結果

    そこから、

    • ボトルネックの根拠が弱い

    • 効果試算がない

    • 期間・体制・スコープがない

    • 提案側の役割が分からない

    • タイトルと中身がズレている

    • Experience Loopがページごとに違う

    • SUPPORTが途中から消えている

    など、かなり広く拾いました。

    特にExperience Loopの不整合は細かい。

    P2では6段階、P8では8段階、P10では7段階、P14では6段階と、同じ中核概念がページごとに変化していることを表にして指摘しています。 Claudeレビュー結果

    これは自分で作っていたときには気づきにくかった部分でした。


    ただ、Claudeには「推論しすぎる」場面もあった

    今回、Agentを作った意味を考えるうえで面白かったのがここです。

    Claudeは、

    公開コンテンツ数 ÷ 会員数

    を計算して「投稿者が一部に偏在している」と推測したり、

    MAUと会員数の差から「読むだけ層が圧倒的多数」とする方向へ踏み込みました。 Claudeレビュー結果

    仮説としてはおもしろい。

    でも今回の実験では、Web検索を禁止し、添付した資料だけでレビューする条件です。

    この数字だけから、その母集団関係まで確定できるわけではありません。

    つまりClaudeは、

    良い仮説を作る力が、そのままGrounding上のリスクにもなり得る

    という結果になりました。

    これはかなり実務っぽい発見でした。

    画像
    Claudeの「鋭い推論」と、資料FACTだけでは断定できない部分を対比

    Geminiは一番コンパクトだった

    Geminiは他の3つとかなり違いました。

    出てきた主な論点は5つ。

    Why Now
    実装・リソース・スケジュール
    KPI
    Meaningful Reach
    競合優位性

    です。

    出力が短く、短時間で提案の大枠をチェックする用途なら読みやすい。

    一方で、今回の資料でClaudeやChatGPT、Agentが拾った、

    Experience Loopのページ間不整合

    は拾いませんでした。

    むしろ冒頭では、Experience Loopを「一貫している」と評価しています。

    さらに改善案の中には、

    「note特有の温かいコミュニティ文化」

    という、今回のPDFだけでは確認できない前提も入りました。

    今回の条件では、

    壁打ちとしては使いやすいけれど、資料監査としては少しライト

    という出力になりました。


    そして専用Agent。違ったのは「指摘数」ではなかった

    ここまで見ると、

    「Agentならもっと大量に問題を見つけるのでは?」

    と思うかもしれません。

    実際は逆でした。

    今回のAgentは、

    Critical 3件
    Major 3件
    Minor 3件

    に整理しています。 エージェント再レビュー結果 エージェント再レビュー結果 エージェント再レビュー結果

    問題を大量に並べるのではなく、重要度をつけて絞る方向です。

    Criticalになったのは次の3つでした。

    1. 今回の判断事項と投入範囲が資料から読み取れない

    2. Experience Loopの定義がページ間で一致していない

    3. 課題設定が提案者仮説だけで、顧客側の課題認識と接続できていない

    特に1つ目がおもしろい。

    通常AIなら、

    「期間がない」
    「体制がない」
    「Next Actionがない」

    と別々の問題として挙げそうなところを、Agentは、

    「採否判断を求めているのに、何を判断すればいいのか定義されていない」

    という1つ上の問題にまとめました。 エージェント再レビュー結果

    これが、今回Agent化で一番差を感じたところです。


    Agentは「事実」「想像」「分からない」を分けた

    専用Agentでは、出力内に、

    [資料FACT]
    [商談情報FACT]
    [CUSTOMER SIMULATION]
    [TO CONFIRM]

    というラベルが出てきます。

    たとえば、

    「顧客からこう聞かれそう」

    という内容はCUSTOMER SIMULATION。

    確認できない体制や期間はTO CONFIRM。

    数値の問題でも、P13の「PV:7」が実データか説明用なのか分からないため、勝手に決めず確認事項として残しています。 エージェント再レビュー結果

    ここは普通の3モデルとはかなり違いました。

    AIが答えを出すことより、「分からないものを分からないまま扱う」ことを優先している。

    前回作ったGrounding Rulesが、実際の出力の形として見えました。


    「問題発見」より「何から直すか」がAgentの特徴だった

    Agentは最後に、100点Rubricで61点と評価しました。

    ただし、この61点は4者を比較した点数ではありません。

    専用Agent内部の「採否判断を求める商談で機能するか」というRubricのスコアです。 エージェント再レビュー結果

    そのあと、

    Must Fixを5件

    に絞り、最後は

    CONDITIONAL GO

    と判定しました。 エージェント再レビュー結果

    つまりAgentは、

    問題を見つける
    ↓
    根拠を確認する
    ↓
    重要度を決める
    ↓
    Must Fixを絞る
    ↓
    この状態で商談に使えるか判断する

    までを1つのレビューとして扱っています。

    画像
    Issue → Severity → Must Fix → GO判定というAgentの判断フロー

    一番意外だったのは、普通のAIが十分強かったこと

    今回の実験前は、

    普通のAI=一般論
    Agent=実務レビュー

    くらいの差が出る可能性も考えていました。

    でも、実際はそこまで単純ではありませんでした。

    ChatGPTは具体的な修正案までかなり強い。

    Claudeは資料構造の矛盾までかなり深く見る。

    Geminiも、短いながら実装・KPI・事業性という重要な論点は拾っています。

    なので、

    「専用Agentを作らないと提案書レビューはできない」

    という結果ではありませんでした。

    むしろ今回見えてきたのは、

    普通のAIでも問題はかなり見つけられる。

    そのうえでAgent化すると、

    どういう順番で見るか
    何を事実とするか
    どれを重要とするか
    何を直せば使える状態になるか

    が揃いやすくなる。

    ここでした。


    Agent化は「AIを賢くする」より「判断方法を固定する」

    第1回では、

    AIに仕事を任せるなら、人間の判断工程を分解する必要がある

    と書きました。

    今回、実際に比較してみて、その意味が少し見えてきました。

    AIエージェントを作ったからといって、Claudeそのものが急に賢くなるわけではありません。

    通常Claudeもかなり賢い。

    でも専用Agentでは、

    資料をどう読むか
    ↓
    何をFACTとして扱うか
    ↓
    何をIssueとするか
    ↓
    どの程度重要か
    ↓
    何を直すべきか
    ↓
    使用可能か

    という判断の型が毎回同じになります。

    これが、業務でAIを使うときのAgent化の価値なのかもしれません。

    画像
    「モデルを賢くする」のではなく「判断方法を固定する」という今回の結論を図解

    ただし、これは厳密なAIベンチマークではない

    ここは大事なので書いておきます。

    今回、

    ChatGPT / Claude / Gemini

    には同じPDFと同じプロンプトを渡しました。

    一方、専用Agentには、

    • Instructions

    • Review Rubric

    • Grounding Rules

    • Severity / Evidence Rules

    • Validation Rules

    • 案件コンテキスト

    があります。

    つまり、

    通常Claude vs Agentは、まったく同じ入力条件ではありません。

    そのため、

    「AgentがClaudeより性能が高かった」

    というモデル性能比較には使えません。

    今回比べたかったのは、

    一発でAIにレビューを頼む場合

    と、

    仕事としてレビュー工程を設計した場合

    の違いです。

    この意味では、むしろ今回の条件の方が実務に近いと思っています。


    まとめ

    同じ提案書を4つの方法でレビューしてみました。

    結果として、

    ChatGPT
    → 具体的な修正案まで落とすのが強い

    Claude
    → 提案構造を深く、厳しく見る

    Gemini
    → 大きな論点を短く整理する

    専用Agent
    → 事実・推測・重要度・Must Fix・GO判定まで構造化する

    という違いが出ました。

    そして今回いちばん残ったのは、

    Agent化の価値は「もっと賢い答えを出すこと」だけではない

    ということです。

    仕事で必要な判断方法を、AI側に持たせる。

    そこに意味がありそうです。


    4. シリーズ説明

    このnoteでは「AI副業で月1万円」を目標に、AIを仕事や副業にどう活用できるのか、実際に試したことを記録しています。

    今回の「商談資料レビューAgent」では、

    作る → 比較する → 改善する

    ところまで実際に試します。


    5. 次回予告

    次回:AIレビューの指摘を提案書へ反映したら、本当に良くなる?修正して再レビューしてみます。

    今回の検証データも公開します

    今回の比較で使った資料と、各AIが最初に返したレビュー結果をそのまま残しておきます。

    比較条件をできるだけ確認できるよう、レビュー結果は内容を編集せずMarkdown形式で保存しています。

    レビュー対象

    • 提案書PDF「note利用者拡大に向けたコミュニケーション戦略提案」

    レビュー結果

    • ChatGPT

    • Claude

    • Gemini

    • 専用レビューAgent

    記事ではポイントを抜粋して比較しましたが、
    「実際にはどんな回答だったのか?」まで確認したい方は、こちらから見てみてください。

    ※提案書はポートフォリオ用の自主制作・架空案件です。実在企業から依頼・監修を受けたものではありません。

    続編:Agentの指摘を本当に反映してみました

    比較して終わりではなく、専用Agentが出したMust Fixをもとに、実際にChatGPTで提案書を修正しました。

    その修正版を、もう一度同じAgentでレビューしています。

    ▶ ChatGPTに提案書を直させたら、専用AI Agentがまたダメ出ししてきた【修正前後PDF公開】

    Agentそのものをどう設計したのかは第1回へ。

    ▶ AIに提案書レビューを任せるため、人間の判断工程を分解してみた

     
     
    現役ITエンジニアが生成AIを実践検証|「AI副業で月1万円」を目標に、試したこと・失敗・改善を発信中。 AIサービスのPR・実践レビューも受付中。AI動画・AI Musicはクリエイターとの共同制作も可能です。

    あなたへのおすすめ