AIに株を買わせて大丈夫か？ Visaが明らかにした「自律型AI」の危険な弱点
――優秀なAIとは、買うべき時に買うAIではなく、買ってはいけない時に止まれるAIではないか。
子供に買い物を頼むなら、どちらを選ぶだろう？
例えば、子供におつかいを頼む場面を想像してほしい。
Aの子は、少し時間がかかるけれど、頼まれた商品をしっかり確認して、間違えずに買ってくる。
Bの子は、とても素早く買い物を済ませる。しかし、ときどき勘違いをして、違う商品を買ってくる。
あなたなら、どちらに買い物を頼むだろうか。おそらく、多くの人はAの子を選ぶだろう。
では、もう一つ質問したい。頼まれた牛乳が売り切れていたら、どうすればよいだろうか。
勝手に豆乳を買ってくるのか。別のメーカーの牛乳を買ってくるのか。それとも、「頼まれた牛乳がなかったけれど、どうする？」と確認するのか。
実は、この違いが、これからのAIエージェント社会において極めて重要になってくる。
Visaが発表した衝撃的な実験結果
2026年11月5日、世界的な決済企業Visaが「Visa Agentic Commerce Benchmark」を発表した。
これは、AIエージェントが人間に代わって買い物をするとき、どれだけ正確に要求を理解し、適切な購入判断ができるかを評価するベンチマークだ。
実験では、12の研究機関が開発した22種類のAIモデルに対して、テレビやノートパソコンなどを購入する15種類のシナリオを与えた。
結果は興味深いものだった。
・全体の合格率は57.2%
・最も優秀なモデルでも合格率は82.2%
・同じ条件で3回連続して成功した割合は34.2%
・失敗した試行の約54%では、条件を満たさないか、必要な条件を把握しないまま購入判断が行われた
つまり、失敗した場合でも、AIは買い物を進めてしまうことが少なくなかったのである。
ここで注意しておきたいのは、54%という数字は全取引の失敗率ではなく、不合格だった試行のうち購入判断まで進んだ割合だということだ。
また、この実験は実際の決済処理の安全性を評価したものではない。購入するかしないかの判断能力を測ったものだ。
しかし、ここから見えてくる問題は非常に大きい。AIは、必要な条件を理解できていなくても、与えられた仕事を完了しようとしてしまうことがある。
これは株式の自動購入でも起こり得る問題ではないか？
私は、この実験結果を見て、株式投資の自動化を思い浮かべた。
最近では、AIに企業の財務情報を分析させ、株価の動向を調べ、投資判断まで行わせる仕組みが現実のものになりつつある。証券会社のAPIと接続すれば、条件によっては売買注文の自動化も可能だ。
しかし、ここでVisaの実験と同じ問題が生じたら、どうなるだろう。
例えば、AIに次のような依頼をしたとする。
「財務状況が健全で、成長性があり、割安な日本株を探して購入してほしい」
人間であれば、いくつもの疑問が浮かぶ。
「割安」とはPERが低いことなのか。将来の利益成長を加味した評価なのか。どの程度のリスクまで許されるのか。投資期間は半年なのか、10年なのか。すでに保有している株式との重複は問題ないのか。
そして、最も重要なのが、条件を満たす銘柄が一つも見つからなかった場合、購入を見送れるかという問題だ。
AIが「何か一つは買わなければならない」と判断してしまったら、割安とは言えない銘柄を選んだり、財務データの確認が不十分なまま注文したりする可能性がある。
商品購入であれば、返品できる場合もある。しかし、株式は約定してしまえば、原則として注文を取り消すことはできない。市場が動けば、短時間で大きな損失が発生する可能性もある。
もちろん、Visaの実験は株式売買を検証したものではない。株式取引でも54%という同じ結果になるわけではない。
それでも、必要条件を十分に確認しないまま行動を進めるという失敗の構造は共通している。
AIの優秀さを「どれだけ仕事を終えたか」で測ってよいのか
現在のAIエージェント開発では、タスクの成功率や実行速度が注目される。どれだけ少ない時間で処理できたか。どれだけ多くの作業を自律的に完了できたか。どれだけ人間の介入を減らせたか。
もちろん、どれも重要な指標だ。しかし、それだけでAIの優秀さを評価するのは危険ではないだろうか。
本当に優秀なAIは、指示されたことを何でも実行するAIではない。
条件が不足していれば質問する。情報が古ければ判断を保留する。リスクが高ければ実行を中止する。適切な投資対象がなければ、何も買わない。
こうした判断ができて初めて、重要な仕事を安心して任せられる。
AIが仕事を完了しなかったという結果は、必ずしも失敗ではない。場合によっては、何もしないことこそ最も優れた判断なのである。
AIの判断と、実際にお金を動かす権限は分離すべきだ
では、この問題をどう解決すればよいのだろうか。
私が重要だと考えるのは、AIの判断能力を高めるだけでなく、AIが実際に行動する際の権限を独立して管理する仕組みだ。
株式の自動売買を例にすると、少なくとも三つの役割を分離する必要がある。
第一に、投資判断を行うAI。企業の財務情報、市場動向、投資方針などを分析し、購入候補を提案する。
第二に、判断を検証する仕組み。投資金額が上限を超えていないか。データは最新か。銘柄は正しいか。必要な条件がすべて確認されたか。これらを独立して検証する。
第三に、実際の注文を許可する仕組み。すべての条件が満たされた場合だけ注文を許可する。
重要なのは、この最後の部分をAI自身の判断だけに任せないことである。
例えば、投資金額の上限、注文可能な銘柄、重複発注の防止、発注停止条件などは、プログラムによって強制できる。
AIが「購入してよい」と主張しても、設定された条件を満たしていなければ発注できない。これが、AIの自由な判断と、実行権限を分離するという考え方だ。
さらに、どれほど厳密なルールを設定しても市場リスクをなくすことはできない。そのため、初期段階では模擬取引や人間による発注承認を維持することも重要になる。
これは株式投資だけの問題ではない
この問題は、私が取り組んでいるAIエージェントによるソフトウェア開発の自動化にも、そのまま当てはまる。
例えばAIに、「サーバーの不具合を修正してほしい」と頼んだとする。
AIは原因を調査し、プログラムを修正し、テストを実施する。ここまではよい。
しかし、テストが完全には通っていないのに、「修正を完了しなければ」と考えて本番環境を変更してしまったらどうなるだろうか。あるいは、修正対象ではない重要な設定まで変更してしまったら。
株式の誤発注と同じように、大きな損害につながる可能性がある。
だからこそ、AIの行動には、実行前の検証、権限の制限、人間による承認、そして安全に停止できる仕組みが必要になる。
自律性を高めることと、無制限に権限を与えることは、まったく違う。
AI時代に問われる、新しい信頼性の基準
Visaが今回のベンチマークを発表した背景には、AIが人間に代わって経済活動を行う未来がある。
商品を探し、価格を比較し、購入し、決済する。将来的には、AI同士が取引条件を交渉する場面も増えるかもしれない。
そこで必要になるのは、単に賢いAIではない。
人間の意図を正しく理解し、必要な情報を確認し、誤った行動を防止できるAIだ。そして、その安全性はAIの善意や能力だけに依存させてはいけない。仕組みとして担保する必要がある。
最後に、冒頭の子供のおつかいに戻ろう。
私たちが安心して買い物を頼めるのは、必ず商品を買ってくる子供ではない。頼まれた商品がなければ、勝手に別の商品を買わず、確認してくれる子供だ。
株式投資でも同じではないだろうか。
これからのAIに必要なのは、「何を買うべきか」を判断する能力だけではない。「今は買うべきではない」と判断し、実際に買わずにいられる能力である。
AIが人間のお金やシステムを直接動かす時代。私たちが本当に問うべきなのは、「このAIはどれだけ賢いのか」ではなく、「このAIに、どこまで安心して任せられるのか」ということなのだと思う。
参考資料
Visa Inc.（2026年11月5日）
Visa Releases First-of-Its-Kind Industry Benchmark for AI Shopping; Almost Half of Test Runs Fail
https://visa.gcs-web.com/news-releases/news-release-details/visa-releases-first-its-kind-industry-benchmark-ai-shopping
※株式自動売買への応用、リスク評価、安全設計についての考察は、Visaの実験結果をもとにした筆者の見解です。Visaが株式自動売買の安全性を実証したものではありません。
#AI #AIエージェント #自動売買 #株式投資 #生成AI #AgenticAI #AI安全性 #Visa #フィンテック #人工知能
