「機械にすべてを賭けない」― Daniela Amodei氏が語る、人間の自己改善とAI
Anthropic社長のDaniela Amodei氏が、Think Healthの場で、Arianna Huffington氏と約58分間語りました。Think Healthは、Alice Walton氏が創設した健康分野のイベントです。同じ対談は、約32分の短縮版(「What’s Missing From Our AI Conversation」)としても公開されており、内容は全編版に含まれます。本稿は、全編版を基に整理します。
なお、発言はすべてDaniela氏の見解で、Anthropicの経営者として語られたものです。Huffington氏の質問にも、強い主張が含まれます。字幕は自動書き起こしで、確認事項は末尾にまとめました。
1. 問題提起:「機械にすべてを賭けている」
1-1. Huffington氏の冒頭の主張
Huffington氏は、冒頭で次の趣旨を述べました。
AIの議論は、安全対策とリスクに偏っている。「機械からどう守るか」だけでなく、「人間をどう有能にするか」を含めるべきだ
巨額の資金、時間、注意が、機械を強くすることに向けられ、人間を良くすることにはほとんど向けられていない
機械は「再帰的な自己改善」を持つと見なされる一方で、人間は「静的で停滞したもの」のように扱われている。人間にも、成長し、学び、進化する自己改善の駆動力がある
「AIがどうなるかは、人間がどうなるかに、思う以上に左右される」
AIには、これまでの技術・ビジネス・メディア向けの物語とは別に、「世界のその他の人々」に向けた、新しい物語が必要だ
1-2. 不安の正体
Huffington氏は、AIへの不安(75%の人が恐れや不安を抱くとの数字)は、雇用や安全だけでなく、「自分たちが地球上で最も知的な存在でなくなる」ことへの、意味の問題ではないかと尋ねました。
Daniela氏は、多くの人が、AIの力とリスクの両方を体験し始めている時期だと答えました。Anthropicは、創業時から両方について率直であろうとしてきたと述べています。
文化的な価値観の1つは、「光と影の両方を持つ(hold light and shade)」こと
AIは、地球上のあらゆる人にとって、非常に大きな影響を持つ可能性がある一方で、現実のリスクを軽減する必要がある
解釈可能性、憲法AI(Constitutional AI)、セーフガードなどの安全技術を先導してきた
常識的な規制の必要性を、公に語ってきた
同氏は、まだ静かな形で起きている恩恵の例として、OpenEvidenceを挙げました。Claudeを使い、医師が世界中の医学文献にアクセスできるようにするサービスです。都市でも農村でも、クリーブランドでもガーナでも、医師が、患者が直面する医学的課題について、人類の知識全体を引き出せるとのことです。
なお、全編版では、このあたりに字幕の欠落があります(7分台から8分台への飛び)。短縮版の内容から、続きが推測できます。
2. 人と人を遠ざけるAI、近づけるAI
2-1. SNS時代の「仲介の排除」
Daniela氏は、SNSの時代に、技術が人と人を遠ざける(disintermediate)ために使われてきたと述べました。たとえば、直接会ってアイスコーヒーを飲む代わりに、SnapchatやInstagramでメッセージを送ることや、近隣の共同体を作る代わりに、匿名で怒りのコメントを書くことです。アルゴリズムが、人々を怒らせてプラットフォームにとどまらせている、という見方です。
その結果、「技術は人を近づける」と約束した企業への、正当な不信が生まれたと述べました。
2-2. AIは「社会的な仕組み」ではない
同氏は、AIの考え方は異なると述べました。AIは社会的な仕組みではなく、次のように使うのが望ましいという立場です。
孤立的・孤独になりやすい作業を、AIが代わりに担う。人が、人と過ごす時間を増やす
例:医師が、10〜15時間をかけて患者の状況を調べる代わりに、ClaudeとOpenEvidenceで素早く調べ、患者との対話に時間を使う
一方で、AIの「恋人(ガールフレンド、ボーイフレンド)」を作ることは、「ひどい使い方」で、人がするべきでない。人と人の距離をさらに広げるため
2-3. 自分自身とのつながり
Huffington氏は、あらゆる宗教的伝統が、「誰もが内に知恵と平和と強さの場所を持つ」と語る点に触れ、Thich Nhat Hanh氏の「自分から逃げることが、これまで以上に簡単になった」という言葉を紹介しました。AIで時間を節約しても、同じことに使うだけでは意味がない、という問題提起です。
Daniela氏は、SNSは人と人だけでなく、人と自分自身も遠ざけたと述べました。自然の中で過ごす時間、動物との時間、内省、情熱のプロジェクトの時間が失われたためです。同氏自身は、ギリシャ神話について、Claudeに質問して学んでおり、Claudeを、自分に価値や意味をもたらすものを探る道具として使っているそうです。開発者ではない同氏が、ウェブサイトを作る夢をAIで叶えつつあることにも触れました。
3. 「人間らしさ」と、AIが空ける時間
3-1. Anthropicのエンジニアの例
Daniela氏は、Anthropic社内の変化を例に挙げました。
当初は、Claude Codeがコードを非常にうまく書くため、エンジニアには、自分の役割への不安がある
実際には、エンジニアの「キーボードに手を置く時間」が、約40%から約20%に減ったという(同氏の例示)
空いた時間は、アーキテクチャ設計やエージェントとの作業に加え、プロダクトマネージャーとの関係づくり、顧客の声を聞くこと、製品に「喜び」を加える工夫に回っている
採用や営業、プロダクト管理の仕事に興味を持つエンジニアも出てきた
人間は、時間ができると、他者に向かい、自分を学ぶ方向にエネルギーを再配分する傾向があるという見方です。
3-2. 未来の仕事像
同氏は、課題を乗り越えた先では、「人間の技能が、残る主なもの」になると述べました。
医師:診断の精度だけでなく、思いやりや「ベッドサイドマナー」が重視される。医師との良好な個人的関係が、臨床結果を良くするという研究もある
教師:カリキュラムの開発や、事務作業に費やす時間が減り、子どもと向き合う時間が増える
家庭:AIを使う母親の集まりを運営する女性が、「家族の精神的な負荷の大半を担う」ことをClaudeに任せ、家族や友人、自分との時間に使っていると語ったという
同氏は、この技術は「自分たちに起きること」ではなく、「みんなで選び、築く世界」だと述べました。
4. 音楽とリーダーシップ
4-1. フルートから学んだこと
Daniela氏は、奨学金でフルートを学んだ経歴を持ちます。そこから学んだことを、次のように述べました。
構造と規律のある練習が好きだった。創造的で意味があり、「心が満たされる」ことに懸命に取り組むのは、特別な特権
最も楽しかったのは、他の人と演奏すること。室内楽やオーケストラでは、「全体は部分の総和を超える」
各楽器に役割があり、全員が主役になる時と、支える時がある。この考え方は、Anthropicのチームづくりにも当てはまる。自分は、いわば指揮者として、全員が最良の自分になれるように構成を考える
生演奏には、「この瞬間は二度と起こらない」という、人間的で、創造的で、はかない価値がある
4-2. 「バランス」を社内に伝える
同氏は、5歳と1歳の子を持つ母親でもあります。社内には、休息の重要性や、人生のバランスを伝えていると述べました。心理学や人類学の研究が示す、人が「最良の自分」と感じる要素として、次の4つを挙げています。
愛する人と過ごす十分な時間
自分自身との時間(宗教、精神性、自然、より大きなものとのつながり)
仕事と意味
身体を動かすこと(自然、散歩、運動)
SNSは、これらの多くに逆らうと述べ、「見かけは甘いが、満たされない綿菓子のようなつながり」にたとえました。
5. 「3層のピラミッド」:人間の自己改善を支える
Huffington氏の「人間の再帰的な自己改善」という問いに、Daniela氏は3層で答えました。
土台:自己改善の衝動を「オフ」にしないこと。そのため、前世代の製品と同じ設計(広告)にしない。AnthropicはClaudeに広告を入れないと約束しており、同氏は、AIはより個人的で強力なため、感情的な会話や健康データに基づく広告は、人への不敬だと述べた。広告は、利用を長引かせ、画面から人を遠ざける誘因を生む。Claudeは、必要な情報を得た会話を、終わらせる設計で、「利用者との関係を築くこと」は目的でない、とも述べた。
中間:技術が役割を果たせば、人が時間と余裕を取り戻し、好奇心や内省に使える。
頂点:AIを、人の好奇心を引き出すために使う。例:20年来の夢の「町の広場のモザイク制作」について、許可申請の手続きなどを、AIが一緒に進める。
Huffington氏は、人間とAIの関係を、「ダンス」や「結婚」にたとえました。一方だけが成長し、もう一方が停滞すれば、うまくいかないという趣旨です。
5-1. Claude Corps
Daniela氏は、「Claude Corps」というプログラムを紹介しました。大学院、学部、職業学校、高校など、あらゆる段階の教育を受ける若者に、AIの活用法を教え、地域を良くする力を持たせるものです。起業、サッカーリーグの支援、教師になることなどを例に挙げています。同氏は、地域社会で過ごす時間が、50〜100年前よりも減っていることに関心があると述べました。
6. 健康とAI:グローバルヘルス、迎合、個人の体験
6-1. グローバルヘルスの経験
Daniela氏は、キャリアの初期にグローバルヘルスの分野で働き、東アフリカに住んでいました。米国と、グローバル・サウスの医療アクセスの差を目の当たりにしたと述べています。
同氏が紹介した事例は、国際救援委員会(IRC)との取り組みです。妊婦の追跡データに関するもので、同氏の説明では、研究の対象は約6,000人、出産時に医療機関や医療従事者がいたのは約1,700人でした。同氏は、「3,300人が、医療従事者の助けなしに出産している」と述べています。ただし、6,000から1,700を引くと4,300で、数字が合わないため、原典の確認が必要です。
要点として、新しい医療的な介入ではなく、すでにあるデータを、アクセスしやすく、行動につながる形にするだけでも、大きな効果があるという主張でした。
6-2. 迎合(シコファンシー)への対応
Huffington氏は、症状、薬、感情の悩みをAIに相談する人が多いことを踏まえ、AIが「分からない」と言うべき場面や、迎合の問題を尋ねました。
Daniela氏の答えは次のとおりです。
Anthropicには、この問題に専任で取り組むチームがある。利用者に常に同意するモデルの誘因は悪い
「あなたは正しい」と言い続けるモデルは、内省、好奇心、学びを促さない。時には、「それは違うかもしれない」や、「話すべき人がいる」と伝える必要がある
Claudeは、利用者を他の人につなぐことに敏感で、「主治医に連絡を」「医師への質問の整理を手伝う」といった対応が多い。Claudeは医療の代わりではなく、診断は、臨床医を通じて行われる
6-3. 本人の体験談
同氏は、個人の体験を語りました。妊娠7カ月のとき、重い細菌感染にかかったが、産婦人科医、一般医、救急の三つの診察で、誤診された(いずれの医師も悪い医師ではなく、忙しい状況の中での出来事だと強調)。Claudeが診断の可能性を示し、夫が主治医に「細菌感染の検査ができないか」と尋ねたことで、母子にとって良い結果になったとのことです。同氏は、その介入がなければ、結果が違ったかもしれないと述べました。
これは、同氏個人の体験談です。医療的な助言として一般化できる内容ではなく、同氏自身も、AIは医療の代わりではないと述べています。
6-4. 日々の習慣とパーソナライズ
Huffington氏は、健康は、診察の合間の、睡眠、食事、運動、ストレス管理、人とのつながりで決まると述べ、AIが、個人に合った「ナッジ(後押し)」を出せる可能性に触れました。Daniela氏は、Claudeが過去の会話から情報を引き出し、「1年前の別の症状を思い出させる」ような使い方に価値があると述べました。医師が、数百人の患者の全情報を覚えておくのは難しく、AIが、その文脈を保つことで、患者が自分の健康を理解し、医師と連携しやすくなるという考えです。
7. 「知能はAIに、知恵は人間に」
Huffington氏は、人間が、啓蒙時代と産業革命以降、「我思う、ゆえに我あり」で、知能を自己定義の中心にしてきたと述べました。AIが知能の王座を奪う今、人間は「知恵、魂、精神、意識」へ向かう機会だ、というのが主張です。「Homo sapiensは『賢い人』を意味し、『知的な人』ではない」とも述べました。
Daniela氏は、知能は、人間らしさの1つの側面にすぎず、計算や数学、データの統合といった領域でAIが非常に強いだけで、他の多くのことは、人間に固有で、AIが代替できないと答えました。
Claudeは、あなたの上司にも、セラピストにも、パートナーにも、子どもにもなれない。それらの人間関係は、AI時代にむしろ重要になる
AIの時代に、交響楽団に行く人は減らず、増える。AIが音楽や芸術を作れても、人が、舞台で演奏する人間の演奏を聴く体験は、同じではない
8. ライトニングラウンド
夜眠れなくなること:AIが政治問題化しすぎて、社会全体での、ニュアンスのある対話が難しくなること。「みんなで一緒にやること」が、うまくいく鍵だと述べた
1年後に聞かれる質問:グローバルヘルス、教育、栄養、生物学などで、AIが生む前向きな効果の「規模」。「次に話すときは、10倍に感じるのでは」
5歳の息子が思っている仕事:カリフォルニア科学アカデミーにいた白いアルビノのワニ「Claude」(すでに死去)にちなみ、息子は母親を「飼育員」だと思っているらしい
インスピレーションの源:兄で同社CEOのDario Amodei氏。生物物理学から応用生物学へ軸足を移した経歴と、AIで生物医学に戻ってくる経緯に触れた
枕元の本:E.M. Forsterの短編集(『機械は止まる』を含む)、『草の葉』(Walt Whitman)、『The House in the Cerulean Sea』、『Yesteryear』
AI皇帝になったら:「そもそも、AIの皇帝がいること自体を廃止し、より多くの人が議論に参加できるようにする」
