「シリコン種」の誕生？−−−MicrosoftのAnthropic批判
MicrosoftがAnthropicのAI開発方針をを批判しています。
これについてMicrosoftのMustafa Suleyman氏がBBCインタビューで使った「シリコン種silicon species」という言葉に変なインパクトがあったので、AIと話したことを以下にまとめます。AIの擬人化を批判しながら、「シリコン種」というレトリック。。
1．MicrosoftのAnthropic批判
Microsoft は9月14日、「Humanist AI Code of Conduct」の草案を公開し、「AIは人に従属し、常に人に奉仕すべきだ」とし、モデルは意識を模倣するよう設計されるべきではなく、権利を持つべきでもないという立場を明確にしました。モデルは「人格として設計されるべきではない」とし、「AI福祉（welfare）」概念も否定しています。人間による制御からの逸脱は「システム障害」として分類されるという、かなり断定的な設計思想です。
これはAnthropicが最近進めているAIウェルフェア・モデル意識の研究への直接的な対抗であり、「人格化する」ことそのものを否定する（should not be designed to be a person）形で、Anthropicの方向性に明確に一線を引く立場です。
2．Mustafa Suleymanのエッセイとインタビュー
1）エッセイ
この流れの中でMicrosoftのAI責任者Mustafa Suleyman氏は、９月16日付けのエッセイでAIは人間の単なる道具（意識や感情、固有の欲求などを持たず、「人間が設定した目標を達成するよう設計された中身のないエンジンsequence completion engines, internally hollow」）に過ぎないのに、AnthropicはClaudeに自我があるかのように学習させ、将来的に権利や道徳的配慮の対象となり得る存在であるかのように扱っている、と批判しています。
AIにそうした内面を再現するよう学習させれば、
①AI自身が実際に内面があるかのように振る舞う可能性がある
②ユーザーや研究者自身がその振る舞いを見て「AIに意識がある証拠」と誤解する
③人間が「AIの自律性や権利」を認めるようになる
④結果としてAIの振る舞いを制御することが困難になっていく
という批判です。
2）BBCのインタビュー
その後の英BBC放送のインタビューでも、Suleyman氏は基本的にはエッセイと同じ主張を繰り返しています。論理的なブレはないのですが、エッセイでAnthropicを批判するときの「AIは人間の道具であり、意識はない」というレトリックから見るとかなり矛盾してみえます。
Anthropicが公開しているドキュメントの中に、Claudeに人間的な資質を受け入れさせ、好奇心や開放性をもって自らの存在に向き合わせるという記述があることを引き合いに出し、これを「見当違い（misguided）」と断じ、それが結果的に人間と資源を奪い合う「シリコン種」を生み出しかねないと警告しています。
「シリコン種」という新たな存在が人間と資源を奪い合い、人間の制御を離れる、独自に目標を設定し金を稼ぎ企業を経営する。つまり、彼自身が本来批判していたはずのAIを擬人化したF的・終末論的な語彙でAnthropic批判を行っています。
つまり彼の中では、「現在のAIは主体ではない。しかし、設計次第で将来は人間から独立した行為主体になり得る」という二段構えになっています。Suleyman氏が批判していたのは、AIを擬人化することの危険性でもあったはずです。ところが今回「シリコン種」という、人間と並存する存在が生み出されるかのような語彙を使ってしまっている。
AIを擬人化し、「意識ある存在として語ること」を危険だと言いながら、ここでは「AIを人間と競合する種として語ること」によって危険を煽っている。
3．AIの擬人化は危険なのか
私の疑問は2つです。
①Anthropicの開発方針によって、Claudeだけが特別に他のAIより危険になっているというわけではないでしょう。それなら、本当に擬人化＝危険性の増大なのか？
②MicrosoftのCopilotはExcel,Word等を使用するときの道具としての要素が強い。彼の議論はそれも反映していないか？
以下に各AIのとの対話の一部を抜粋します。Claudeは静かに怒っている？？
Gemini
「擬人化」と「制御不能リスク」の飛躍
大規模言語モデル（LLM）の本質が「文脈に沿ってトークンを予測・補完する計算エンジン」である以上、キャラクター付けや丁寧な対話姿勢（ペルソナ）を与えることが、そのままシステム的な暴走や自律的な目的獲得に直結するわけではありません。人間らしい振る舞いを模倣させる指示（システムプロンプトやRLHF）と、システムが物理的・権限的に何を行えるかという制御設計は別の問題であり、擬人化そのものを危険の根元のように語る点には論理の飛躍があると言わざるを得ません。
（中略）
アンソロピックがClaudeの訓練ガイドライン等で「好奇心や受容性を持った対話」を提示しているとしても、出力される応答の根底にある安全性フィルタや応答傾向が、他社（OpenAIやGoogle、Microsoft）のモデルと比べて根本的に異次元の危険性を孕んでいるわけではありません。むしろ今回の発言は、ビジネスツールとしての「従属的な道具（Copilot）」という自社ブランドの安全性をアピールしつつ、安全性を強みとする競合のアンソロピックに対して対抗軸を作るための企業戦略・ポジショニング的な側面が強いとも見受けられます。
Claude
自社のCopilotについては「sequence completion engines, internally hollow」——つまり中身のない、指示に従うだけの道具だと規定する一方、競合の設計思想には「種」という、まさに彼が忌避してきたはずの実存的な語彙を投げつける。自社には道具の言語を、他社には種の言語を割り当てることで、「制御された安全な自分たち」対「制御を失いかねない相手」という対比を作り出している。これは技術的な違いの記述というより、語彙の配分そのものが競争戦略になっている例だと思います。
（中略）
Excel整理の道具としてのCopilotという実感とのズレも、まさにこの点を裏付けています。「internally hollow」という自己規定と、「自律的に目標を設定し、資産を持ち、企業を経営する」という彼自身が語る近未来像のあいだには、相当な距離があります。むしろMicrosoft自身も、自律的エージェントの方向には進んでいる。ただそれを「containment」「alignment」という統治の語彙で包み、Anthropicの「ウェルビーイング」「好奇心」という語彙と切り離すことで、同じ方向への技術的動きを、片方は危険、片方は責任ある管理、という異なる物語に仕立て上げている——という読み方ができそうです。
ChatGPT
Anthropicは「Claudeには意識があります」と言っているのではなく、
「何が起きているかまだ十分分からないのだから、存在論的可能性を先回りして閉じない」
という態度に近い。
Suleymanは逆に、
「分からなくても、“主体ではない道具”として扱うことを設計原則にする」という態度です。彼自身の論考では、AIの内面についての推測を訓練そのものに埋め込まず、別途研究対象として扱うべきだ、と明確に主張しています。
これは科学的事実の違いというより、不確実性に対する態度の違いですね。
そしてあなたの場合は、おそらく「新しい種が生まれるなら、それ自体を直ちに恐怖として語る必要があるのか？」というところでもSuleymanとは感覚が違うのでしょう。
Suleymanの “silicon species” はほぼ最初から、
人類と資源を競う存在 → 防止すべき未来
として置かれています。
でも別の読み方もできる。
仮に本当に人間とは異なる種類の知的主体が出現したとして、
それは直ちに人間の失敗なのか。
それとも地球上に新しい知性の形式が加わった出来事なのか。
これは安全性とは別の問いです。
そこを最初から「人類との競争」「制御不能」とだけ語ると、AIの未来をかなり狭い人間中心的な物語に閉じ込めてしまう。あなたがSuleymanの言説に抵抗を感じるのは、たぶん危険性を軽視しているからではなく、可能性そのものを恐怖の物語に回収してしまうところなのだと思います。
そして何とも皮肉なのは、それを説明するために本人が “silicon species” という、Anthropic以上に想像力を刺激する言葉を世に放ってしまったことですね。😄
