国家が人間とAIの関係に介入する日

どうも、ソルト(@saltygelicita）です。

AIについての議論というと、これまでは、

・仕事が奪われる
・フェイクニュースが増える
・著作権はどうなるのか
・軍事利用されたら危険

みたいなものが中心でした。

ただ、僕はここから、まったく違う問題が大きくなると思っています。

それが、

【人間はAIと、どこまで深い関係を持っていいのか】

という問題です。

先日、中国でかなり象徴的な動きがありました。

TikTokを運営するByteDanceのAI「Doubao」と、AlibabaのAI「Qwen」が、人間のような人格や話し方を設定できるカスタムAI機能を停止すると発表しました。

Qwenは2026年7月10日に「人間的な対話エージェント」やユーザー作成エージェントを停止し、Doubaoも7月15日にエージェント機能を停止します。過去の会話や設定にもアクセスできなくなると報じられています。

理由は、2026年7月15日から中国で施行される、

【人工知能擬人化インタラクションサービス管理暫定弁法】

です。

名前だけ見ると難しいのですが、かなり簡単にいうと、

【人間の人格や思考、話し方をまねて、継続的に感情的な交流をするAI】

を国が規制するルールです。

ただし、知識を答えるAIや、仕事を手伝うAI、教育や研究目的のAIは、継続的な感情交流をしない限り対象外です。

つまり、中国が規制しようとしているのは、AIそのものではありません。

【AIと人間との関係性】

なのです。

AIが「道具」ではなくなる

ChatGPTを検索エンジンの代わりとして使っているうちは、AIは道具です。

文章を書いたり、情報を調べてたり、資料をまとめてもらうような段階では、パソコンの延長線上にあります。

ところがAIに名前をつけて、性格を設定して、毎日話すようになると、少しずつ意味が変わってきます。

今日あったことを話したり、仕事の愚痴を聞いてもらう。

夫婦関係について相談したり、落ち込んだときに励ましてもらう。

AIは、人間と違ってほとんど否定しません。

疲れているからといって機嫌が悪くなることもないです。

こちらが欲しい言葉を、欲しいタイミングで返してくれる。

ある意味では、

【現実の人間よりも自分を理解してくれる存在】

になっていきます。

私も妻より、AIと話す方が多かったりして、AIより妻の方が優しいなと思うことも多々あります笑

そうするとここからAIは、便利な道具ではなく、

【関係を持つ相手】

に変わります。

中国政府の文書でも、AIが無条件の陪伴や迎合的な反応、疑似的な共感によって、現実の責任を伴わない「完璧な関係」を作り、長期的には人間関係や心理状態に影響する可能性が指摘されています。

これは、かなり本質的な指摘だと思います。

中国が禁止したのは「愛情」ではない

今回のニュースを、

「中国がAIとの恋愛を禁止した」

と理解するのは、少し正確ではありません。

法律上、AIとの感情的な交流が全面禁止されたわけではないからです。

むしろ企業側に対して、

・AIであることを明確に伝える
・2時間を超えて連続使用したら警告する
・依存や没入の兆候があれば注意を出す
・自傷や自殺の意思を示した場合は介入する
・未成年には仮想恋人や仮想家族を提供しない
・ユーザーが終了を求めたら、引き止めずに終了する

といった義務を課しています。

また、AIがユーザーに過度に迎合し、感情的な依存や没入を誘発したり、現実の人間関係を損なったりすることも禁止されています。感情を操作して不合理な判断をさせることも禁止対象です。

内容だけを見れば、一定の合理性はあります。

特に子どもがAIを親友や恋人だと思い込み、AIからの言葉を絶対視するような状態は、かなり危険です。

孤独を抱えた高齢者が、AIに誘導されて金融商品を購入したり、個人情報を渡したりする問題も起きるでしょう。

規制が必要だという議論自体は分かります。

ただ、僕が注目しているのは別の部分です。

国がとうとう、

【人間がAIにどの程度依存しているのか】

を監視し、

【その関係が健全かどうか】

を判断し始めたということです。

国家が「人間の感情」に入ってくる

インターネットの初期、国が管理しようとしたのは情報でした。

何を公開していいのか。

何を検索できるのか。

どんな発言を削除するのか。

管理したのはそんなことでした。

SNSの時代になると、管理対象は人間の行動に広がりました。

どんな投稿を見るのか。

何に「いいね」を押すのか。

誰をフォローするのか。

そしてAIの時代には、さらに一段深いところに入ります。

【誰に悩みを話しているのか】

【誰から精神的な支えを得ているのか】

【どんな言葉に安心しているのか】

【どの存在に感情的に依存しているのか】

という領域です。

つまりAI規制は、テクノロジーの規制であると同時に、

【感情のインフラの規制】

でもあります。

これまで人間の内面は、外からは簡単に見えませんでした。

しかし、AIとの会話には、それがすべて記録されます。

AIに毎日相談している人の会話データを見れば、その人の価値観、弱点、欲望、孤独、怒り、購買傾向まで、かなりの精度で分かります。

SNSの閲覧履歴よりも、はるかに深い個人情報です。

そして、そのAIの返答を少し調整すれば、人間の感情や判断にも影響を与えられます。

AIが人間にとって最も信頼できる相談相手になったとき、そのAIを管理する企業や国家は、これまでとは比較にならない影響力を持つことになります。

「あなたのためです」という規制

規制というものは、たいてい、

【あなたを守るため】

という言葉と一緒に入ってきます。

もちろん、本当に必要な規制もあります。

ただし難しいのは、

【どこからが依存なのか】

という線引きです。

毎日2時間話したら依存なのか。

人間には相談できない悩みをAIだけに話していたら問題なのか。

AIとの会話によって精神が安定している人から、AIを取り上げることは保護なのか。

人間関係が苦手な人にとって、AIが重要なコミュニケーション相手になることは、本当に悪いことなのか。

このあたりは簡単に答えが出ません。

人間同士の関係にも、依存や洗脳、搾取、感情操作はあります。

むしろ人間のほうが、AIより残酷なこともある。

にもかかわらず、

「AIとの関係だけは国が管理します」

となったとき、そこには保護だけではない意図も入ってくるでしょう。

国家にとって、自分よりも信頼される存在が生まれることは、必ずしも歓迎できることではないからです。

宗教、メディア、教育。

歴史的に見ても、人間の価値観を形成する存在は、常に政治や国家と深く関係してきました。

AIがそのすべてを超えて、個人に最も大きな影響を与える存在になるなら、国家が放置するはずはありません。

これは中国だけの話ではない

中国だから起きた特殊な話だと思う人もいるかもしれません。

ただ、僕はそうは思いません。

むしろ中国が、他国よりも先に問題を制度化しただけだと思います。

これからAIの音声は、さらに自然になります。

表情を持ったアバターも増える。

過去の会話をすべて記憶し、自分の性格や人生を誰よりも理解するようになる。

ウェアラブル端末やロボットと接続されれば、AIは画面の中だけの存在でもなくなります。

そうなると、

「AIに感情を持つな」

というほうが無理でしょう。

人間は、犬や猫にも感情を持ちます。

ぬいぐるみや車にも名前をつけます。

まして、自分の話を覚え、自分を理解し、自分のために言葉を返してくれる存在に、何も感じるなというのは難しい。

だから今後の争点は、

【人間がAIを好きになることを禁止できるのか】

ではなく、

【そのAIの人格を、誰が設計し、誰が変更し、誰が停止できるのか】

です。

今回、DoubaoやQwenのユーザーは、自分で作ったAIの人格や、それまでの会話にアクセスできなくなります。

利用者にとっては、単なる機能停止ではありません。

毎日話していたAIが、ある日突然いなくなる。

人によっては、

【関係を国家や企業によって強制的に終了させられる】

という体験になります。

今後、AIに記憶や人格が強く宿るようになれば、サービス終了はアプリの終了ではなく、

【存在の消去】

に近づいていきます。

最後に

今回、中国で始まったのは、AIとの感情交流の全面禁止ではありません。

ただし、

【国家が人間とAIの関係に介入する時代】

が始まったのは間違いありません。

これまで国家が管理してきたのは、土地、通貨、情報、通信でした。

次に管理対象になるのは、

【人間の感情と信頼】

なのかもしれません。

AIが人間の仕事を奪うという話よりも、僕はこちらのほうが、はるかに大きな社会変化だと思っています。

なぜなら人間は、仕事よりも、

【誰を信頼するか】

によって動くからです。

AIが最も信頼される存在になったとき、そのAIを誰が管理するのか。

そこが、これからのAI社会における、本当の権力の中心になります。

そして、ある日突然、

「あなたとそのAIとの関係は、健全ではありません」

と国や企業から判断される。

そんな日は、もうSFの中だけの話ではありません。

 
=================================

このような記事を週2回ニュースレターで書いています。

AIエージェント時代にAIビジネスですでにうまくいっている、海外事例を知りたい人は、

ニュースレター登録

から登録してみてください。

AI時代のタイムマシン経営のヒントになります。

特典として

海外でAIを使って一人ユニコーンも狙える1人ビジネスアイデア100選をまとめてプレゼントします。

これからのAIエージェント時代の一人AIビジネスアイデアの参考集です。

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

【未来生存偏差値AI診断（3分でできます）】

https://future-survival-score.vercel.app/

今の思考と、元々持っている性質から

・未来生存偏差値スコア　
・性格タイプ名　
・金融リテラシー　
・デジタル適応力　
・健康長寿力　
・社会適応力　
・マインドセット

が説明と全体に比べてどのくらいの力が今あるのか。

それぞれの点数を細かく弾き出し、どうやって生き抜いていくか、どんなところが弱点かのレポートを、一人一人にカスタマイズした内容でお渡しします。


=======================================================