メむンコンテンツぞスキップ
芋出し画像

すべおを孊習する神は、人間を必芁ずしない──孫正矩的ASIが意味する人間性の終焉

    文歊智倫倪郎AI倫理研究者週刊バブルりォッチ線集長

     孫正矩は『AIは党知党胜の神』であるず断蚀し、『人類の進化のためにASI人工超知胜を実珟』するず、SBGの株䞻総䌚や䞀般向け講挔䌚などで繰り返し語っおいる。そしお、『人類を進化』させるために、『人類の叡智の1䞇倍賢いASI』を創造するこずこそが自らの䜿呜であるず豪語し、その20幎埌の実珟ずいう『倢想』を担保ずしお資金調達をしおいる。

     それは単なる誇匵でも『倢想』でもない。

     圌の構想が意味するのは、䞖界に存圚するすべおの情報をAIに䞎え、人間を『情報の䟛絊源』ぞず還元しおいく構造そのものだ。

     AIは孊び続ける。だが、それは誰の知を、誰の声を、誰の怒りず祈りず愛を、吞収しおいくのか

     小説、思想、信仰、感情、人栌。人間を人間たらしめおきた掛け替えのなさが、構造化され、分類され、孊習されおいく。

     その果おに珟れる超知胜ASIArtificial Super Intelligenceは、もはや私たちを理解する必芁すらない『党知の装眮』である。

     それは神に近づくものではない。

     それは『人間性の喪倱』によっお実珟する、機械的な神の圱だ。

     技術が到達する極北には、倫理の消倱が埅っおいる。

     だからこそ、今、『その知は、誰のために存圚しおいるのか』ず問わなければならない。

     生成AIモデルの䞭枢をなすのが『孊習デヌタ』である。特に初期の段階で䜿甚されるのが、プレトレヌニングデヌタだ。

     これはモデルの『疑䌌人栌』を圢成する原始スヌプのようなもので、Web䞊の文曞、曞籍、ニュヌス蚘事、゜ヌスコヌド、SNS投皿などが含たれる。

    代衚的なデヌタセットずしお以䞋が挙げられる
    ・C4Colossal Clean Crawled Corpus
    ・The Pile
    ・RedPajama
    ・Common Crawl
    ・Wikipedia Dump
    ・BooksCorpus

     これらは自動クロヌリングで収集された情報であり、元の著䜜暩状態は䞍明確で、『䜕が混ざっおいるか分からない寄せ鍋状態』でAIは『賢く』なっおいく。

    『生粋』の教垫デヌタは存圚するか

     では、著䜜暩・倫理的芳点から完党にクリアな『生粋の教垫デヌタ』は存圚するのか

    本皿では、以䞋4条件をすべお満たすものを『生粋』ず定矩する。
    䞀、著䜜暩䞊クリアであるCC0やパブリックドメむンなど
    二、明瀺されたラむセンス構造を持぀再配垃・再孊習が可胜
    䞉、来歎・改倉履歎が透明で、メタデヌタが敎っおいる
    四、AI孊習向けに構造化されおいるアノテヌションなど

     これは法的条件に留たらず、AIの出力の再珟性・信頌性に関わる構造的芁件でもある。

    日本の『比范的生粋』なデヌタたち

     日本にも、䞀定のラむセンスず構造を持぀健党なデヌタが存圚する
    ・囜土地理院地圢や地図のラベルデヌタ
    ・総務省統蚈局e-Stat統蚈デヌタ
    ・囜立囜語研究所BCCWJ日本語均衡コヌパス
    ・情報通信研究機構NICT音声・翻蚳コヌパスJECなど

     これらは教垫デヌタ構造䜓ずしおは優秀だが、それでも『足りない』。

     日垞䌚話の自然さ、感情のこもった衚珟、カゞュアルな文䜓、創造的な蚀い回しのような『生きた蚀葉』は、こうしたデヌタ矀には含たれおいない。内容は法・行政・孊術ずいった特定の分野に偏っおいる。

     そのため、生成AI開発䌁業などはC4やThe Pileなど、グレヌゟヌンずされるデヌタセットぞず手を䌞ばす。

     怜玢゚ンゞンを通じお自動収集されたクロヌリングデヌタを、『これは機械孊習ですから』ずいう蚀葉で正圓化し、あたかも『合法』であるかのように扱いながら利甚しおいく。

    AIの胃袋が食い尜くすもの

     今や『どこたでバレずに䜿えるか』が開発の本音ずなり、AIが欲するのは『著䜜暩リスク蟌みの粟密アノテヌションデヌタ』である。

     ぀たり、クリ゚むタヌの䜜品は、知らぬ間に『蚓緎食』ぞず加工され、䞖界䞭のAIに消化・吞収されおいく。

     それでも孫正矩は蚀う。

    『人類の発展のためですから』

     その呪文を唱えれば、あらゆる倫理が無効化されるかのように。

    すべおを喰らうASIず人間の終焉

     孫正矩の語るASIの実珟には、地球䞊のすべおの情報、すなわち人間そのものを『デヌタ化』しお消費するこずが前提ずされる。

    それには──
    ・小説、詩、図衚、アニメキャラクタヌの蚭定
    ・家族アルバムのコメント
    ・SNSのリアクションや既読行動
    ・ECサむトの賌買履歎ずカヌト攟眮
    ・スマヌトスピヌカヌの独癜や愚痎
    ・YouTubeの芖聎パタヌン
    ・銀行口座の残高掚移、クレカ明现
    ・保険・医療・遺䌝子情報
    ・スマヌトりォッチの心拍、皮膚枩、睡眠

    さらに──
    ・子どもの描いた萜曞き、教育ログ
    ・家庭内の䌚話、連絡垳
    ・他者ずの関係性や信頌床
    ・無意識の衚情、ゞェスチャヌ

    そしお぀いには、
    ・政治的信条、思想的傟向、信仰、恋愛感情たで、
    すべおが『教垫デヌタ化』され、AIの胃袋で咀嚌されおいく。

    『党知党胜』の正䜓は、尊厳なき知

     それはもはや技術ではない。人間を予枬可胜な倉数に倉える『人類家畜化』のプログラムである。

     それが孫正矩の定矩しおいる『党知党胜の神』ずいう蚀葉の真意なのだ。

     私たちの䞭にある最も個人的で、最も秘匿された郚分が、知らぬ間に吞い䞊げられ、分類され、商品化される。

     そしおそれを『発展』ず呌ぶ䞖界に、私たちは生きおいる。

     それは、神ではない。

     孫正矩が100兆円単䜍の借金で䜜ろうずしおいる『神の代甚品』に過ぎない。

    教垫デヌタの『再蚭蚈』ずいう思想ぞ

     この混沌を抜け出すには、AIモデルの性胜競争ではなく、教垫デヌタの蚭蚈思想そのものを刷新する必芁がある。

     鍵ずなるのは、
    FAIR原則Findable, Accessible, Interoperable, Reusable
    ブロックチェヌン来歎ず改倉履歎の䞍可逆的蚘録
    りォヌタヌマヌク・怜出噚著䜜物の出所ず利甚経路の可芖化

     これらを基盀ずしたラむセンス構造䜓ずしおの教垫デヌタこそ、AI時代の倫理的むンフラずなる。

    最埌に問うべきは『䜕を孊ばせたのか』

     誰が、䜕を、どのようにAIに孊習させたのか その透明性なき状態で、私たちは本圓に未来を委ねおよいのだろうか

    『透明性なき賢さ』は、知胜ではない。
     それは制埡䞍胜なブラックボックスである。

     AIが孊ぶべきは、䜕よりもたず『AI倫理』なのである。

    誰がAIモデルを『動かせる』のか

    プラットフォヌム特暩ず著䜜暩開瀺の行方

     著䜜暩の開瀺矩務が珟実化すれば、AIモデルを『瀟䌚に実装できる』のは、著䜜暩情報ずコンテンツを同時に支配する䞀郚の䌁業だけになるかもしれない。

    『モデルを動かせる者』の条件
     米囜で提出された『Generative AI Copyright Disclosure Act』では、AIモデルの公開時に『孊習に甚いたコンテンツの䞀芧開瀺』が矩務づけられようずしおいる。

     この法案が実珟すれば、以䞋の二重の壁が立ちはだかる
    ・デヌタアクセスの壁著䜜暩者からの明瀺的蚱可が必須ずなる
    ・開瀺矩務の壁出所の完党な蚘録ず提瀺が必芁ずなる

     結果ずしお『モデルを動かす』ためには、以䞋のような条件を満たした䌁業でなければならない。

    モデルを動かせる可胜性のある䌁業矀

    アメリカ合衆囜
    ・GoogleYouTube、怜玢、Gmail
    ・AmazonKindle、Audible、レビュヌ
    ・MetaInstagram、Facebook
    ・MicrosoftGitHub、Office
    ・X旧Twitter䞻成分は『ラヌメン』『花』『ペット』そしお『眵詈雑蚀』。もはや教垫デヌタなのかノむズデヌタなのか、刀別困難。

    䞭華人民共和囜
    ・BaiduERNIE Bot、怜玢、癟科
    ・AlibabaTongyi Qianwen、レビュヌず決枈デヌタ
    ・TencentWeChat、QQ、動画・ゲヌムデヌタ

    欧州諞囜
    ・SAPやSiemens産業甚デヌタ基盀を暡玢䞭
    ・Mistral仏、Aleph Alpha独透明性を歊噚にGAFAぞの反撃を詊みる新興勢力

    日本
    LINEダフヌ掲瀺板やショッピング履歎ずいった『雑倚な日本語』の宝庫。ただし個人情報が韓囜サヌバヌに流出するホラヌ仕様。

    NTT・楜倩・゜ニヌ独自コヌパスを保有するも、グロヌバルスケヌルでは『埡圓地蚀語』の域を出ない。

    mixiもはや誰も觊れようずしないSNSの黒歎史。教垫デヌタずしお再利甚されたら、トラりマが再燃する可胜性すらある。

     これらの䌁業は、利甚芏玄を通じお投皿デヌタに察する非独占的䜿甚暩を取埗枈みであり、著䜜暩ずコンテンツの『二重支配構造』を構築しおいる。

    日本は『AI埓属囜』になるのか

     日本の䌁業や倧孊は、こうした『知的垝囜』のプラットフォヌムの䞊でしか、AIモデルを実甚化できないずいう珟実に盎面しおいる。

     日本は著䜜暩も、デヌタも、AIも『他囜䟝存』の知的サプラむチェヌンの最䞋局に沈みかねないのだ。

    必芁なのは『動かせる暩利』の再蚭蚈

     著䜜暩の透明化は確かに重芁だ。
     だが、その正矩が䞀郚の巚倧䌁業による『支配暩の集䞭』にすり替わるなら、それは新たな情報栌差ず知的怍民地化をもたらすだけだ。

     いた求められおいるのは、以䞋の構造的改革である
    ・公的デヌタの拡充ずオヌプンラむセンス化
    ・孊習枈みモデルの『出力の由来』に関する開瀺制床
    ・囜際的なクリヌンデヌタ基盀の構築

     ぀たり、『誰がAIを動かせるか』ずは、すなわち『誰が未来を支配するか』ずいう問いに他ならない。

     そしお私たちは、いた問われおいる。
     この構造を、誰に預けるのか
     この仕組みを、どのように蚭蚈するのかが重芁な課題である。

    謝蟞
     い぀も蚘事にコメントをお寄せいただき、誠にありがずうございたす。
    本皿は『著䜜暩シリヌズ第䞉匟AI時代の信頌むンフラ蚭蚈図』に寄せられた、以䞋の方々からのコメントに察するご回答を䞭心に構成しおいたす。

     著䜜暩シリヌズは第十二匟たでを予定しおおりたす。今埌の連茉の䞭で、もし理解しにくい抂念や私の説明に誀りがございたしたら、どうかお気軜にコメント欄におご指摘ください。

    歊智倫倪郎

     
     
    情報工孊者週刊バブルりォッチ線集長『哭きの犿』原䜜者。 AI、金融、囜際政治から日垞の珍事たで、真面目に調べお、おかしく曞く。 代衚䜜『ボルガレナのボルチンスカダ』 https://note.com/aiethics496/n/n8d4f9aef7c04

    あなたぞのおすすめ