チャッピーを野放しにして大丈夫なのか?

現在多くの人がアメリカ製のAIを日々使っていて、更にネット(noteでも)ではチャッピーによって作られた画像が大量に転がっているが、このままで文化は大丈夫なのだろうか?

※ この記事で言うチャッピーとはChatGPTだけではなく、アメリカや中国製など国産以外のAI、特にこの記事では画像生成AIについて指すものとします。チャッピーが有名になりすぎていて、ネット上でもChatGPTのサービス内(少し前まではDALL-E系、現在ではGPT Image系)で生成しただろう画像が多く見られるため総称として利用させてもらいます。「ググる」が以下のデジタル大辞泉のように、Google以外を含めて検索エンジン一般で検索するという意味で定着した言葉なので、このように総称として用いてもいいでしょう。

今回の記事はチャッピーに対して異論を唱える記事ですが、ヘッダー画像は久しぶりにChatGPT(GPT Image 2)に頼みました…

要旨(Abstract)

本稿では、画像生成AIを用いた「AI絵巻物プロジェクト」の知見を端緒とし、AIが生成する伝統的表現が世界の多様な文化に及ぼす影響と危うさを考察する。画像生成AIは特定の文化様式を模した画像を容易に生成できる一方、その中には歴史的・文化的な文脈を欠いた不正確な描写が含まれていることもある。こうした「文化の模造品」がネット上に氾濫し、人間がそれらを真実と誤認して拡散することで、各地の固有の伝統文化が埋没・希薄化する恐れがある。AI開発側による技術的対策以上に、人間の判別能力を超えた精巧な模造品が「正解」として定着し、文化の真正性が損なわれる社会的リスクは大きい。過去の文化変容が新たな価値の「昇華」であったのに対し、現在のAIによる生成は単なる学習データの「混淆」に留まっている。この課題を解決するためには、各地域の文化的文脈を正しく解釈し、当事者の指摘に対して誠実に対応可能な「自国・自文化圏のAI」の育成、および文化の構造を真に理解できるAIの構築が不可欠である。本稿では、絵巻物を一例とした文化理解型AIの構築こそが、デジタル時代における文化継承の普遍的なモデルとなり得ることを論じる。

1. はじめに

chakkun1121です。最近AI絵巻物プロジェクトを進めています。この過程で前の記事で書きましたが、最新の画像生成AIがすべて絵巻物において壊滅するという問題が起きました。今回はこのプロジェクトをやっていて本当にこのままチャッピーを野放しにしておいていいのかどうかについて考察していきます。

2. 文化の「混淆」と伝統の崩壊

なぜAIが生成する伝統文化は、どこか「薄っぺら」に感じられるのでしょうか。その原因は、AIが文化の「意味」を理解しないまま、膨大なデータを物理的な物量で処理している点にあります。

人間が他文化を取り入れる際、一度に吸収できる量には限界があります。例えば1週間で世界各地の100個の文化を学び、それぞれの特徴を覚えろとか言われても多分できる人はいないと思います。また、人間の場合は単に覚えるだけではなく、その時に周辺知識に興味を持ったら調べると思います。そのため、必然的にその様式が持つ意味や背景を深く咀嚼し、自分たちの文脈へと「意味付け」しながら取り込みます。このプロセスこそが、単なるコピーではない「昇華」を生んできました。

いくつか例を出してみます。ただ、私は理系の大学生で、美術史専門ではないので、間違っていたらごめんなさい。例えば私がやっている絵巻物ですが、元々中国で生まれた形式が日本に伝わり、平安時代以降に日本独自の「大和絵」の技法や物語性と結びつくことで、独自の発展を遂げました。これは単なる形式の模倣ではなく、当時の日本人がその様式を自らの感性で解釈し、再構築した結果です。同じような文化の昇華の例は他にもたくさんあります。 対して現在のAIは、不十分なラベル付け（アノテーション）のまま、数億枚規模の画像を無差別に学習します。そこでは(特にDiffusionモデルでは)背景知識とかは一切学習しません。実際、一部の画像生成AIでは「絵巻物」と「浮世絵」、下手すると「日本のアニメ」や他国の別の分類の作品が混ざり合って学習されているように感じられ、出力されるのはそれらが無秩序に混ざり合った「ぐちゃぐちゃの混淆物」のことも多いです。また、絵巻物に関して言うと学習量が相対的に足りていないため、一点透視図法に引っ張られまくっているという問題もあります。意味の理解を伴わないまま、確率論的に「それっぽいピクセル」を並べているに過ぎないAIは、文化を深めるのではなく、その境界線を曖昧にし、希薄化させているのです。

3. なぜ海外製のAIではだめなのか

ではAI本体自身がだめだという言い方をしているように聞こえるかもしれませんが、私が特に懸念しているのが外国製のAIによる文化の侵略、希釈化です。

「チャッピー」はアメリカや中国製のAI(と最初に定義した)なので制作された国の文化に偏りを持ってることがありえます。想像してもらいたいですが、あなたがAIの開発者だとして、自国の文化と他国の文化、どちらを優先しますか?こういう感じの問題だと思います。

しかし、これについてはAIはネット上にあるデータを無作為に学習しているので、そのようなことはないと反論するかもしれません。実際そうかもしれません。ちなみにAIは日本文化が好きらしいです。と言っても絵巻物はそこまで知名度がないのか、ほとんど学習されていないみたいです…。まあ実際にちゃんと鑑賞しようとしたら、現実的な解が家で自作することだと思っていますが、これがめんどくさくて、そこまでやろうと思う人がほとんどいないのも原因の1つだと思います。しかし、アニメーションの専門家等では有名らしいです。(ジブリの高畑監督もその1人です)

https://arxiv.org/pdf/2604.21751

しかし、ここでも外国製のAIには別の問題があると思います。例えば国産のAIが自国の文化に対して明らかに誤った出力をしたとしましょう。これが社内テストで見つかった場合、どうしますか?おそらくそのモデルの調整、公開延期までするかはわかりませんが、次回以降のモデルに対しては何らかの対策を取ると思います。これはSNS等で話題になったときも同じだと思います。ある程度自国の文化を尊重している開発者が社内にいれば対策を取ってくれると思います(まあ対策しないと炎上する可能性もあるので対処するパターンが多いと思う)。しかし、これが外国の場合はどうでしょうか?開発者が特別にその文化に対して思い入れがなければおそらく気が付かないし、SNSで話題になってもよっぽどのことではないと踏み潰すと思います。実際、4o Image Generation(当時、現 GPT-Image-1)で起きたGhiblifyingとか有名だと思います。このときも明らかに色味がおかしいにもかかわらず、公式までが遊んでいました(これは他にも著作権などの問題も話題になりました)。

4. 終わりに

このように「チャッピー」を野放しにしておく問題点を述べてきました。そのため、日本の伝統をしっかりと理解した国産AIが必要だと思います。ただこれについては日本だけではなく、すべての国に当てはまると思います。そのため、なんでもアメリカや中国任せではなく、各国がそれぞれAIを作っていくことが必要だと思います。

私は現在画像生成AIを駆使して絵巻物を作るというAI絵巻物プロジェクトを進めています。しかし、技術と費用の限界から、アメリカ製の画像生成AIを駆使して進めています。ただやはり平行投射、吹抜屋台で壊滅してしまっています。このプロジェクトが面白いと思ってくれた方がいらっしゃいましたら、メンバーシップへの加入も検討してくれると嬉しいです。

最後までお読みいただきありがとうございました。

おまけ ヘッダー画像とSNS宣伝用画像について

今回「チャッピー」に対して異論を唱えた記事ですが、意図的にChatGPTに画像を作成してもらいました。

てかこのような説明の画像を最近大量にネットで見かけますが、なんか情報量が多すぎて、ただ霞が関パワポとか言われているやつとも違うというなんか変な感じがするのですが、気の所為でしょうか?

少し前に話題になっていましたが、やはりAIはすべての場所を同じぐらい描き込んでしまうらしいです。人間の場合、イラストではすべてを描き込むのは現実的でなく、人によって苦手なところもあると思います。そこをいい感じにごまかす、うまく「サボる」ことをしています。しかし、画像生成AIではDiffusion系のモデルではノイズ除去を大量に訓練されており、すべての場所を完璧に仕上げてしまいます。そのため、このような不自然なことになると思います。

ちなみに信貴山縁起絵巻では余白をうまく利用して鑑賞速度を調節しているみたいです。これについてはいつか記事にしたいです。ていうのか日本画全体としてどう描くかと同じぐらい、どう余白を残すかが重要視されている感じがします。

あと、細かいところを突っ込むと、やはりまだGPT Image 2って絵巻物の構造理解していないな。これについてはNanoBanana2も壊滅しているし、更にGemini 3.5 Flash等のテキストモデルもそれっぽいことを言っているだけで、時々間違えています…。