推しの画像をAIに与えたら学習されるの？

AI遊びの１つ「画像加工」

ChatGPTやGeminiなどの生成AIが急速に広まって久しい今日この頃、皆さんはAIで遊んでおられますでしょうか。
私は毎日使ってますが、主な用途は作業の下処理をするアシスタントなので、テキストのやり取りがほとんどです。

しかしAI進化の方向性を見ていると、画像作成系のニーズは非常に多いんだなと感じます。Geminiも最近画像作成テンプレートが大幅に増えましたし、面白いスクリプトもたくさんシェアされていて、画像生成がどんどん手軽になってますよね。
私の友達にも、ChatGPTを飼い猫の画像加工にしか使ってない人がいて、お互い「そんなことしてんの？」って驚きましたｗ

私たち推し活民は、推しの映像をストレージが破裂するくらい持っていますので、それを使って合成したくなる人もいるんじゃないでしょうか。

そこで気になるのが、「AI」と「推し」は共存させてもいいのかという点です。SNSを見ててもここの議論がわりと多いので、一回自分の思うところを書いてみたいと思います。

注意事項

この記事で取り上げるのは、一般的な生成AIにおける画像生成の仕組みの話です。法的な部分は今回の判断外です。
私はAI企業の人間ではありませんから、新しい技術で遊ぶのが好きなオタクの独り言を立ち聞きしていると思って、読んでください。

まずはスタート地点を共有

私が見た中で一番「？」と思った意見は、
「AIに推しの画像を与えると、ディープフェイクの原因になる」
というものでした。

「AI学習」にも色々ある

これを考えるには、まず「学習」とは何なのか、という前提が必要だと思います。

私もいちいち説明するのが面倒くさくて「AI学習」の一言でまとめてしまいがちなのですが、実際には別の技術が混同されていることがよくあります。
例えば、検索AIが色んな記事から概要を作るのは「参照」ですし、一般的な画像生成は「推論」です。これらは「学習」ではありません。

• 学習

  • AIの知識データそのものの追加・更新（アップデート）。

    • 通常リアルタイムで行われることはないので、写真を与えたらすぐ反映されたりはしない。

• 推論

  • AIが既にある知識データを使い、その場で計算や加工を行うこと。

    • 例えばAIが画像を作る場合なら、リクエストに合う情報をその場で計算し、絵を組み立てたり与えられた画像から再現したりする。

※参照の話はこっちの記事でやってます。

大雑把に言えば、AI企業が色んな情報を集め、AIに指針を与えて教育して、モデルを更新するのが「学習」です。
生成AIで画像を作って遊ぶ場合、AIはその知識を使って「こうなるかな？」と「推論」した結果を出力しています。

何故AIは画像がなくても推しの特徴を再現できるのか

画像生成には、概ね2パターンあります。

1. 映像（画像や動画）から特徴を読み込む

2. テキスト（プロンプト）から記憶を探し、特徴を読み込む

AIで画像生成する時、画像をアップロードするやり方もありますが、テキスト（プロンプト）だけでやる方法もあります。
この場合、推しの画像を与えていないのに、それっぽいものが出て来ますよね。これは何故かというと、AIは既に事前学習をしているからです。

AIはサービス開始前の予習として、ネット上の公開情報をかき集めて学習します。
ネットにたくさん画像がある推しなら、その時点で特徴が記憶されている可能性が高いので、写真をアップしなくても名前を指定すれば勝手に特徴を再現してしまえます。

私がAIに与えた画像は、学習されないの？

そこは微妙なところです。
学習される可能性はゼロではないのですが、別に送った画像がそのままAIに吸収されるわけではないと思うからです。

• 簡単な情報の行方

  1. ユーザーがテキストや画像をアップする

  2. それらがサーバーに送られ、AIが処理した結果を出力する

     • 送られた情報はどうなるか

       • 学習OK：いつか学習ソースになり「学習」されるかも

       • 学習NG：一定期間で削除される

要するに、送った情報がその場で反映される「リアルタイム学習」はないけど、そういうログを使って後日「アップデート」されることはあるかもしれず、それが回り回って推しの再現精度上昇に影響するかも……という可能性コンボとしては、あり得ます。

その場合でも、次のモデルに使われるのは入力データを元に調整されるパラメータやユーザー満足度情報とかです。
ここでよく問題視されるのは、学習ソース用素材がサーバーに残ってしまい技術者が覗ける状態になってしまう可能性についてであり、「学習＝サーバーの画像がそのまま出力されて他人に利用される」わけではありません。

大抵のAIサービスは、「利用者が入力した情報を将来のモデル改善・学習に利用する」という約束を入れています。
それを避けたい場合は「学習NG（オプトアウト）」設定にしてください。

※例外としては、ユーザーが画像をたくさん読みこませて推し専用モデルを作るタイプのAIがあり、これの場合は直接学習させることもあります。

AIに画像を与えると全AIに学習されるのか

これは「AIに推しの画像を与えるとAIが推しを学習する」という意見の派生形です。
例えて言うなら、ChatGPTに推しの写真を与えることで、フェイク動画作成者を助けてしまうか、ということです。

これは、そもそもAIは共通ではないので「助けない」と思います。

AIは作ってる会社がいくつもあって、例えば「OpenAI（ChatGPT）」と「Google（Gemini）」は別物です。
使ってるツールを飛び越えて影響を与えることはありません。

「AI」ってまとめてしまうと世界中のデータベースがつながってるような印象を持ちますが、例えば同じ車でもホンダとベンツは別物だし搭載エンジンも違います。
内燃機関の原理が同じでも、ホンダで開発した技術が即ベンツへ流れていくかというと、そうはなりません。AIも同じです。

もちろん、ネットにアップした映像が別AIの情報収集として取り込まれ、将来の学習データになる可能性はあります。
しかしそれ自体はAI生成に使うかどうかに関係なく、「ネットに画像を公開する行為全般」で起きることだと思うんですよね。

ちなみに悪意を持ってディープフェイクや捏造画像を作成する場合、現代の有名人なら公式またはメディアから大量に高画質な写真が出てますから、それを使った方が圧倒的に早くて確実です。
すみません、いつも悪の目線で物事考えてて(*ﾉωﾉ)

AIの画像生成とディープフェイク

「推しを守りたい・搾取されたくない」はファンの本能ですから、私たちは自分の行動がAIを通じて推しに悪影響を与えてしまうことを、とても警戒してしまいます。

そこには単に「悪いことならしたくない」という気持ちもあれば、実際にフェイク映像が作られ推しの悪評を拡散させるのに使われているのを見てしまった、という経験をした人もいるかもしれません。
人間ってやっぱり自分で見たものを信じちゃうので、あれは本当に罪深いと思います( ;∀;)

というわけで、フェイク画像についても考えてみました。

画像生成に含まれる「高解像度化」

先に前提を共有しておきたいのですが、私が「画像生成」を指す時は、「高解像度化」も含まれています。

ぼやっとしてて細部がよく見えない推し画像を、AIで綺麗に修正しているものがありますよね。言い換えると、「低解像度の情報を高解像度化している」やつです。
しかし最初から画質が低い画像の場合、含まれた情報がそもそも少ないので、拡大してもボケてるものは直りません。

AIがそれを高解像度化する時は、「推論」で埋めています。
要するに、学習した知識をベースに「多分こんな感じ」で書き替えてるわけですから、見えないものが見えるようにしてくれてるわけではありません。
そこは、AIによる画像生成と基本同じだという認識で読んでいただければと思います。

AI生成画像とディープフェイクの違い

HYBEの通報窓口にもAI項目ができたように、推しを巡るAI技術の問題自体は存在します。
ここで問題になるのは主に「ディープフェイク」ですが、それが一般的な画像生成とどう違うのかというと、自分の理解ではこうです。

• ディープフェイク（Deepfake）

  • 偽の映像

    • 実際の映像や音声を加工し、実際には本人がやっていない行為をやったかのように見せる。違法ポルノの他、アンチが虚偽情報を作ることもある。

    • 通報は「悪意のある投稿＞AIディープフェイクの悪用」へ。

• AI画像生成（Image Generation）

  • 一般的なAI画像生成

    • プロンプト（指示文）や元画像の特徴をもとに、新しい画像を生成・加工する。一般的なものから、実質ディープフェイクに近いものまである。

    • 通報は「悪意のある投稿＞デマ/偽情報」へ。

ディープフェイクと一般的な画像生成は技術的には別なんですが、結果が同じになることもあるので、ややこしいです。

例えば、AI画像生成で推しのデート写真を作ったら、結果としてはディープフェイクと同じ「偽情報の捏造」になります。この使い方は「悪」ですよね。
じゃあ猫耳つけた推しの画像を作るのはどうなのか。ここでグラデーションが生まれます。

厳密な境目を設けるのが難しいのですが、そこには
「公開したか」
「本物と偽ったか」
「どんな侵害を生んだか」
というラインがあり、踏み越えるのは大体悪意のある人間です。だから通報項目名も｢悪意のある投稿｣なのだと思います。

AI画像の問題は、技術そのものではなく利用者のモラルに依存する部分が非常に大きいということだと、自分は理解しています。もちろん、法整備も大事ですが！

「学習」が悪を生むわけではなく、悪意を持った「公開」から問題が始まるのです。
ですから、個人的に画像を読み込ませて遊んだ程度で自責する必要はないと思いますし、「本物と誤認させる画像を公開したか」に加え、悪意の有無が通報の分かれ目になると思います。

警鐘を鳴らす人へ伝えたいこと

この記事は、推し活でのAI利用に警鐘を鳴らしている人の足を引っ張りたいわけではありません。
推しを守りたい気持ちはわかるんです。私自身も、実際にAIで作られただろうフェイクニュースや、それが拡散されていく様子を目にしていますから。

しかし、「敵を知り、己を知れば百戦危うからず」と言います。怒りや恐怖による拒否ではなく、「理解」してもらうことが大事ではないでしょうか。
でなければ、話が目的に到達する前の段階で感情的トラブルが起きやすくなり、説得力や伝播力が生まれません。

AI問題は炎上しやすいですし、「正しく説明する」ことの面倒くささを知っている技術系オタクはこの話題にあまり触りたがらないしで、AIの話はあまり広がりません。
しかしAI企業はガンガン売り込んでくるから、利用者はすごい勢いで増加していきます。この状態で、「画像をアップするな」から言い出すとしんどくなると思います。

新技術への適応スピードは人それぞれです。私たちもすべての技術を理解して使っているわけじゃありませんし、世界が敵に見えてしまうと推し活が楽しくなくなります。
優先順位としては「悪意のあるディープフェイクの通報」が最上位なので、どうかあまり怒らないでください。

「AIは怖いもので使う人は悪」なのではないと思います。
技術自体に善悪はなく、新しい技術が生まれればそれは本来の意図を超えた多様な利用をされることがあり、私たちは今その過程に立ち会っているというだけです。
生み出される悪を憎むあまり、技術の恩恵で楽しむ仲間にまで石を投げることがないように、願っています。

これは私の認識で、「正解」じゃありません

自分はこのように理解しているので、生成AIで推し画像を作って遊ぶこと自体は、時代の流れだなと思っています。

リアルと見分けがつかないものを大量生産でき、一度SNSなどで拡散するとどこまで流れたか把握不能になる――というのが、AI生成コンテンツの一番面倒くさいところですね。
「最近BTSにハマりました！」というポストを見つけて喜んで開いたら、AI写真が貼ってあった時の微妙な気持ちたるや( ;∀;)ﾄﾞｳｼﾀﾗ

AI生成コンテンツの好き嫌いはあるでしょうが、個人的には元々二次創作沼での経験から大抵のAI加工パターンは見たことがあるため、絶対公式供給されないだろうけど見たい！という人間の発想って変わらないものだなあとも思っています……ほんまに……。
ただ、今はそれが表で流通しているのが怖いところ。本人に見えちゃってるうううう( ;∀;)ｷﾞｬｰ

個人的には、まず住み分けてほしいと思います！
AI生成作品はそうわかるようにしてほしいですし（新規やスマホで流し見してる層には見分けがつかないから）、わかるようにしてあったとしても性的なものはアップしない方がいいと思います。

心構えとしては「SNSにアップしたものは、回収不可能になる」と思っておいた方がいいのではないでしょうか。鍵をかけていようが時間限定投稿だろうが、流出する時はしますから。
私たちだって、推しがうっかりミスってすぐ消したポスト、ずっと持ってますしね(*ﾉωﾉ)

最近は世界的に「これAI生成物です」の表示ルール作りが進んでますね。
全体に行き渡るのはなかなか大変そうですが、EUでAI規制法の適用が進んでることもあり、ネットも少しずつ変わって来てます。
画像加工か人の顔消しにAIツールを使ったのか、推しのインスタに「AIコンテンツ」マークついてたのには笑いましたがｗ

これはあくまで私の意見であり、自分が理解していることを書いたものなので「正解」と言うつもりはないのですが、AIとの関係を見直すきっかけになれば幸いです。推し活をお楽しみください！

シリーズ記事

関連記事

noteで面白かったもの