AIが別のAIから学習すると何が問題なのか？

　今回は読者さまより、『AIが学習したデータで学習を繰り返すとAIがバカになるというのは本当ですか？』という御質問をいただいたので、この質問についてお答えします。

　この質問に関係する記事が昨日出ていましたが、この記事の意味が解かり難かったのかも知れませんので、筆者なりに説明してみます。

 　AIが別のAIから学習を繰り返すと、必ず性能や精度が落ちると言うわけではなく、大別すると『知識が期待する方向に進化する』、『情報が偏ったバイアスが掛かった状態になる』、『過学習と呼ばれる状態になり、性能が伸び悩んだり退化する』、『知識や情報の伝搬エラーによって性能が下がる』といった様々な状態が発生し得ます。

　こういった知識の進化や学習の成果の方向性にバラツキがあることについては以下の記事でも簡単に紹介しています。 

　AIが進化する方向性に関する様々な現象は、AIからAIへの学習の過程で留意すべき重要な要素です。このような現象を防ぐためには、適切なデータセットの選択、学習のバイアスの認識と対処、適切な評価指標とバリデーション手法の使用などが必要となります。
 
『人間の学習』と『AIの学習』には異なる点も多々ありますが、人間が学習することによって知識が変化することをイメージすると、AIでも同じような現象が発生することが分かり易いでしょう。そこで、最初に人間の学習ではどのような現象が発生するかについて説明してみましょう。
 
人間の知識の変化

(1) 知識の進化：小学校の国語や算数の授業でも同じですが、まずは、平仮名や片仮名を覚えたら、簡単な漢字を学習し、徐々に難しい漢字や、四字熟語や、文法を学習して国語能力を高めていきます。算数であれば、四則演算、分数、小数点、倍数・約数あたりを覚えて、中学の数学になると、方程式、関数、因数分解と少しずつ知識が進化しています。
　学者や科学者たちは、前人の研究や知識を基に新たな研究を行い、新しい知識や理論を発展させて、新しい科学的発見や技術進歩を促進しています。松尾君がどうかは、知らんけど。

(2) 情報の偏り:人々が学習する情報が偏っていたり、特定の視点やバイアスが含まれている場合、それは自身の理解や意見形成に影響を与えます。たとえば、特定の視点からしか歴史を学ばないと、その視点のバイアスが自分の理解に影響を及ぼします。バイアス問題の解決策に関しては、以下の記事が理解し易いと思います。

(3) 過学習：人間も特定のパターンや状況に過度に適応することで、新しい状況に対応する柔軟性を失う可能性があります。例えば、特定の問題を解決するための特定の方法しか学ばないと、その方法が適用できない新しい問題に対応できなくなることがあります。日本のAIの第一人者と勘違いしている松尾豊教授のような『井の中の蛙大海を知らず』が陥り易い現象です。

(4) 知識の伝搬エラー：人間のコミュニケーションでも、情報が人から人へと伝えられる過程で、誤解や歪みが生じることがあります。これは、口コミの情報が最初の情報源から大きく変わってしまう『伝言ゲーム』と同様の現象です。

　以上の人間の知識の変化は、AIでも同様に発生しますが、そのメカニズムが異なっています。

AIの知識の変化

(1) 知識の進化：初期のAIが学習した情報が次のAIに引き継がれ、その情報がさらに改良され、進化する可能性があります。これはAIがより精度の高い予測を行ったり、より複雑な問題を解決できるようになる可能性を示しています。但し、『AI無知』な専門家が学習の方向性を決めると、逆に退化してしまい、読者様からの質問にあった通り『AIが学習したデータで学習を繰り返すとAIがバカになる』ことがあります。

(2) 情報の偏り：初期のAIの学習データに偏りがあると、それが次のAIにも影響を与えます。これは特に、AIが特定の視点やバイアスを持った情報を学習するときに問題となる可能性があります。これは学習の過程でバイアスが増幅され、最終的な出力も偏ったものになる可能性があります。

(3) 過学習：AIが他のAIから学習を繰り返す場合、過学習（over-fitting）という現象が生じる可能性があります。過学習は、AIが学習データに対して過度に適合し、新しい未知のデータに対する性能が低下する状態を指します。これはAIが具体的な例に過度に依存し、一般化する能力を失う可能性があることを示しています。

(4) 知識の伝搬エラー：AIからAIへの知識伝達過程でエラーや歪みが生じる可能性があります。これは人間の『伝言』のような状況を生む可能性があり、情報が正確に伝わらない結果をもたらすことがあります。
 
人間とAIの学習の相違点
 
　人間は批判的思考や自己反省の能力を持つため、情報の信頼性を確認したり、自身の理解や信念に挑戦する新しい視点を探したり、自身の知識や理解が間違っている可能性を認識したりすることができます。このような能力により、人間は自己の学習過程を修正し、新しい知識を取り入れ、自己の視野を広げることが可能となります。松尾君が成長できるかどうかは、知らんけど。

　一方、AIの場合、これらの問題に対処するためには適切な設計やプログラミングが必要です。例えば、情報の偏りを防ぐためには、学習データの選択が重要であり、そのデータが多様な視点を反映するようにすることが求められます。また、過学習を防ぐためには、学習データだけでなく、未知のデータに対するパフォーマンスを評価するバリデーションデータを用意することが重要です。知識の伝達エラーを防ぐためには、AI間での情報伝達の正確性を保証する仕組みが必要となります。

　つまり前述の例のように、人間とAIの学習には共通の問題点が存在しますが、それぞれがこれらの問題に対処する方法は異なります。人間の批判的思考や自己反省の能力、AIの適切な設計やプログラミングといった特性を理解し、それぞれの強みを活かすことで、人間とAIの学習はより効果的かつ効率的になります。