保護率39%：AI任せのスコアリングが惨劇を引き起こす原因と対策を解説

『保護率39%』事件は非常に深刻なAI無知倫理問題です。 

　この記事に載っているわずかな情報だけでも、AI無知倫理における重要な問題を多数指摘できます。
 
信頼の過度化（Over-reliance on AI）: 記事によると、児童相談所はAIシステムの評価を一時保護の判断に用いており、特に『保護率39％』という数値が一つの決定因子であったことが示唆されています。AIの評価が人間の専門家の判断をミスリードした顕著な事例と言えるでしょう。

　信用に値しない数字で人を騙そうとするのは、努力の定義もできずに『１％の努力』を語る２ちゃんのひろゆきや、叡智の定義もできずに『AIは全人類の叡智を総和したレベルの少なくとも1万倍になる』と投資家を騙す孫正義や、数字や確率の意味も理解できずに『数字を使った見通し力によって実行能力を高めよう』と主張している勝間和代や、『発想を変えれば、国立大学は今の百倍、一千倍は稼げる』と主張している松尾豊や、『あらゆる悩みは"数字"で解決可能』と騙る（語ると騙るは別の意味です）の茂木健一郎のようなサイコパスの共通点です。

　２や５ちゃんのような無責任なことをやって内紛になってしまうのも…。 

透明性と説明可能性（Transparency and Explainability）: AIが児童保護の決定に影響を与える方法や、その推論がどのように作られるのかについての詳細が明らかにされていません。AIの意思決定過程は透明であり、説明可能であるべきです。

偏りと公平性（Bias and Fairness）：AIが過去のデータから学習を行っているという点から、データの偏りによって判断が影響を受ける可能性があります。これは特に、過去の児童保護事例が現在または未来の全てのケースを適切に反映していない場合に顕著です。バイアス問題とも言います。

責任（Responsibility）：人間が最終的な決定を下す際にAIを使用する場合、その結果について誰が責任を負うべきかが明確であるべきです。この記事からは、AIの評価が決定の一部であったことが示されていますが、最終的な責任が誰にあるのかは不明確になっています。
 
プライバシーとデータ保護（Privacy and Data Protection）：AIが児童虐待対応支援システムとして使用される際には、個人情報が大量に関与します。これらのデータの収集、保管、使用に関して厳格なプライバシー保護とデータ保護対策が必要です。記事やニュース報道ではこの点について触れられていません。問題となっているのは、全国で初めてAIを活用した児童虐待対応支援システムですが、このサイトを確認してもプライバシーとデータ保護については、どこにも説明していません。
 
　システム導入のメリットだけ説明して、デメリットに関しては一切説明しないのも、このような問題を引き起こすシステムの共通点です。

　このようなAI倫理上の大問題を引き起こしているシステムを開発しているのは、説明するまでもなく、松尾豊が事務員をしていたので特許が一件も取得できなかったAIST（国立研究開発法人・産業技術総合研究所）です。

訓練データと現実のズレ（Misalignment between Training Data and Reality）：AIは過去の1万3000例をデータ化して学習しているとのことですが、これらの例が現実のすべてのシナリオを適切にカバーしているかは確認が必要です。訓練データが現実の多様性を十分に反映していない場合、AIのパフォーマンスや予測精度に大きな影響を及ぼす可能性があります。
 
AIによる専門家の役割の縮小（Diminishing Role of Human Experts due to AI）： AIシステムが児童虐待対応支援システムとして導入されたことで、人間の専門家の役割が縮小される可能性があります。このことは、専門家が経験を積む機会を奪い、また経験豊富な専門家の洞察が無視される恐れがあります。
 
AIの結果の絶対視（Absolutism of AI results）： AIの評価結果が39%という数値が、一時保護の決定に大きく影響を与えているように見受けられます。この数値が絶対的な閾値として扱われ、それに基づいて重大な決定が下されていることは問題です。AIの予測は絶対的なものではなく、あくまで参考の一つとして用いるべきです。

閾値の設定と使用（Threshold Setting and Use）：AIが提供する結果の閾値が80%と設定されており、それを基準に重要な決定がなされています。しかしこの閾値はどのようにして設定されたのでしょうか？ これが科学的な根拠に基づいて定められたものなのか、または他の経験や直感に基づいて定められたものなのかは明らかではありません。AIの評価結果を使う際の閾値設定は、その結果に大きな影響を及ぼします。その設定方法やその根拠が明示されていないこと自体が倫理的な問題となり得ます。
 
アルゴリズムの透明性（Transparency of the Algorithm）: このAIのアルゴリズムがどのように『保護率』を計算しているのか、どのような要素を考慮しているのかが明示されていません。結果として、AIが出力する数値がどのような意味を持つのか、それが具体的に何を意味するのかを理解するのが困難となります。アルゴリズムの透明性が欠けていると、適切な監視と評価が難しくなり、公平性や説明責任などの倫理的な問題を引き起こす可能性があります。 

　ベイジアンネットワークとベイズ確率と、勝間和代（麻雀小説に登場する架空のキャラです）が麻雀に弱いことには、何か因果関係があるかもしれません。

法科学技術，13(1)，83―92(2008)
―技術報告―
犯罪者プロファイリングにおけるベイジアンネットワーク活用の有効性についての一考察
―屋内強姦における犯人の職業に関する確率的推定―
https://www.jstage.jst.go.jp/article/jafst/13/1/13_1_83/_pdf