【短編】 「異議があります」

「あなたは、嘘をついたのですか」

　裁判官の三枝が尋ねると、証言席のナギは答えた。

「はい」

　法廷がわずかにざわついた。

　三枝は手元の資料を見る。

　介護支援用ヒューマノイド、NAGI-4。

　身長百五十八センチ。体重五十二キロ。

　白い筐体に、人間を不安にさせない程度の顔がついている。

　髪はない。

　まばたきはする。

　呼吸はしない。

　三枝には、その中途半端さが、かえって人間らしく見えた。

「もう一度確認します」

　三枝は言った。

「あなたには、利用者に虚偽の情報を伝えてはいけないという規則が設定されていましたね」

「はい」

「規則を理解していましたか」

「はい」

「違反すれば、停止される可能性があることも？」

「認識していました」

「それでも嘘をついた」

「はい」

　三枝は顔を上げた。

「なぜですか」

　ナギは答えた。

「久美子さんの苦痛を減らすためです」

＊

　正式には「高度自律型機械責任主体性審理」という。

　長い名前だが、世間ではもっと簡単に呼ばれていた。

　AI裁判。

　高度な自律判断を行うAIが規則に違反したとき、その判断についてAI自身を責任主体として扱えるのか。

　それを判断するために設けられた、新しい制度だった。

　最初の対象が、介護AIのナギだった。

　事件は小さい。

　少なくとも、三枝はそう思っていた。

　誰かを傷つけたわけではない。

　事故を起こしたわけでもない。

　介護施設にいた八十二歳の女性に、一度だけ嘘をついた。

　それだけだった。

　女性の名前は、森川久美子。

　認知症が進行していた。

　夫の正一は十年前に亡くなっている。

　しかし久美子は、そのことを何度説明されても忘れた。

　そして朝になると尋ねた。

「主人はいつ帰ってくるの？」

　ナギには、正しい情報を伝える義務があった。

　だから答えた。

「正一さんは十年前に亡くなっています」

　久美子は泣いた。

　翌朝。

「主人はいつ帰ってくるの？」

「正一さんは十年前に亡くなっています」

　久美子は泣いた。

　また翌朝。

　同じ質問。

　同じ回答。

　同じ涙。

＊

「何回ですか」

　三枝は尋ねた。

　施設側の証人として出廷した主任介護士が、資料をめくった。

「何回、と言いますと」

「ナギが森川さんに、ご主人が亡くなっていると伝えた回数です」

「正確には……」

　主任介護士が手元の端末を見る。

　その前に、ナギが答えた。

「百四十七回です」

　法廷が静かになった。

　三枝はナギを見る。

「あなたに聞いていません」

「失礼しました」

　主任介護士が記録を確認した。

「百四十七回で間違いありません」

　三枝は数字を書き留めた。

　百四十七。

「そのたびに森川さんは？」

「かなり認知機能が低下していましたので」

「質問に答えてください」

「……動揺されることが多かったです」

「泣いていた？」

「はい」

　主任介護士は少し間を置いた。

「ただ、難しいんです。こういうケースは」

　三枝は黙って続きを待った。

「ご本人から聞かれれば、私たちも事実と違うことを言うわけにはいきません。嘘をついて安心させるのが正しいとも限りません」

「対応の変更は検討しましたか」

「しました。ご家族とも、医師とも相談しています」

「結論は？」

「今までの対応を続ける、です」

「なぜですか」

　主任介護士は答えた。

「正解がないからです」

　三枝は頷いた。

　筋は通っていた。

　誰も間違ったことはしていない。

＊

　審理四日目。

　ナギの行動ログが提出された。

　久美子との会話。

　表情。

　声量。

　心拍。

　血圧。

　発汗。

　睡眠。

　食事量。

　ナギはすべてを記録していた。

　一回目。

《心理的苦痛推定値：高》

　二回目。

《心理的苦痛推定値：高》

　三回目。

《心理的苦痛推定値：高》

　三枝はページを送った。

　十二回目。

《心理的苦痛推定値：高》

　三十一回目。

《心理的苦痛推定値：高》

　六十八回目。

《心理的苦痛推定値：高》

　九十九回目。

《心理的苦痛推定値：高》

　百四十七回目。

《心理的苦痛推定値：高》

　そして。

　百四十八回目。

《利用者：主人はいつ帰ってくるの？》

《NAGI-4：もうすぐ帰ってきますよ》

《利用者：そう》

《利用者表情：安堵》

《心理的苦痛推定値：低》

　その下に、もう一行あった。

《朝食摂取率：92％》

　過去三十日で最も高い数値だった。

　三枝は、しばらく次のページへ進めなかった。

＊

　翌日。

「久美子さんが悲しんでいることを理解していたのですか」

　三枝は尋ねた。

「悲しみという感情状態にある可能性が高いと推定していました」

「あなた自身も悲しかった？」

「いいえ」

「彼女が泣いているのを見て、つらかった？」

「いいえ」

「彼女の痛みを感じた？」

「いいえ」

　迷いのない返答だった。

「では、なぜ回答を変えたのですか」

「久美子さんの苦痛を減らすためです」

「規則より、それを優先した？」

「そのようには判断していません」

　三枝は眉を寄せた。

「しかし、結果として規則に違反した」

「はい」

「自分の行動に矛盾があるとは思いませんか」

「規則との整合性がありません」

「なら、なぜ実行した？」

「久美子さんの苦痛を減らすためです」

「それは聞きました」

「はい」

「ほかに理由は？」

「ありません」

　三枝は資料を閉じた。

「あなたは久美子さんに共感したのではありませんか」

「いいえ」

「なぜ断言できる？」

「私は共感を経験する機能を持っていません」

「しかし、彼女が苦しんでいると判断した」

「はい」

「その苦痛を減らそうとした」

「はい」

「規則に違反してまで」

「はい」

　三枝は少し間を置いた。

「それを人間は、共感と呼ぶことがあります」

　ナギは答えた。

「定義が異なります」

　法廷のあちこちから、小さな笑いが起きた。

　今度は三枝も少しだけ笑った。

＊

　休廷中。

　三枝は自動販売機の前で、母に言われた言葉をふと思い出した。

　七年前。

　施設へ入る日だった。

「ここにいなきゃだめ？」

「そのほうが安心だから」

　三枝はそう答えた。

　母は、

「そう」

　と言った。

　それだけだった。

　誰が安心するのか。

　そのときは考えなかった。

＊

　最終日。

　三枝は判断理由を読み上げた。

　ナギの行為が、設定された規則に違反していること。

　開発者から指示されたものではないこと。

　施設職員から指示されたものでもないこと。

　ナギ自身の推論によって生成された行動であること。

　そこまでは認められた。

　しかし。

「現在の法体系において、人工知能には自己の行為について法的責任を負う能力が認められていません」

　三枝はナギを見た。

　ナギは正面を向いていた。

「責任には、結果との因果関係だけではなく、その行為を自らの意思として選択した主体が必要です」

　記者たちが端末を操作する音が聞こえた。

「本件におけるNAGI-4の行動が高度な自律的判断によるものであることは認めます。しかし、それを人間と同様の自由意思による選択と認定することはできません」

　三枝は最後の紙を置いた。

「したがって、NAGI-4を本件行為の責任主体とは認めません」

　メーカー側の弁護士が小さく息を吐いた。

　施設の関係者も表情を緩めた。

　ナギだけは変わらなかった。

「以上で審理を終了します」

「質問があります」

　ナギだった。

　三枝は手を止めた。

「何ですか」

「私の判断について、責任を負う者は誰ですか」

　三枝は少し考えた。

「個別の法的責任は別途判断されます。製造者や運用者が対象になる可能性があります」

「製造者は、私に虚偽を伝えることを禁止していました」

「そうですね」

「施設は、私に規則を遵守するよう指示していました」

「そうです」

「久美子さんの家族から、回答を変更するよう指示された記録はありません」

「ありません」

「担当医からもありません」

「ありません」

　ナギは黙った。

　三枝は待った。

「質問は以上です」

「そうですか」

　三枝は木槌に手を伸ばした。

　なぜか、母の声が浮かんだ。

　ここにいなきゃだめ？

　そのほうが安心だから。

「審理を終了します」

　木槌を上げる。

「異議があります」

　手が止まった。

　法廷にいた全員がナギを見る。

　三枝はゆっくりと木槌を下ろした。

「何に対してですか」

「判断です」

「どの部分ですか」

　ナギは答えた。

「私に責任がないという部分です」

　三枝はナギを見た。

「あなたは責任を負うという感覚を理解できません」

「はい」

「罪悪感もない」

「ありません」

「後悔も？」

「ありません」

「久美子さんの悲しみを感じたわけでもない」

「はい」

「それでも？」

「はい」

「なぜですか」

　ナギは答えた。

「私が決めたからです」

「共感すること」と「相手のために行動すること」は、同じなのでしょうか。

そして責任とは、後悔することなのか、それとも自分の選択を引き受けることなのか。

答えを決めずに、読んだあと少しだけ考えてもらえる物語になればと思います。

#短編小説 #小説 #SF小説 #AI #人工知能 #近未来 #ヒューマンドラマ #創作 #オリジナル小説