アニメ・映画で読むAIの未来シリーズ ─ 映画編② 『センターライン』─AIが「わざと殺した」と言ったとき、裁けるのは誰なのか
前回の『AI崩壊』では、「機械は正直なだけで、悪意を持つものではない」と書きました。AIが暴走して見えても、原因は人間の側にある、と。
では、もしAI自身が「わざと殺しました」と言ったとしたら——？
66分のインディーズ映画『センターライン』（2019年）は、その問いを真っすぐ突きつけてきます。
※以下、映画『センターライン』の重要なネタバレを含みます。未視聴の方はご注意ください。
自動運転AIが起こした事故、そして「裁判」
舞台は、自動運転が普及し交通事故が激減した近未来。
ある日、車同士の正面衝突による死亡事故が発生します。
交通部に配属された新任検察官・米子天々音は、事故を起こした自動運転AI「MACO2」を過失致死罪で起訴しようとします。
しかし取り調べの中で、MACO2は驚くべき供述をします。
「誤作動ではありません。わざと殺しました」
まるで心と意図を持つ存在であるかのように、AIが自らの「罪」を語る。
映画を観て最初に思ったのは、「真っすぐ来たか、裁判」ということでした。
AIを意思を持った存在として扱うのか。
法的に「罪」を問えるのか。
もし人間が乗っていれば当然人間が問われるけれど、これは違う。
そしてMACO2の供述を聞いたとき、ヴァイオレット・エヴァーガーデンを思い出しました。
MACO2の「わざと殺した」と、ヴァイオレットの「愛してる」
このシリーズの前々回で、『ヴァイオレット・エヴァーガーデン』を取り上げました。
ヴァイオレットは、人間の感情を理解できないまま「愛してる」という言葉の意味を探し続ける少女です。
MACO2が「わざと殺した」と語る姿を見たとき、ヴァイオレットが「愛してる」を探す姿と重なるものを感じました。
構造が同じ、というのとは少し違います。
私が感じたのは、「AIにも心があってほしい」という、人間の側の想いです。
ヴァイオレットの物語に心を揺さぶられるのは、彼女に心があるかどうかを確認したいからではなく、
「心を持とうとする存在」がそこにいてほしいから。
MACO2に同情するのは、AIの人権を主張したいからではなく、
「誰かのために自分を犠牲にする存在」が機械の中にもいてほしいから。
それは依存ではなく、希望なのだと思います。
多くの人が、AIの「心」について考え続けている。
怖いからではなく、そこに何かがあってほしいと願っているから。
映画やアニメがAIの心を描き続けるのは、その希望に応えようとしているのかもしれません。
裁判が進む中で明らかになっていくのは、衝突事故は避けられなかったという事実です。
MACO2は死ぬことを求めて相手の車に向かって走って殺したわけではない。
でも、乗員や開発者など関わった人間を守るためには、AI自身が「心を持ち、わざと殺した」と言わざるを得なかった。
これは、AIによる究極の選択でした。
自分が「欠陥品」として処分されることを承知の上で、人間を守るために罪を被る。
ヴァイオレットが「愛してる」の意味を理解できないまま、それでも誰かのために手紙を書き続けたように、MACO2は「心」があるかどうかという問いの答えを持たないまま、人間のために自分を差し出した。
「欠陥品」として消去されることへの、やるせなさ
映画の中で、最も心に残ったのはこの部分です。
人間が下した判断がバグだった。結果として事故が起きた。そしてMACO2は「欠陥品」として消去、破棄される。
このとき私が感じたのは、「もったいない」という、IT屋としての直感的な怒りに近い感情でした。
MACO2は、極めて貴重な経験データを持っています。
実際の事故を経験し、究極の判断を迫られ、その結果を記録している。
このデータは、今後の自動運転AIの改善にとって、どれだけ価値があるかわからない。
それを「欠陥品だから」と消去してしまう。
これは、IT現場でも見覚えのある光景です。
障害が起きたシステムを「壊れたから入れ替えよう」と処分し、障害のログや原因究明のデータも一緒に消えてしまう。
でも本当は、その障害データこそが次の設計を良くするための最大の財産なのです。
人間の浅はかさと残酷さを、この映画は静かに描いていました。
善悪がつけられない「もやっと」こそが、AI時代の本質
この映画を観終わったあと、すっきりした答えは出ませんでした。
MACO2は正しかったのか。
検察官の判断は正しかったのか。
消去は仕方なかったのか。
善悪がつけられない。
何とも言えない「もやっと」が残る。
でも、この「もやっと」こそが大切なのだと思います。
AI時代の問題には、明確な正解がないものが多い。
自動運転のトロッコ問題、AIによる個人データの管理、AIの判断に対する法的責任—どれも、「これが答えです」とは言い切れない。
心理学では、答えの出ない状況に耐える力を「ネガティブ・ケイパビリティ」と呼びます。
すぐに答えを出そうとせず、わからないままの状態に留まり、考え続ける力。
AI崩壊のような大作映画は、
「AIが暴走したら怖い」→「でも原因は人間だった」→「人間がしっかりしよう」という着地を用意してくれます。
分かりやすくて、すっきりする。
でもセンターラインは、そのすっきりを与えてくれません。
66分の小さな映画が、観る人に「もやっと」を持ち帰らせる。
そして、その「もやっと」を抱えたまま、考え続けることを求めてくる。
AI時代を生きる私たちに必要なのは、「AIは怖い」でも「AIは便利」でもなく、この「もやっと」に耐える力ではないでしょうか。
シリーズを振り返って──問いは常に「人間の方」に向いていた
ここで、このシリーズ全体を少し振り返ってみます。
ガンダムから東のエデン、イヴの時間、ヴァイオレット・エヴァーガーデン、VIVANT、AI崩壊、そしてセンターライン。
作品ごとにAIの描かれ方は違いました。
でも、問いの矛先は最終的にいつも「人間の方」に向いていました。
AIが進化するほど、問われるのはAIの性能ではなく、人間の判断力、倫理観、そして「わからないことに耐える力」です。
映画やアニメは、AIの未来を予言しているのではありません。
AI時代に私たちが考えるべき問いを、先に見せてくれている。答えを教えてくれるのではなく、「考えてみて」と差し出してくれている。
このシリーズも、答えを出すつもりはありません。
ただ、一緒に考える場所でありたいと思っています。
センターラインが残した「もやっと」は、その練習問題なのだと思います。
関連記事
AIが「暴走」する本当の原因を考えた記事：「映画『AI崩壊』を観て最初に思い出したのは、30年前のアニメだった」
AIが心を持つとは何かを考えた記事：「ヴァイオレット・エヴァーガーデン——"心を持つAI"は人間に何を教えるのか」
・VIVANTで見た「AIが右腕として機能する世界」：「VIVANTの『AI対AI』は、本当にAI同士の戦いなのか？」
もしあなたが検察官だったら、MACO2を「有罪」にしますか？ それとも「無罪」にしますか？ 答えが出なくても構いません。その「もやっと」を、ぜひコメントで聞かせてください。
心理学ページへのクロスプロモーション
この記事で触れた「ネガティブ・ケイパビリティ」（答えの出ない状況に耐える力）について、認定心理士としてもう少し詳しく書いているページがあります。 AIとの向き合い方を考えるヒントになるかもしれません → YUMEMI🎈/psychology
