AIによる法律解説はなぜ誤りが多いのか？弁護士の目線で語る
noteやブログ、SNSで、AIを使って文章を作り、発信することが身近になりました。法律についても、質問を入力すれば、見出し付きの整った解説がすぐに出てきます。
その文章を読み、「よくわかった」「これなら自分でも判断できる」と感じることもあるでしょう。
私は弁護士として、ここに大きな危険があると考えています。法律の説明を信じて動いた結果、請求できる権利を手放したり、会社として誤った対応を取ったりすることがあるからです。
文章として読みやすいことと、法律的に正しいことは、別々に確かめなければなりません。
AIの精度は、使うシステムや資料、質問の内容によって異なります。この記事では一律の誤答率を論じるのではなく、法律解説で見落とすと危険な弱点と、それを確かめるために必要な実務の視点をお伝えします。
１ AIは根拠を確かめたように話せてしまう
文章生成AIは、大量の文章から学んだパターンや、与えられた情報をもとに回答を組み立てます。もっともらしい文章を作れる一方で、内容の正しさが常に保証される仕組みではありません。
存在しない判例を挙げたり、実在する条文の内容を取り違えたりすることがあります。こうした誤情報の生成は「ハルシネーション」と呼ばれます。東京弁護士会の会誌でも、架空の判例や誤った引用への注意が示されています。
厄介なのは、誤りがいかにも専門的な形で出てくることです。裁判所名や判決日、条文番号まで書かれていると、読者は「きちんと調べた説明だ」と受け取りやすくなります。
検索機能や法律データベースを組み合わせれば、検証の助けになります。それでも、示された資料が実在するか、その資料が本当にその結論を支えるかは、別に確認する必要があります。
出典が付いていることは、出典の確認が済んでいることを意味しません。
２ 正しい条文から間違った結論を出す危険
架空の判例よりも、一般の方が気づきにくい誤りがあります。引用した法律は正しいのに、そこから導く結論が間違っている場合です。
ここで、誤りの構造を示す仮の説明を考えてみます。
「従業員には30日前に解雇を予告すればよい。したがって、30日前に伝えれば解雇に問題はない」
解雇予告については、労働基準法20条に、原則として30日前の予告などを求める規定があります。しかし、労働契約法16条では、合理的な理由を欠き、社会通念上相当と認められない解雇は無効とされています。予告の手続を守っただけで、解雇自体が有効になるわけではありません。
この例は、特定のAIが実際に回答した内容の引用ではありません。法律解説で起こり得る、判断の飛躍を示したものです。
法律では、一つの条文を知るだけでは足りません。他の規定との関係、例外、裁判例の考え方まで確認し、具体的な事情に当てはめる必要があります。
法改正があれば、改正前後のどちらが適用されるのかも問題になります。最新の法律を示せば十分とは限らず、契約や出来事の時期、経過措置の確認が必要になる場面もあります。
３ 質問に書かれていない事実が結論を変える
法律相談では、相談者自身が「何が重要な事実なのか」をまだ知らないことがあります。
例えば、「相手にお金を振り込んだのに返してくれない」という話でも、それが貸付けだったのか、贈与だったのか、別の支払いだったのかで、検討すべき問題は変わります。
返してもらう約束はあったのか。その約束を示すメッセージは残っているのか。いつ返すことになっていたのか。相手は何と説明しているのか。
AIも追加の質問をすることはあります。しかし、重要な事実が不足していることを、毎回確実に見抜けるとは限りません。情報が足りないまま、一定の前提を置いて回答が進んでしまうことがあります。
すると、説明そのものは筋が通っていても、自分の事件には当てはまらない、という事態が起こります。
私は、法律の判断では、結論を急ぐ前に、何を確認すれば結論が変わるのかを考えることが大切だと思っています。ここに、実務経験が関わってきます。
４ 弁護士は文献のどこを読んでいるのか
私たち弁護士の仕事は、法令に加え、判例集、専門書、論文、実務書など、膨大な法律文献の蓄積に支えられています。
ただし、文献をたくさん持っていること自体が、判断の正しさを保証するわけではありません。重要なのは、必要な文献を選び、その記述がどこまで使えるのかを読み取ることです。
裁判例であれば、結論だけを拾うことはできません。どのような事実を前提に、何が争われ、どの証拠が評価され、その判断に至ったのかを読みます。
似た事件でも、結論を左右した事実が違えば、同じ判断をそのまま持ち込めないことがあります。最高裁の判断なのか、一つの下級審の事例判断なのかによっても、位置づけを考える必要があります。
専門書についても、著者の見解なのか、裁判実務で広く採られている考え方なのか、見解が分かれている論点なのかを区別します。引用した一文の前後に、大切な条件が書かれていることもあります。
法律文献を使うというのは、自分の結論に合う文章を集める作業ではありません。自分の結論が成り立つ範囲と、その限界を確かめる作業です。
AIが文献を要約できても、その要約で条件や留保が落ちていないか、目の前の問題に使えるかを判断する仕事は残ります。
５ 実務経験は反論を受けたときに意味を持つ
実務経験の価値を、私は「何となくわかる」という勘だけで説明したくありません。どの事実を確認し、どの証拠を確保し、相手方のどの反論に備えるべきかを、具体的に考える力に意味があります。
先ほどのお金の例でも、振込記録があれば、送金の事実を示す資料になります。しかし、それだけで、返還する約束まで十分に裏づけられるとは限りません。相手が「贈与だった」と争うなら、振込みの前後のやり取りや、その後の返済状況なども検討します。
自分に都合のよいメッセージが一通見つかっても、それで確認を終えてはいけません。前後の会話、相手の説明、他の資料との整合性によって、意味が変わる可能性があります。
さらに、請求が認められる見通しと、実際にお金を回収できる見通しも、分けて考える必要があります。相手の資産状況、解決までの時間や費用によって、取るべき方針は変わります。
こうした検討を積み重ねて初めて、「この主張をする」「この証拠を先に確保する」「この段階では断定しない」という判断ができます。
実務経験によって深まるのは、強く言い切る力だけではありません。どこで判断を留保すべきかを見極める力でもあるのです。
もちろん、経験がある弁護士でも誤ることはあります。だからこそ、経験に頼り切らず、文献と記録に戻って検証する必要があります。
６ 確認できないまま解説を量産する怖さ
実務を知らず、出典も確かめないまま、AIの回答を法律解説として次々に公開する。この発信の仕方に、私は強い危機感を持っています。
AIを使えば、説明の形を整えることは容易になります。しかし、書き手が重要な誤りや不足に気づけなければ、文章が整うほど、誤った内容も読者に信頼されやすくなります。
しかも、読者がその説明を頼りに、解雇を決めたり、示談に応じたり、請求を諦めたりする可能性があります。投稿を後から修正しても、読者が取った行動まで元に戻せるとは限りません。
「AIがそう回答した」という説明で、その問題が解消することはありません。
弁護士の肩書があっても、確認を省いてよい理由にはなりません。東京弁護士会の会誌でも、一次資料による検証と、出力を使う弁護士の責任が指摘されています。
文章の整理や下書きにAIを活用する余地はあります。その際には、人が根拠を確かめ、内容を理解し、発信する判断に責任を持つ必要があります。デジタル庁も、生成された内容を人が確認したうえで利用する重要性を説明しています。
７ 法律解説を読むときに確かめたいこと
読者の方には、文章が上手かどうかに加えて、次の点を見ていただきたいと思います。
根拠の法令や判決、文献を、実際にたどれるか。
どのような事情を前提とした説明なのかが書かれているか。
例外や、結論が変わる条件にも触れているか。
断定できることと、追加の確認が必要なことを区別しているか。
複数の記事に同じことが書かれていても、それだけで正しいとは限りません。同じ誤情報や資料をもとにしている可能性があるためです。また、文章の雰囲気だけで、AIが書いたものかどうかを決めつけることもできません。
自分の問題に使うときは、記事の結論をそのまま当てはめる前に、出来事の日付、契約書、メールなどを整理してください。相談する際には、読んだ記事やAIの回答も一緒に示すと、どの前提や理解を確かめるべきかが伝わりやすくなります。
私が法律の発信で大切にしたいのは、読み手が自分で考えられるようになることです。安心できる結論や、怒りに合う結論であるほど、根拠を一度立ち止まって確かめてほしいと思います。
法律の説明を発信する側には、その先で読者が判断し、行動することへの責任があります。文献を読み、事実を確かめ、証拠に照らして考える。その手間を省いた法律解説を、私は信頼できる情報とは考えません。
