AIのハルシネーションというと、存在しない判例や条文を作ってしまうことがよく話題になります。もちろん、それは危険です。判例名や条文番号が出てきたら、実在するのか、内容が合っているのかを確認する必要があります。

ただ、法律相談で実際に怖いのは、それだけではありません。むしろ、一般論としては正しいことを言いながら、結論まで少し急いでしまう回答の方が見落とされやすいと思います。

正しい一般論から、早すぎる結論へ

たとえば、賃貸の原状回復で「通常損耗は借主負担ではありません」という一般論があります。これは実務上重要な考え方です。しかし、契約書、特約、写真、入居期間、請求明細を見ないまま「払わなくてよい」とは言えません。

契約解除でも同じです。相手方に債務不履行があれば解除が問題になります。ただし、催告が必要か、納期が本当に確定していたか、こちら側の対応に問題がないかを見なければ、解除通知を送ってよいとは言えません。

AIはこの「一般論から個別結論へ行く途中」を飛ばすことがあります。

相談者の希望に寄る回答

AIは、相談者が望んでいる方向を読み取って、その方向の答えを整えてくれることがあります。「払いたくない」「削除させたい」「契約を解除したい」といった気持ちを入力すると、その方向の一般論が厚く出てくることがあります。

それ自体が悪いわけではありません。相談者に有利な事情を整理することは必要です。ただ、法律相談では不利な事情も同じくらい重要です。相手方が何を言ってくるかを置かないと、実際の交渉で止まります。

AIの法律相談を見るときは、最初に前提事実が資料で確認できるかを見ます。契約書やメールとAIの要約がずれていないか。相手方の反論が抜けていないか。請求額や損害額を示す資料があるか。AIの結論ではなく、その結論へ至る途中をたどります。

そのうえで、提案された手続に費用と時間をかける意味があるか、通知や請求を送った後に何が起きるかを考えます。AIが挙げた手続が法律上あり得るとしても、その事件で選ぶべき手段とは限りません。

AIの回答が自然であればあるほど、この確認が必要です。

AIを使うときは、最初から断定を避ける指示を入れるとよいです。

結論を断定せず、確認が必要な点を先に挙げてください。私に有利な事情と不利な事情を分けてください。資料がないと判断できない部分は、推測せず「資料確認が必要」と書いてください。

この聞き方にすると、AIの回答は少し慎重になります。

AI法律相談の問題は、AIを使うか使わないかではありません。AIを入口として使い、その回答を資料と実務に戻せるかです。AI添削相談では、その戻し作業を行います。

原状回復費用についてのAI回答と契約解除についてのAI回答では、一般論から結論へ飛んだ回答を、具体的な相談例で添削しています。

晝間法律事務所所属 / 東京弁護士会