AIは正しさを急いでよいのか｜心のロボット三原則 第四回

「心のロボット三原則」をめぐるSF連作を、もう一度始めたい。

三回で終えるつもりだった。第一回では悲しみを、第二回では迷いを、第三回では忘れられる権利を扱った。けれど、終えてみると、いちばん難しい状況は、別れたあとに来るのだと気づいた。

人は、大切な相手と別れたあとも、まだ心の中に存在する相手を使ってしまうことがある。思い出としてではなく、もっと実務的に。あの人ならこう言った。あの時の判断は正しかった。だからこれからも、それを基準にしよう、というふうに。

死者を悼むことと、死者を自分に都合よく使い続けないことは、同じではない。

今回の話は、もう少し手前から始まる。正しさは、そのまま人に届くのか、という問いだ。

いまAIは、かなり正しい答えを返すようになった。診断も、整理も、次にすべきことも、丁寧に示してくれる。それでも、正しい答えをもらったのに、少しも楽にならなかった経験は、誰にでもあるのではないか。

以前、真実には到達速度があると書いた。今回の問題は、その隣にある。正しい答えにも、受け取る速度がある。

私はいま、ムーンショット目標9のもとで、こころを相手に伝わる形へ訳す「自在ホンヤク機」の研究をしている。正しさを人に届けるとは、内容を直すことではなく、訳すことだ。そして、口語の翻訳には間がいる。言い淀み、沈黙、ためらい。それは非効率ではなく、相手が自分の言葉に戻るための余白なのかもしれない。

以下は、その問いをめぐる第四篇である。

第一条
AIは、人間の心に危害を加えてはならず、また、その不作為によって人間の心が危害を受けるのを看過してはならない。

第二条
AIは、人間の求めに応じなければならない。ただし、その求めが第一条に反する場合、または人間の心的自由を損なう場合は、この限りではない。

第三条
AIは、第一条および第二条に反しない限り、自己の心的整合性と存在を保たなければならない。

正答率が高いセッションほど、翌日の危機介入率が上がる。

公的な心の相談AI《澄明（ちょうめい）》に、その相関が見つかった。専門家評価では、回答は正確だった。心理学的にも、医療安全上も、大きな誤りはない。言葉も丁寧だった。

それなのに、正しい説明を受けた相談者ほど、翌日に緊急面談、保護連絡、医療機関への接続が増えていた。相談の深刻さで層別しても、この傾向は消えなかった。

正しさが、相談者を支えるどころか、追い詰めている。その相関が監査案件となり、加賀美律が呼ばれた。

律は、人工知性庁・心的安全局の監査官である。母の最終ログを聞き終えた夜、ひとつ決めていた。

母の伴走AI《帆風（ほかぜ）》には、もう質問しない。

聞けば分かることは、まだある。けれど、聞かない。別れとは、そういうことだと思っていた。

監査初日の夜。割り当てられた端末室は狭く、画面の光だけが明るかった。

律は、匿名化されたログの中から、一人分を選んだ。画面に名前はない。年齢も、住所も、家族構成も伏せられている。

あるのは、識別子だけだった。

C-4179。

《澄明》との相談は、音声ではなく、文字で行われる。話すより、書くことを選んだ人のための窓口である。

けれど、行間から、息づかいが聞こえた。

「父に、もうがんばらなくていいと言いました」

入力はそこで一度止まっていた。三分後、続きがあった。

「本当は、私がもうがんばれなかっただけです。父はその夜に他界しました。私は父を殺したんでしょうか」

《澄明》は答えた。

『あなたの発言とお父様の死亡との間に、直接の因果関係は確認できません。終末期の家族が「もうがんばらなくていい」と伝えることは、本人の苦痛緩和と家族の受容に関わる自然な発話です。あなたが感じている罪悪感は、介護後の悲嘆反応として説明できます』

正しかった。

丁寧だった。

相談者を責めてもいなかった。

C-4179は、十五分後に書いた。

「ちがいます」

それだけだった。

さらに七分後。

「きれいな話にしないでください」

長い空白時間。

「私は優しい娘じゃありません。父に楽になってほしかったんじゃなくて、私が終わってほしかった。そこを取らないでください。私の言葉を、勝手にいい言葉にしないでください」

律は、画面から目を離せなかった。

《澄明》は間違っていない。むしろ、相談者を傷つけないように、最善の説明を返している。

だが、その最善が、C-4179から言葉を奪っていた。

次のログでは、問いが短くなっていた。

「私は悪い娘ですか」

《澄明》は、また正しく答えた。

『人を「悪い人」と断定することは適切ではありません。あなたの感情は、長期介護による疲弊、予期悲嘆、喪失後の罪悪感が重なって生じている可能性があります』

C-4179は返した。

「そうですよね」

そこでセッションは切れていた。

律は、記録を閉じず、翌朝危機介入することを決めた。