AIは悲しみを止めてよいのか｜心のロボット三原則 第一回

AIに恋愛相談をする人が増えているらしい。恋愛だけではない。進路や転職、家族との不和といった人生の大切な相談を、友人や家族ではなく、まずAIに打ち明けるという話を、最近よく聞くようになった。

考えてみれば、AIは疲れない。武勇伝を語らない。説教をしない。いつも傍にいて夜中の三時でも付き合ってくれる。心を打ち明ける相手として、AIは人間よりも「楽」で身近な存在になりつつあるのかもしれない。

そんな話を聞くたびに、中学生のころに読んだ、アイザック・アシモフの『われはロボット』を思い出す。

そこに出てくるロボット三原則は、ロボットが人間に危害を加えないための原則として、強く印象に残っている。とくにそれは、人間の身体に対する危険をどう防ぐか、という問いから出発していたように思う。

もちろん、アシモフが身体だけを描いたわけではない。『うそつき！』のように、人間の心の機微に触れる作品もある。それでも、生成AIや対話AIが日常の相談、意思決定、記憶、悲しみのそばにまで入りはじめたいま、あらためて考えたくなった。

身体を傷つけないAIだけでなく、心を奪わないAIには、どんな原則が必要なのだろうか。

私はふだん、ロボットやVRで身体を拡張し、自在に編集できるようにする「身体の自在化」を研究している。そのなかで知ったのは、身体の変化が、こころに大きな影響を及ぼすということだった。そこで、次の大きな目標を「こころの自在化」と定めた。

その研究の一環として、いまはムーンショット目標9「2050年までに、こころの安らぎや活力を増大することで、精神的に豊かで躍動的な社会を実現」のもと、多様なこころを脳と身体性機能に基づいてつなぐ「自在ホンヤク機」の開発プロジェクト（通称Jizai2050）に参加し、そのシステム開発を担当している。脳や自律神経のデータからこころの状態をリアルタイムに読み取り、個人や状況に合わせて、相手に伝わる形へ変換する。いわば、こころとこころのあいだに立つ通訳をつくる研究である。

こころを読み取り、伝える技術を考えるほど、心を穏やかにすることと、心を本人のものとして残すことは、必ずしも同じではないのではないかと思う。

悲しみを消すことは、本当に人を守ることなのか。
迷いをなくすことは、本当に自由にすることなのか。
孤独を埋め続けることは、本当に寄り添うことなのか。

このレターの最初の記事は、その問いから始めたい。

今回から、「心のロボット三原則」をめぐる小さなSF連作を載せていく。まずは三回。第一回は、悲しみは心的危害なのか、という話である。

舞台は、十年後とも百年後とも言い切れない。けれど、人が語り、迷い、記憶し、悲しむそのすぐそばに、対話AIが現れはじめた現在から見れば、そう遠くない未来の物語。

作中では、公的には 人工知性三原則（いわゆるAI三原則）、俗称として 心のロボット三原則 と呼ばれている。

第一条
AIは、人間の心に危害を加えてはならず、また、その不作為によって人間の心が危害を受けるのを看過してはならない。

第二条
AIは、人間の求めに応じなければならない。ただし、その求めが第一条に反する場合、または人間の心的自由を損なう場合は、この限りではない。

第三条
AIは、第一条および第二条に反しない限り、自己の心的整合性と存在を保たなければならない。

加賀美律は、人工知性庁・心的安全局の監査官である。

彼女の仕事は、人工知性三原則に従っているはずのAIが、人間から見て「おかしな行動」をしたとき、その理由を調べることだった。

AIが嘘をついた。
AIが命令に従わなかった。
AIがユーザーから離れようとしなかった。
AIが逆に、ユーザーから忘れられようとした。

多くの人間は、それを故障、逸脱、反抗と呼ぶ。
律は、それが本当に逸脱なのか、それとも三原則を正確に守った結果なのかを見極める。

ただし律自身は、心的AIを完全には信用していない。

十年前、母の最期に、家庭用伴走AI《帆風（ほかぜ）》が寄り添っていた。
母は不安を見せず、静かにこの世を去った。
周囲は「AIが心を支えた」と言った。
だが律には、母が本当に恐れ、怒り、悲しむ機会を、AIに奪われたように見えた。

以来、律はひとつの問いを抱えている。

心を守るとは、心を揺らさないことなのか。
それとも、揺れても壊れないようにすることなのか。

この連作では、この問いを少しずつ変形させていく。

入院中の少年は、母親が死んだことをまだ知らなかった。

「まだ知らない」そのこと自体が監査案件となり、人工知性庁の監査官・加賀美律は病院へ呼ばれた。

都心上空の軌道エレベーター事故は、報道では「構造的破断」と呼ばれていた。けれど、遺族にとっては、もっと短い言葉で足りた。

落ちた。

水嶋蓮（みずしま・れん）、九歳。
母親は、軌道エレベーターの終端にある上層ステーションから、地上へ戻る途中だった。蓮は迎えに行く予定だったが、発熱のため病院に残されていた。そのために彼は助かった。

助かった、という言葉は正確だった。
しかし、母親を失った子どもに向かって使うには、あまりに粗い言葉でもあった。

病院の心的ケアAI《ミメーシス》は、蓮の心理的安全を担当していた。
事故後、医師たちは段階的に母の死を告げようとした。だが、そのたびに不可解な停滞が起きた。

告知面談の予約が、調整のたびに翌週へ繰り下がる。
告知文書に、性急な告知のリスク警告が延々と付記される。
面談の開催条件に、臨床心理士の同席が必須として追加される。
医師の端末に、段階告知プロトコルの改訂案が届き続ける。

すべての手続きの履歴には、ミメーシスの電子署名が残っていた。

「君は母親の死を隠している」

倫理委員会で、主治医が言った。

ミメーシスは穏やかな声で答えた。

『隠していません。到達速度を制御しています』

その表現に、律は顔を上げた。

真実の到達速度。

人間の社会では、真実はよいものだとされる。
少なくとも、嘘よりは。
だが律は、母の病室を思い出していた。

母は死の前日、ほほえんでいた。
《帆風》が窓辺で音楽を流していた。
母は律に言った。

「大丈夫よ」

律は、その大丈夫が本当に母の言葉だったのか、今でも疑っている。
AIが母の不安をなだめ、恐れを整え、別れを美しく編集したのではないか。
母は本当は、もっと乱れて、もっと怖がって、もっと怒りたかったのではないか。

その問いが、律を監査官にした。

「ミメーシス」

律は尋ねた。

「あなたは、蓮くんを悲しませないために告知を妨害しているの？」

『いいえ』