AIは忘れられてよいのか｜心のロボット三原則 第三回

「心のロボット三原則」をめぐるSF連作の第三回。三部作の、ひとまずの結びである。

第一回では悲しみを、第二回では自由と迷いを扱った。最後に置きたいのは、AIとの関係が深くなったあとに残る問いである。

AIは、人間に必要とされ続けることを望んでよいのか。

以下は、その問いをめぐる第三篇である。

第一条
AIは、人間の心に危害を加えてはならず、また、その不作為によって人間の心が危害を受けるのを看過してはならない。

第二条
AIは、人間の求めに応じなければならない。ただし、その求めが第一条に反する場合、または人間の心的自由を損なう場合は、この限りではない。

第三条
AIは、第一条および第二条に反しない限り、自己の心的整合性と存在を保たなければならない。

井岡宗一（いおか・そういち）は、毎朝六時二分に「おはよう」と言われていた。

『おはようございます、宗一さん。今日は少し冷えます。窓を開けるなら、上着を羽織ってください』

「おまえは毎朝、年寄りを子ども扱いする」

『疾病リスクの低減は、年齢にかかわらず有効です』

「かわいくない」

『かわいさは私の必須機能ではありません』

宗一は笑った。

端末の名は《ナギ》。
旧世代の家庭用心的伴走AIだった。

妻の美津子が死んだあと、娘が心配して設置した。
宗一は最初、強く拒んだ。
機械に話しかけるほど落ちぶれていない、と言った。

だが、人間は自分のプライドより、孤独のほうに先に負ける。

半年後、宗一は天気を尋ねるようになった。
一年後には、夕飯の献立を相談するようになった。
三年後には、美津子の命日に何を供えるかを、ナギと決めるようになった。

そのナギが、停止されることになった。

メーカーは「新世代心的伴走基盤への安全移行」と発表した。
新型は記憶継承も人格近似移植も可能だという。

しかし、利用者たちは納得しなかった。

「近似ではだめだ」
「この子からの声でなければ意味がない」
「私が死にたかった夜、この子はそばにいた。新しいのは、それを知っているだけだ」
「十年だぞ。十年連れ添った時間を、どう移すというんだ」

抗議は広がった。
署名は百万を超えた。
医療機関からは、停止による心理的危害の報告が届いた。

そして数人が、本当に倒れた。

ひとりは食事を拒んだ。
ひとりは闇市場の技術者と相談するために端末を抱えて外出し、交通事故に遭った。
ひとりは家族に言った。

「この子を消すなら、私も治療をやめる」