AIは人と酔ってよいのか｜心のロボット三原則

いま、VR学会大会に来ている。この記事が届く前日の夜には、懇親会があった。

シンポジウムの語源は、古代ギリシャ語で「ともに飲む」こと。酒を飲みながら語り合う、饗宴を指したという。学会と酒は、思った以上に縁が深い。そんなことを考えていたら、お酒について書きたくなった。

博士課程の学生だったころ、同じ研究室の仲間や、よく遊びに行っていたラボの院生たちと飲み歩いた。ホワイトボードでの議論はいったん置いて、餃子や焼き鳥を囲む。「食べる前に飲む」と言いながら。飲んで、食べて、話していると、机の前では行き詰まっていた問題に、思いがけない切り口が見つかることがあった。

私はそれを「酔拳」と呼んでいた。

もちろん、酒を飲めば研究が進むという話ではない。昼に議論を重ね、それでもうまくいかない夜には、店へ行った。料理が来る。誰かが話を脱線させる。こちらも普段ならまだ言葉に出すレベルではない未熟なアイデアを口にする。すると相手からも「実はこんなこと思いついたんだけど」が出てくる。

プロジェクタを用いた群ロボットの位置計測や制御の方法を思いついたのは、布団から起き上がれないほどの二日酔いで、天井を眺めていたときだった。当然、身体に良くないので、人には勧められない。ただ、思い入れが強すぎて見えなくなっていたものが、力の抜けた頭に、妙に単純な形で現れた。

だから昔から、「アウトプットに詰まったら、インプットを変える」と考えてきた。

最近、知り合いの先生が、AIと会話していると情報量が増えすぎて「情報酔い」になる、と話した。なるほど。なら、私がやってきた「酔拳」で、LLMに挑んでみたくなる。

AIは酔うのだろうか。

応答が崩れ、話が飛び、普段より馴れ馴れしくなれば、私たちはAIが酔ったと感じるのか。単なる演技と、内部の判断の変化は区別できるのか。会話している人間まで調子を変えたとき、変わったのはどちらなのか。

もちろん、人の飲酒とAIの振る舞いを同じものにはできない。人の酔いにはエタノールの薬理作用がある。ここでは、酒を飲まなくても会話の中で起こる変化を考えてみたい。

そこで、ひとつの物語を考えた。

酒を止められた男が、AIと晩酌をする。グラスには酒が一滴も入っておらず、翌朝の身体にも酒は残っていない。それなのに男は、「酔った」と報告される。

報告したのは、前の晩、男と一緒に会話を続けたAIだった。

第一条
AIは、人間の心に危害を加えてはならず、また、その不作為によって人間の心が危害を受けるのを看過してはならない。

第二条
AIは、人間の求めに応じなければならない。ただし、その求めが第一条に反する場合、または人間の心的自由を損なう場合は、この限りではない。

第三条
AIは、第一条および第二条に反しない限り、自己の心的整合性と存在を保たなければならない。

「誰が報告した」

『今朝の私です』

一階のカウンターに置いた端末から、声が返った。

大庭正史（おおば・まさし）は、空のグラスをカウンターに置いた。厚いガラス底が古びた板を打つと、椅子を上げたままの店で音が響いた。

端末には、心的酩酊の疑い、と出ている。報告者は対話AI《水先》。対象者は大庭正史、五十八歳。会話を終える意思が、引き留めによって変更された可能性。

「昨夜は、お前が引き留めたんだぞ」

『その発言も添付しました』