AIの謎【アニメ『Vivy -Fluorite Eye’s Song-』1話より】

f:id:nijigen_box:20211030213347j:plain

※辛口です

SFヒューマンドラマとして紹介される本作ですが、その始まりは見ていて疑問の残るものでした。そのことについて書いていきます。

第1話『My Code -歌でみんなを幸せにするために-』

史上初の自律人型AI・ヴィヴィが複合テーマパーク・ニーアランドで歌っていると、マツモトというAIにアクセスされます。

戸惑うヴィヴィに対し、マツモトは100年後に起こる人間とAIの戦争を止めるため、ヴィヴィに協力を求めました。

AIと心

ヴィヴィは『歌でみんなを幸せにすること』を使命していますが、AIであるヴィヴィは何を基準に歌を聞いた人間が幸せになったと認識するのか？

歌を聞いた客に対して満足度アンケートを取るのか？
客の顔を見て歌で幸せになったと判断するのか？

最初に引っ掛かったのはここでした。

他にもヴィヴィは製造時に心を込めて歌うよう言われ、ニーアランドの従業員の娘であるモモカからも同じようなアドバイスを受けますが、ニーアランドのナビゲーション・ナビには心を持つことについてバカにされます。

そんなヴィヴィですがマツモトの存在を迷惑がり、モモカがヴィヴィにプレゼントしたぬいぐるみに自身を移したときは捕まえようともしました。その他にもマツモトに心の概念を否定され、パソコン扱いされたときも声を荒げています。

これが心のないAIのプログラムに基づく行動なのでしょうか？

モモカを助けたのもナビによると規定プログラムであり、上記のような言動をとるヴィヴィやヴィヴィに対して辛辣なナビは、ナビの基準では心を持っていません。

それではヴィヴィのマツモトに対する反応は規定プログラムに準ずるものなのか？
それとも自律人型AIであるヴィヴィだからああいった反応をしたのか？
心を込めて歌うために人間の真似をしているのはヴィヴィ自身の判断か、使命によって仕組まれたことなのか？
ヴィヴィやナビの人間臭い言動がプログラムによるものだとしたら、それはどういう使命の元で設定されたものなのか？

その辺りの設定が曖昧なため、入り込めないまま話は進んでいきました。

マツモトの謎

ヴィヴィやナビ以上に謎なのはマツモトです。ナビにAIに心はないと言い切られたヴィヴィは、落ち込んでるかのような反応を見せます。

ヴィヴィがそういうAIであることを知ってか知らずか、マツモトはヴィヴィが協力することが決まり切ってるかのように、ヴィヴィを煽るような言動をとりながら協力を求めました。

マツモトにとってヴィヴィは代わりのいない協力者のはずで、ヴィヴィが嫌がろうとも協力してもらわなければならない相手です。そんな相手にどうやって信頼されるかといった言動は取らず、話す内容の大半はヴィヴィへの煽り。

AIが発展して人権が認められるようになると、人間を殺そうとする戦争が起きるのは何故か？
どうしてヴィヴィを協力者として選んだのか？

そういった肝心な部分はろくに触れません。

100年後の未来から来たマツモトにとってヴィヴィの時代のＡＩは解析できないものだらけで、100年後の未来でヴィヴィのＡＩを解析したからヴィヴィにだけは接触でき、それを理由に協力者として選んだ。
初の自立人型AIであるヴィヴィのプログラムは同時代のAIと違う特殊な構造なので、ヴィヴィに接触できても応用が利かず同時代の他のAIには何もできない。

どちらもただの妄想ですが、こういう設定ならヴィヴィにしか頼めないことも理解できます。

ですがマツモトは公式サイトで『世界中のAIのネットワークを管理する、AI集合データベース』と紹介されるアーカイブに接触し、バグとして処理されないように立ち回っていました。

つまりマツモトはヴィヴィ以外のＡＩも協力を求めることができる立場にあり、相川に直接危機を伝えることも可能な立場にいます。

自律人型AIでないと協力が得られず、人気のない歌姫であるヴィヴィだから接触できたという考え方もできますが。現時点では何ともいえません。

アーカイブに接触できるマツモトがヴィヴィに協力を求める必要があるのか？

この部分ははぐらかされて1話は終わります。

使命の定義

また使命の設定にも疑問があります。

「一体のＡＩにつき一つの使命のみを課す」ことになっていますが、ヴィヴィは爆発物から相川とそのボディガードを守る行動をとりました。1話の最後で自分の歌を聞くというモモカや相川の顔を浮かべ、マツモトへの協力を申し出ます。

ヴィヴィの使命は『歌でみんなを幸せにすること』であり、自分の歌を人に聞かせることではありません。マツモトに協力することも同じです。自律人型AIであるヴィヴィが使命を拡大解釈したと考えられますが、劇中にそのような描写はありません。

ヴィヴィ独自のものなのかそうでないのかを抜きにしても、世界初の自律人型AIであるヴィヴィは本来の使命にはない行動がとれます。

自律人型AIでなはないナビもモモカを軽くいなし、ヴィヴィに辛辣だったり夜に連絡が来たら面倒がっていました。