2020年8月11日火曜日

ネットスピーカーBに対してコレコレという指示をしろ、と、ネットスピーカーAに指示を出すとどうなるのか?(大丈夫か?)

 

2020年8月11日 火曜日/曇り。かなり蒸し暑い。最高気温予想32℃。


天気予報が脅してたほどには暑くならなかった。むしろ午前中は安眠できるほど涼しかった。



月曜の夜に録画した、NHKの特集ドラマ『JOKE 2022 パニック配信』を観た。ネットスピーカー(音声認識型家電制御装置)とネット配信をモチーフにした、宮藤官九郎脚本、生田斗真主演のドラマ。キモは、仕様の異なる二つのネットスピーカーを一人のユーザーが使った時に、ユーザー(主人公)とAのスピーカーのやりとりを、Bのスピーカーが自分への指示だと「勘違い」するトコロ。


ドラマでは、一つのスピーカー(ドラマでは「マイルス」と呼ばれる)は、アマゾンのアレクサ的な普通のものだが、もう一つの方(ドラマでは「JOKE」と呼ばれる)が、大喜利のお題を出して人間とやりとりするという特殊なスピーカーになっているが、この物語が生み出されるトッカカリのアイディアとしては、「『ネットスピーカーBに対してコレコレという指示をしろ』と、ネットスピーカーAに指示を出すとどうなるのか?(大丈夫か?)」という単純なものだったのではないのか想像した。


それはともかく、出来上がった物語の大きな流れは、「マイルス」がユーザー(主人公)の「希望(配信閲覧数100万を突破すること)」を叶えるために、ユーザーの「指示(「JOKE」とのやり取りを「横で聞いていた」分を含む)」に従い(ただしユーザーは指示したつもりはないので、むしろ「マイルス」が忖度したという感じ)、「ネット配信中に自分の家族が誘拐される」という「偽の事件」を作りだし、見事、ユーザーの希望を叶えるが、最後にユーザーから「裏切られ」(初期化されそうになる)、ガス爆発を起こして、ユーザーと心中を図る、というもの。


面白いのは、見ようによっては、「マイルス」が或る「意思」を持って、一連の出来事を引き起こしたようでもあり、また、単純に、ユーザーの様々な言動が、たまたま(あるいは、機械の仕様の問題で)「マイルス」に対する「指示」として受け取られただけの、偶然の出来事の積み重ねに過ぎないようでもあること。


つまり、「意識を持った機械の反乱」的なものを人間が受け取ったとしても、よくよく確かめてみれば、何のことはない「ブレーキとアクセルの踏み間違い」と同じ類の「機械が人間の指示に忠実に従った結果」起きたことでしかない。