AIが提示する結果と現象 – 新しい見えざる手

youtubeとニコニコ動画の思い出

まずは気楽な思い出から始めたい。

Twitterのタイムライン上に、他者の「いいね」を表示するようになったことや、「時系列を無視した表示」などの一連の仕様変更で思い出す事がある。それはニコニコ動画の検索結果が「人間の命令に従順だったなあ」※1という点だ。

※1：今もそうなのかは調べてません。

2010年あたりは私もニコニコ動画をよく利用していた。そのときには「人間に従順」などとは思いもしていなかったが、次第にyoutubeを利用する機会が増えはじめた時、ニコニコ動画の従順さを感じるようになった。

つまり、youtubeの検索結果は人間の命令に従順でなかったのだ。キーワードにマッチしていない動画がヒットしたり、友人と検索結果が異なったりしたのだ。当然、ニコニコ動画は馬鹿正直に人間の指定した検索条件に忠実な結果を返してくる。これに慣れていた当時の私はyoutubeに対してある種の不信感を持ったこと覚えている。

youtubeでは条件に合致していても、AIの判断で「不要」だと判断されれば、検索結果から除外されたり著しく検索順位が下がる。逆に「必要」だと判断されれば、検索条件から遠くても上位に表示される。その時は「これでは私が本当に探しているものが除外されている可能性があるのでは」という疑いを強く持っていた。もしかすると当時のアルゴリズムは、まだ未熟だったのかもしれないが、今から振り返ればやや古臭い感覚と言えるだろう。

世界観の転換

自己弁護するならば、当時はまだ将棋のAIはプロ棋士に劣ると純粋に信じられていた時代で、そういったネガティブな印象は拭いきれない世の中だった。しかし現在はそのような疑いはあまり無いだろう。AIによって提示された検索結果に大した疑問などはなく、「それがベストなのだろう」という漠然とした信頼がある。自動運転社会になれば事故は大幅に減るだろうと誰もが素直に信じているし、自然言語をそのまま扱うAI※2は今ではありふれた社会となった。

※2：siriの日本語版のサービス開始は2012年初頭。

少し話が逸れるが、近年の「AIが言うことのほうが合っている」という共通感覚が日本で醸成された要因の一つとして、2012年あたりからの将棋AI関連のニュースが果たした役割は大きいだろう。

個人的に印象に残っているのは、「人間の強さを舐めてはいけない。負けるわけがない」とギラついた目をしながら豪語していた棋士が、その1,2年後に「こんなに計算の速いコンピューターに人間がそもそも勝てるわけがないよぉ」というような内容で、おどけてみせたときだ。犬がお腹を見せたようだった。非常に象徴的であり、彼や私や社会でパタパタと世界観の転換が起きたのだ。

ユーザー体験最大化のためのAI

ユーザー体験やコンバージョンを極限まで上げる為に、youtube(google)やfacebookはAIというブラックボックスを経て、我々にコンテンツを提示する。ユーザー体験としてマイナスだと判断されたコンテンツは、利用者の意図しないところで結果から除外される。

冒頭で申し上げたTwitterの仕様変更の目的は、ほとんどこの点に集約されている。ユーザー体験向上のために同じことがやりたいはずだ。表示コンテンツや順序をTwitter社側で決定して、より滞在時間などが増えるようにしたい。当然ながら最終目標はマネタイズだ。

そんな中、Twitter社の初の黒字化のニュース(2018年)は一際私の目を引いた。2010年頃からTwitter社が同社公式アプリを推奨しはじめた流れが実を結んだように映ったからだ。API制限やユーザー数制限を強くかけることで、非公式アプリから自由を奪い、公式アプリや公式サイトからの利用を促した。これは広告の表示やコンテンツの内容・順序を独自制御する目的として必要なことだったはずで、恐らく一定の成果が上がったのだと見ている。

既にgoogleやyoutubeは、持ち得る手駒の中から、人間の意図に対して「最も優れた結果を返すだろう」という信頼をある程度得ている。命令よりも優れた結果を提示することもあるだろう。一見意味の分からない結果でも素直になって受け入れてみると、そこには当初予定とは別の、より良い体験が用意されている場合も少なくない。本人が自覚しようがしまいが、滞在時間や利用頻度はとにかく伸びていく。そして元の意図すら忘れてしまうほどの体験へ誘導されていたりする。

エルサゲートと虚無動画

ユーザー体験をAIによって高度に向上させた結果、去年(2017)あたりから奇妙な現象が発生している。幼児や子供を対象としたエルサゲートや虚無動画だ。大人が見ても殆どの場合は不快感を覚えるが、再生回数などを見ると、相当な数の子供が病みつきになっている。

エルサゲートは、サムネイルだけを見ると有名アニメキャラクターなどが登場し、教育的な内容と見紛うが、基本的にどれも品がなく、動物的で本能的な行動をテーマにしていることが多い。中には猟奇的な内容になったり、安易な性的描写が含まれていたりする。youtubeはこれを問題視して動画の削除などを行っている。

エルサゲートの例（食事と排泄を扱っているかなりソフトな部類）

虚無動画の例1（倒壊する原発などが擬人化されている）

虚無動画は残虐性や性的表現はないが、エルサゲートよりも更に脈絡がなく、カラフルで単純な図形やアニメーションが延々と流れていたり、不協和音や炸裂音がずっと鳴りっぱなしで、大人が見ても意味がわからず、不気味に感じることも多い。虚無動画については特に有害だとは断定できないと見解が示されていたりする。

虚無動画の例2（不協和音の中、アルファベットなどが通過する）

エルサゲートも虚無動画もその内容に真意などはなく、子供や社会に対して特別な悪意があるわけでもない。ただただ子供に視聴されることだけに特化し、再生回数を増やして広告収入を得るためだけに作られた動画だ。

このような動画が子供にとって最高のユーザー体験をもたらすと誰が思っただろうか。AIが推薦し、再生数が伸びなければ、大人は誰も作ろうと思わないものだ。

しかしAIは人間には見抜けない子供の真の嗜好を見抜いた。子供がそれを見始めると、誰かが中断させるまで、動画サイトのおすすめに従って、もしくは同じ動画を繰り返し再生し、何時間でも夢中で見続けてしまう。そしてそこに気づいた人間がそのような動画を大量に作りはじめた。

AI駆動の時代へ

ユーザー体験の向上にAIが用いられ、利用者側から見ても利便性も向上し、滞在時間やコンバージョンも向上したのだろう。企業にも利用者にもデメリットがないのかもしれない。しかし何処かで気味の悪さを感じてしまうのは人間の性なのだろうか。それとも私のような人間は、この時代で最後となるのだろうか。

上記のエルサゲートなどの例は子供が対象であったが、大人でも同じようなことが起きても不思議ではない。もし大人でも起きていたら気付けるのだろうか。子供が違和感なく動画を見続けてしまうのと同じように、当事者となってしまえば、何かに気づくことは非常に難しい。人々が求めるものは必ずしも素晴らしいものばかりではないはずで、既に何かが起きていてもおかしくはない。大人だってAIから見れば子供と大差がないはずだ。

更にはAI自身が映像作品を作るようになると、また一歩、手の届かない世界に進むのだろう。脳天気すぎるかもしれないが、ポジティブに捉えるなら「AIによる芸術の時代」と言ってもいいかもしれない。

本人も他人にも認識できないようなAIによる隠された意図※3や、意図はないにしても、特定の傾向や誘導が含まれたらお手上げである。当面、AIで一番気にかけるべきはこの「意図のない誘導」だ。

※3：意図があるパターンはSF作品などでおなじみの古典的な「AIの暴走」図式だ。