AIが提示する結果と現象 – 新しい見えざる手

youtubeとニコニコ動画の思い出

まずは気楽な思い出から始めたい。

Twitterのタイムライン上に、他者の「いいね」を表示するようになったことや、「時系列を無視した表示」などの一連の仕様変更で思い出す事がある。それはニコニコ動画の検索結果が「人間の命令に従順だったなあ」※1という点だ。

※1:今もそうなのかは調べてません。

2010年あたりは私もニコニコ動画をよく利用していた。そのときには「人間に従順」などとは思いもしていなかったが、次第にyoutubeを利用する機会が増えはじめた時、ニコニコ動画の従順さを感じるようになった。

つまり、youtubeの検索結果は人間の命令に従順でなかったのだ。キーワードにマッチしていない動画がヒットしたり、友人と検索結果が異なったりしたのだ。当然、ニコニコ動画は馬鹿正直に人間の指定した検索条件に忠実な結果を返してくる。これに慣れていた当時の私はyoutubeに対してある種の不信感を持ったこと覚えている。

youtubeでは条件に合致していても、AIの判断で「不要」だと判断されれば、検索結果から除外されたり著しく検索順位が下がる。逆に「必要」だと判断されれば、検索条件から遠くても上位に表示される。その時は「これでは私が本当に探しているものが除外されている可能性があるのでは」という疑いを強く持っていた。もしかすると当時のアルゴリズムは、まだ未熟だったのかもしれないが、今から振り返ればやや古臭い感覚と言えるだろう。

世界観の転換

自己弁護するならば、当時はまだ将棋のAIはプロ棋士に劣ると純粋に信じられていた時代で、そういったネガティブな印象は拭いきれない世の中だった。しかし現在はそのような疑いはあまり無いだろう。AIによって提示された検索結果に大した疑問などはなく、「それがベストなのだろう」という漠然とした信頼がある。自動運転社会になれば事故は大幅に減るだろうと誰もが素直に信じているし、自然言語をそのまま扱うAI※2は今ではありふれた社会となった。

※2:siriの日本語版のサービス開始は2012年初頭。

少し話が逸れるが、近年の「AIが言うことのほうが合っている」という共通感覚が日本で醸成された要因の一つとして、2012年あたりからの将棋AI関連のニュースが果たした役割は大きいだろう。

個人的に印象に残っているのは、「人間の強さを舐めてはいけない。負けるわけがない」とギラついた目をしながら豪語していた棋士が、その1,2年後に「こんなに計算の速いコンピューターに人間がそもそも勝てるわけがないよぉ」というような内容で、おどけてみせたときだ。犬がお腹を見せたようだった。非常に象徴的であり、彼や私や社会でパタパタと世界観の転換が起きたのだ。

ユーザー体験最大化のためのAI

ユーザー体験やコンバージョンを極限まで上げる為に、youtube(google)やfacebookはAIというブラックボックスを経て、我々にコンテンツを提示する。ユーザー体験としてマイナスだと判断されたコンテンツは、利用者の意図しないところで結果から除外される。

冒頭で申し上げたTwitterの仕様変更の目的は、ほとんどこの点に集約されている。ユーザー体験向上のために同じことがやりたいはずだ。表示コンテンツや順序をTwitter社側で決定して、より滞在時間などが増えるようにしたい。当然ながら最終目標はマネタイズだ。

そんな中、Twitter社の初の黒字化のニュース(2018年)は一際私の目を引いた。2010年頃からTwitter社が同社公式アプリを推奨しはじめた流れが実を結んだように映ったからだ。API制限やユーザー数制限を強くかけることで、非公式アプリから自由を奪い、公式アプリや公式サイトからの利用を促した。これは広告の表示やコンテンツの内容・順序を独自制御する目的として必要なことだったはずで、恐らく一定の成果が上がったのだと見ている。

既にgoogleやyoutubeは、持ち得る手駒の中から、人間の意図に対して「最も優れた結果を返すだろう」という信頼をある程度得ている。命令よりも優れた結果を提示することもあるだろう。一見意味の分からない結果でも素直になって受け入れてみると、そこには当初予定とは別の、より良い体験が用意されている場合も少なくない。本人が自覚しようがしまいが、滞在時間や利用頻度はとにかく伸びていく。そして元の意図すら忘れてしまうほどの体験へ誘導されていたりする。

エルサゲートと虚無動画

ユーザー体験をAIによって高度に向上させた結果、去年(2017)あたりから奇妙な現象が発生している。幼児や子供を対象としたエルサゲートや虚無動画だ。大人が見ても殆どの場合は不快感を覚えるが、再生回数などを見ると、相当な数の子供が病みつきになっている。

エルサゲートは、サムネイルだけを見ると有名アニメキャラクターなどが登場し、教育的な内容と見紛うが、基本的にどれも品がなく、動物的で本能的な行動をテーマにしていることが多い。中には猟奇的な内容になったり、安易な性的描写が含まれていたりする。youtubeはこれを問題視して動画の削除などを行っている。

エルサゲートの例(食事と排泄を扱っている かなりソフトな部類)

虚無動画の例1(倒壊する原発などが擬人化されている)

虚無動画は残虐性や性的表現はないが、エルサゲートよりも更に脈絡がなく、カラフルで単純な図形やアニメーションが延々と流れていたり、不協和音や炸裂音がずっと鳴りっぱなしで、大人が見ても意味がわからず、不気味に感じることも多い。虚無動画については特に有害だとは断定できないと見解が示されていたりする。

虚無動画の例2(不協和音の中、アルファベットなどが通過する)

エルサゲートも虚無動画もその内容に真意などはなく、子供や社会に対して特別な悪意があるわけでもない。ただただ子供に視聴されることだけに特化し、再生回数を増やして広告収入を得るためだけに作られた動画だ。

このような動画が子供にとって最高のユーザー体験をもたらすと誰が思っただろうか。AIが推薦し、再生数が伸びなければ、大人は誰も作ろうと思わないものだ。

しかしAIは人間には見抜けない子供の真の嗜好を見抜いた。子供がそれを見始めると、誰かが中断させるまで、動画サイトのおすすめに従って、もしくは同じ動画を繰り返し再生し、何時間でも夢中で見続けてしまう。そしてそこに気づいた人間がそのような動画を大量に作りはじめた。

AI駆動の時代へ

ユーザー体験の向上にAIが用いられ、利用者側から見ても利便性も向上し、滞在時間やコンバージョンも向上したのだろう。企業にも利用者にもデメリットがないのかもしれない。しかし何処かで気味の悪さを感じてしまうのは人間の性なのだろうか。それとも私のような人間は、この時代で最後となるのだろうか。

上記のエルサゲートなどの例は子供が対象であったが、大人でも同じようなことが起きても不思議ではない。もし大人でも起きていたら気付けるのだろうか。子供が違和感なく動画を見続けてしまうのと同じように、当事者となってしまえば、何かに気づくことは非常に難しい。人々が求めるものは必ずしも素晴らしいものばかりではないはずで、既に何かが起きていてもおかしくはない。大人だってAIから見れば子供と大差がないはずだ。

更にはAI自身が映像作品を作るようになると、また一歩、手の届かない世界に進むのだろう。脳天気すぎるかもしれないが、ポジティブに捉えるなら「AIによる芸術の時代」と言ってもいいかもしれない。

本人も他人にも認識できないようなAIによる隠された意図※3や、意図はないにしても、特定の傾向や誘導が含まれたらお手上げである。当面、AIで一番気にかけるべきはこの「意図のない誘導」だ。

※3:意図があるパターンはSF作品などでおなじみの古典的な「AIの暴走」図式だ。

新しい「見えざる手」

コンバージョンやユーザーベネフィットをAIによって最適化・最大化したら、子供がエルサゲートに誘導されてしまったというのは、今後のAI事情を考える上で示唆的だ。

利便性や収益などの最終目的があってAIが活用されるはずだが、人知を超えて最適化した結果、人間の発想を超えた思いもよらぬ影響が大小様々に出ることは今後も避けられない。プラス面もあればマイナス面もあるはずだ。

そういった現象が「起きているのでは」と常に身構える必要はあるが、人間にとって説明可能な理解に落とし込むことは難しくなっていく。また、説明可能だと思い込み、人間にとって理解可能なレベルの抽象度で因果関係を結びつけてしまい、誤った結論を出してしまうこともあるだろう。

前者は、現象自体の把握が困難で、何が起きているのかは見当もつかないし、後者は、現象については把握できても、せいぜい擬似相関を見つけるくらいが関の山となる。そのあたりにAIの真の怖さがある。

産業革命後にアダム・スミスによって著された「見えざる手」に続き、3世期の時を経て、第四時産業革命を目前に、我々は新しい「見えざる手」に導かれはじめた。果たして、神ではなくAIによる新たな「見えざる手」と握手を交わすことは叶うのか。

コメントをどうぞ

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

数式を埋めてください *