過激さを競う「アテンション・エコノミー」の罠 ――中毒的なコンテンツの包囲網にどう立ち向かうか
山本龍彦(慶應義塾大学法科大学院教授)
アテンション・エコノミーにどう対抗するか
EUでは、こうした状況に対する危機感から、「デジタルサービス法(DSA)」と呼ばれる包括的なプラットフォーム規制法が制定され、すでに運用されている。そのコンテンツがどのようなロジックに基づいておすすめされているのかといった「透明性」の確保や、みずからが採用するアルゴリズムなどが基本権や民主主義に与えるリスクの評価・抑制などを一定のプラットフォーム事業者に義務づける内容だ。ユーザーの属性や嗜好性分析に基づかない(ランダム性の高い)おすすめの仕組み、言いかえれば、アテンション・エコノミーにおける「囚われ」から逃れるための仕組みを提供する義務も課している。
こうした取り組みを進めるEUに比べると、日本ではアテンション・エコノミーとどう対峙するかについてまだ議論の途上にある。2023年版の総務省「情報通信白書」には「アテンション・エコノミーの広まり」という項目が設けられており、政府も課題を認識していることがわかるが、具体的な取り組みには至っていない。24年5月に情報流通プラットフォーム対処法が成立し、誹謗中傷などの権利侵害情報に対するプラットフォーム事業者の義務は少しずつ明確化されてきたものの、アテンション・エコノミーの構造そのものに切り込むような対策はこれからという状況だ。
もちろん、情報を制限することは表現の自由の過剰規制にもなりかねないため、慎重さが必要だ。「不適切な投稿を削除させる」というような安易な政策は、政府による検閲につながるリスクもある。ただ、DSAと同様、アテンション・エコノミーの構造や仕組み(トリック)を透明化するような規律はやはり必要なのではないだろうか。
また、子どもたちの保護のための対策は急務である。子どもは大人に比べて判断能力が未熟で、アテンション・エコノミーの影響を受けやすい。こうした脆弱性を踏まえ、例えばDSAは、未成年者に対して、属性・嗜好性分析に基づいたマーケティングを行うことを禁止している。また、欧州委員会は、2024年2月、DSAに基づき、TikTokがアルゴリズムの中毒性(依存症的傾向)や、子どもの精神的福祉などに与えるリスクを誠実にチェックしているかなどを調査すると発表している。「表現の自由」を重視する観点からプラットフォーム規制に消極的なアメリカでも、TikTokが子どもを中毒的状況に陥らせて、子どもたちからかけがえのない「子ども時代(childhoods)」を奪っているなどという理由で、TikTokに対する訴えが提起されている。日本でも、子どもをアテンション・エコノミーの病理から守るための取り組みが必要だろう。
もちろん、大人ですら、先述した「システム1」を過度に刺激されてその思考や行動を操作されることはある。かつて、憲法が保障する「思想・良心の自由」は、その人が意識的に有している「信条」を保護することに重きが置かれた。しかし、アテンション・エコノミーのもとでは、アテンションを奪うために設計されたAIやアルゴリズムによって、「システム1」や潜在的な認知システムへの働きかけが行われ、意識しないままに思考や行動を操作されることがある。そうであれば、思想・良心の自由は、意識できない認知過程をも保護するものと解釈されるべきであり、そうした考え方を前提にした法制度の構築も必要となるだろう。
摂取する情報を選択して「情報的健康」を
アテンション・エコノミーの病理に対抗していくには、私たちのリテラシーを向上することが不可欠である。その点で鍵になるのが、「情報的健康」という考え方だ。
アテンション・エコノミーのもとでは、アテンション(クリックやエンゲージメント)を得るために、刺激的で、かつその人の好む情報が優先的におすすめされる。その結果、情報の「偏食」が起きているともいえる。フィルターバブルやエコーチェンバーは、そのわかりやすい例だろう。また、私たちは次々におすすめされる情報を、その安全性や信頼性を確かめずに反射的に「暴飲暴食」しているともいえる。
このような情報の「偏食」や「暴飲暴食」により、偽情報などに対する「免疫」を失い、自律的で主体的な人生設計を妨げられることも起きているように思う。陰謀論の「偏食」によりそれを真実だと頑なに信じ込み、集団暴徒化して人生を棒に振った人たちは、ある意味でアテンション・エコノミーの犠牲者である。こう見ると、アテンション・エコノミーが加速していく時代には、さまざまな情報をバランスよく摂取したり、自らが摂取する情報の安全性や信頼性を意識したりすることで、情報的な「健康」を保つことが重要になるように思われる。
かつて、食べ物がそれほど豊富になかった時代には、食べ物にまず求められるのは「お腹いっぱいになるかどうか」だった。しかし飽食の時代になるとともに、食べ物の安全性や「健康によいかどうか」が重視されるようになり、現在では食品表示法で、食品の製造者・加工者の名前、原材料名、添加物、栄養成分・カロリーなどの表示が企業に求められ、私たちは(常にではないとしても)そのような表示を参考にして、安全性などを確かめてから食品を摂取するようになっている。また、食育などを通じて「偏食しない」、「バランスよく食べる」ということも重視されるようになってきた。
情報も同じではないだろうか。情報があふれる情報「飽食」時代になり、私たちはアルゴリズムにより提供される情報をただ受動的に、あるいは反射的に「食べる」のではなく、摂取する情報のバランスや、安全性・信頼性を意識して「食べる」必要性が高まってきている。このように、情報的健康に対する意識が高まれば、企業の側も変わらざるを得ない。食に対する意識の高まりによって、食品偽装をした会社や消費者の健康に配慮しない会社が生き残れなくなったのと同じように、ただ刺激的なコンテンツをおすすめしてアテンションを奪えばよいという「アテンション至上主義」で私たちの情報的健康を害するようなプラットフォーム企業は市場で厳しく批判され、場合によっては自然淘汰されていく。アテンション・エコノミーに支配された市場をそのように変容させることで、私たちの情報的健康を守ることができるのではないか。
もちろん、「アテンションを得ようとする」こと自体は、決して悪いことではない。ただそのために刺激の強い過激なコンテンツを供給するのではなく、クオリティの高さなど公正なかたちでどうアテンションを得るかを競い合うようなマーケット構造を目指す必要があるはずだ。
さらには、現状では事業者のツールとしてばかり使われているAI技術を、ユーザーの側に実装していくことも考えていかなければならない。「どうアテンションを奪うか」ではなく、「どうユーザーの思考や時間を守っていくか」を考えるために技術を用いるということだ。例えば、スマートフォンに常に自分のアバターが表示されて、情報の「偏食」が続けば痩せたり太ったり、ひどくなれば倒れてしまう……といった仕組みはどうだろうか。
このように、アテンション・エコノミーの弊害を乗り越えるには規制とリテラシーとテクノロジー、三位一体の取り組みが必須だと考える。アテンション・エコノミーが民主主義や人間のあり方そのものを変える可能性があることを踏まえれば、三つの要素が生み出すシナジー(相乗効果)によって、市場構造の変革をできるだけ早く実現していく必要があるのではないだろうか。
著者情報
慶應義塾大学法科大学院教授
山本龍彦
やまもと たつひこ
1976年東京都生まれ。慶應義塾大学法学部卒。同大学大学院法学研究科博士課程単位取得退学。博士(法学)。慶應義塾大学グローバルリサーチインスティテュート(KGRI)副所長。同大学X Dignity センター共同代表。総務省「ICT活用のためのリテラシー向上に関する検討会」座長ほか、各種検討会の委員を務める。
著書に『アテンション・エコノミーのジレンマ』(2024年、KADOKAWA)、共著に『憲法I 人権〔第2版〕』(同、有斐閣ストゥディア)など。