世界のユーザーに親しまれているSNS(ソーシャル・ネットワーキング・サービス)は、今や多くの人の日常生活に溶け込んでいるデジタルコンテンツです。代表的なSNSにはYouTube・LINE・X・TikTok・Instagramなどがあります。

スマホの普及、4Gネットワークの拡大、若年層のデジタルネイティブ化などが重なった2010年代初頭が、SNSのグローバルな普及の転換点と言われており、現在は世界各国で日々膨大な数のユーザーを増やしている状況です。

面白く便利な一方、SNSは時に人間を変質させ、他者に危害を加えさせる「負の側面」を持っていることも事実です。今回はSNSの暗部を取り上げつつ、運営している企業が実施する「改善策」についても考察していきます。

SNSが抱える問題と課題、改善を目指す「企業の取り組み」をAIと一緒に考察

SNSが引き起こした問題と課題

誤情報の拡散

2016年の米国大統領選において、X(旧Twitter)やFacebookで「フェイクニュース」が拡散し、選挙結果に影響を与えたと指摘されました。これは、アメリカ経済学会の詳細な報告資料(外部リンク)でも明らかになった事実です。

また、2020年の新型コロナウイルス禍では、YouTubeやTikTokでワクチンに関する科学的根拠のない誇張や虚偽の情報（例：「ワクチンは不妊を引き起こす」など）が拡散し、接種への躊躇を増幅させる結果となりました。

確かに副反応が出たワクチンもありましたが、ここで重要なのは「科学的な根拠が無い真偽不明の情報も一緒に出回った」点で、それがSNS特有の伝搬スピードの速さと相まって、人々に大きな混乱を巻き起こしていったのです。

コロナ禍の時期に「マスク」を着用することについても、一般レベルで反対意見と賛成意見が対立したことがありました。今となっては忘れられがちですが、これも誤情報を信じて混乱に陥った人々が出た典型的な事例と言えます。

エコーチェンバー現象による「社会の分断」

こうした誤情報の拡散に劇的な相乗効果を与えるのが、SNSにおける「エコーチェンバー現象」です。エコーチェンバーとは「意見の同調」を示す言葉で、趣味や趣向が偏ったユーザー間に生まれてしまう傾向があります。

SNSのアルゴリズムは、ユーザーの好みに合わせた情報やコンテンツだけを優先表示する傾向があり、この仕組みが同調現象をより一層強化します。SNSにおけるエコーチェンバー現象の詳細については、この記事をご覧ください。

ユーザーの行動履歴を元に「興味を持ったコンテンツ」を表示させるアルゴリズムに罪はありませんが、その反面ユーザーが意識しないと、反対意見を目にする機会が極端に減るという「諸刃の剣」でもあります。

あるユーザーが根拠のない偽情報を発信し、それを見た第三者のユーザーが何となく拡散してしまう。こうした負の連鎖がSNS上では良く起こります。未検証の情報が氾濫することで起こる最も危険な現象は「社会の分断」です。

エコーチェンバー現象によって正確な情報が得られないまま、国民が政治的な判断を下してしまった例としては、2016年に起こったイギリスのEU離脱が有名です。この例では意見交換が不十分な状態で国民投票が行われました。

誤情報の難しいところは、ユーザーがそうとは知らずに拡散してしまう点にあり、それが一種の「親切心」から起こることもあります。SNSはすぐに世界の人々の目に触れるため、情報の取り扱いには十分な注意が必要です。

メンタルヘルスへの影響

イギリスを拠点とする公衆衛生専門家のコミュニティ「RSPH」(外部リンク)は、2017年にYoung Health Movementと共同で発表した調査書内で、SNSを長時間使う若者の32%がメンタルヘルスの悪化を訴えていると報告しました。

また、2021年に漏洩したMetaの内部文書では、「Instagramが10代女子の自己肯定感を下げる」影響について、同社が認識していたことが明らかになっています。この2例に共通するのは、若者の精神状態への悪影響です。

SNSは基本的に匿名で利用できる上、虚偽の内容も投稿できます。そのため、自分を億万長者に見せる、アプリで絶世の美女のような画像に加工して投稿するなど、往々にして「虚構の人間像」が生まれがちです。

人生の多感な時期にSNSに接し、日々投稿される虚構の人間像とリアルな自分を比較しながら生活していくことで、自分を「成功していない人物」と感じてしまう若者が世界的に増えている現状は、本当に痛ましいことです。

さらに悪いことに、こうした虚構の人間像はSNSに横行する「詐欺行為」にも利用されています。短期間に巨額のお金を稼いだ、投資で莫大な利益を得たという嘘を並べ、騙された人の個人情報や金銭を搾取するのです。

人は内面が成熟していない時、自分と他者を比較しながらアイデンティティを保つ傾向が強いと思います。「自分は自分、他人は他人」といった線引きができない場合、SNSの「虚偽の成功像」は危険なものになるでしょう。

子供を襲う「サイバーブリング」

「サイバーブリング」とは、SNS上で不特定のユーザーによる中傷や嫌がらせが24時間続くことで、この行為は被害者に逃げ場を与えません。誹謗中傷やいじめなど、様々な呼び方がありますが、最も忌むべき悪質な行為です。

オーストラリアでは、2018年に当時14歳のエイミー・ドリー・エベレットさんが、SNSでの執拗な誹謗中傷が原因で自死するという痛ましい事件が起きました。そしてここ日本でも、こうした悲劇は増加傾向にあります。

誹謗中傷やいじめは昔から世界に存在していますが、それがSNSの発展と共に姿を変え、今では絶え間なく自分を攻撃する文章や画像が匿名で送られるという異常事態が、ユーザーの身近にまで迫っているのです。

ニューサウスウェールズ州では、エイミーさんの事件を受けて「ドリー法」が制定されました。これはサイバーブリング行為に対して最高7年の懲役を科す法律です。SNS利用とモラルに警鐘を鳴らす一歩だと思います。

国によって法整備がバラバラな現在、SNSの犯罪行為を取り締まることの難しさも指摘されています。SNSは簡単に国境を超えて配信できるため、サイバーブリングを含む悪質な行為も未だ後を経たない状況です。

AI機械学習・自動生成問題

現在SNSには、AI自動生成コンテンツが大量に出回っています。中には面白いものも多数ありますが、人間のクリエイターが生み出したイラスト・写真・動画に類似したものが数多く投稿されているのもまた事実です。

これは、AIが事前学習を行う際に「広域かつ大量のデータ」を与えられたために起こった出来事で、オリジナル作品を生み出しているクリエイターの存在意義を揺るがす問題として、今各方面で話題となっています。

これまで自分が苦労して生み出した創作手法、作品独自のアイデンティティが、AIによっていとも簡単に自動生成で類似系になって拡散される異常事態は、独自性を重んじる芸術分野に大きな打撃を与える出来事と言えるでしょう。

AI自動生成ツールを提供する企業は、「AIに何を事前学習させたのか」を公にすることがないため、AI機械学習と自動生成は「ブラックボックス化」しています。この問題は今後も継続的に議論を巻き起こしそうです。

SNS改善に向けた企業の取り組みをAIと考察

誤情報対策への取り組み

2023年、Xは生成AI型「ファクトチェックツール」を導入し、誤情報の検出速度を30%向上させました。またTikTokは2024年に医療関連の誤情報を特定するAIを強化し、WHOの公式情報を優先表示する仕組みを採用しています。

AIはこうした取り組みを元に、未来ではAIが「文脈」を深く理解し、多言語の誤情報を瞬時に検出する「グローバル・ファクトチェッカー」が登場することを予測しています。AI機能の進化が、誤情報を根絶できるかもしれません。

この未来予測が実現した場合、例えばワクチンやウイルス、マスクに関する虚偽の主張をAIが迅速にフラグ付けしながら選別し、信頼できる情報源を提示して警告を行うといった仕組みが生まれる可能性もあります。

ただし、AIのバイアス(偏り)や過剰検閲が発生するリスクもあるため、運営元にはAIの透明なアルゴリズム設計が求められるはずです。有害な情報を野放しにするリスクを取るか、健全なSNSを目指すかが分かれ目になるでしょう。

社会分断の緩和

YouTubeは、2024年に「バランス推薦AI」を試験導入して、極端な政治動画の後に「中立的な解説動画」をアルゴリズムが提案する流れを生みました。その結果、ユーザー調査で分断意識が10%低下したそうです。

またInstagramは、2026年をめどに「視点ブリッジAI」を導入して、対立する意見を「穏やかに提示」する予定です。この2例が目指すところは「極論の排除」で、それが社会分断の緩和にも繋がると見られています。

悪意を持って、または意図せずに拡散された誤情報は、エコーチェンバー現象の増幅効果によって社会の分断を招きます。こうしたSNSの負の側面を緩和するため、各企業はAIの進化と積極的な導入を目指しているところです。

とは言うものの、SNSを運営する有名企業のこうした措置は歩みがやや遅く、現在も誤情報や誹謗中傷は氾濫状態にあります。一番大切なのは、ユーザー自身が価値ある情報を見極める「目」を養っていくことです。

Xで曖昧な情報をリポストして拡散することは、偽情報を流す人間に「加担」しているのと同義です。そうしたアクションを行う前に一呼吸置き、「これは本当のことだろうか？」と冷静に自問自答することが必要だと感じます。

メンタルヘルスの改善に向けて

Instagramは2025年内に、過度なスクロールやネガティブなコメント投稿を検知する「AIチャットボット」を導入予定で、この仕組みによってユーザーに「休息を促す通知」を送信することを明らかにしています。

TikTokは2024年に「ウェルビーイングAI」を実装しており、10代ユーザーの視聴時間制限を提案しながら、睡眠改善を支援しています。この二例は「若者がSNSに依存する状態を検知して警告する」取り組みです。

デジタルネイティブな若者は、SNSに夢中になることでスマホの利用時間が異様に増える傾向があります。片時もスマホから目を離すことなく生活する状況が一体どんな結果を招くかは、上記の課題でも明らかです。

データ解析とプライバシー保護は背中合わせの関係にあり、AIがユーザーの生活面に踏み込むことを良しとしない向きもあるはずです。AI検知システムに関しては、運営者とユーザーの意見交換も大切だと思います。

自分ではコントロールしているつもりでも、つい時間を超えて何かに夢中になってしまうことは、誰もが経験することです。SNSに向き合う際の「ルール」を自分で予め作っておくと、利用する際の指針になるかもしれません。

日本の厚生労働省は、公式HP内に「SNS相談窓口」(外部リンク)を設けており、このページ内で相談できる各団体の連絡先も掲載しています。SNSで困った際には、気軽に相談できるこうした団体に頼るのも一つの手です。

サイバーブリング防止策の導入

現在SNSで最も誹謗中傷や暴言が多発しているXは2023年、生成AIの導入によって「脅迫的投稿」の検出精度を20%向上させました。これは始まりに過ぎませんが、今後のAIの進化と検出精度の上昇が期待されます。

オーストラリアのオンライン安全に関する独立規制機関「eSafety Commissioner」(外部リンク)は、AIを活用した苦情処理システムを導入し、2023年に1,700件以上のサイバーブリング報告を効率的に処理しました。

またInstagramは、2026年中にAIが「いじめの兆候」を早期発見する「予防型モデレーション」を導入する予定です。これらの取り組みは、これ以上子供達に「SNS由来の被害」が起こらないことを目的としています。

匿名で隠れながら他人を攻撃することは簡単です。社会や他者について色々と思うところがあるのは分かりますが、こうした言論の暴力は時として人の命を脅かします。この危険性にみんなが気付くことも大切です。

機械学習の防止策はあるのか？

AI自身は機械学習の防止策として、自分のサイトで作品を発表している場合、「robots.txt」にAIクローラーをブロックする指示を含める、著作物の利用範囲を明示するなどを提案しますが、これも完璧ではありません。

画像やテキストに目に見えない識別子(ウォーターマーク)を埋め込むこともできますが、これを取り除くことも可能なので、ある意味「いたちごっこ」と言えるでしょう。完全な防止策は存在しないという点が一番の問題です。

昨年、声優陣の有志が共同で「AIを用いた声の無断盗用」に関する声明文を発表して話題を呼びましたが、個人だけではなく「団体」として声を上げていくことがとても大切だと感じました。声は大きい方がより届くからです。

あるクリエイターや人物のアイデンティティをAIに学習させ、許可を得ることなく他人が自分のコンテンツとして投稿する、という行為を無くすためには、今後一体何が必要になってくるのでしょうか？

AIは学習を重ねることで高度な生成コンテンツを自動的に出力できるようになりますが、「最終的に出力されるもの」に注意を払っていくことは、未来に向けた喫緊の課題になることは間違いありません。

まとめ

世界中で爆発的に利用者を生み出し続けているSNSは、普及と発展に伴って深刻な問題と課題を抱えるようになりました。そして今、AIがSNSに組み込まれることで新たな「自動生成の懸念」も高まっています。

私自身、サイトの宣伝でXを利用していますが、AIアルゴリズムの仕組みには一抹の不安を感じます。そして、SNSの利用者が常に正しい情報を投稿しているわけではない、という事実にも危機感を覚えます。これは怖いことです。

今回、課題解決に向けた企業の取り組みをまとめるうちに、AIの特性を正しく活用すれば、誤情報流布やサイバーブリングに対して効果的な改善を行える可能性が見えてきました。法整備も同時に進めれば、より心強いでしょう。

急速に発展するデジタルテクノロジーは、時に倫理的な課題を置き去りにしたまま成長を続けます。こうした不備がもたらす悲劇を防ぐために、我々は常に「真摯な姿勢」でSNSの課題に向き合うべきだと思うのです。