ニュースサイトやSNSなど、皆さんは日々、ネットでどんな文章を読み、どんな言葉を書き込んでいますか？
時には誹謗中傷など、人の心を傷つける「不適切コメント」を目にすることもあるかもしれません。もしくは、あなた自身もそのようなコメントを書き込んでしまった経験はないでしょうか？ それらを少しでも減らしていくことで、誰にとっても心地よいネット社会を実現できれば素敵ですよね。
そこでこの記事では専門家への取材を元に、これからのネットリテラシーの基礎を解説します。また記事の後半では、Yahoo!ニュースが取り組んでいるAI（人工知能）を活用した不適切コメントへの対策も紹介しています。
目次
- ネットは「極端な意見を持つ人」が集まりやすい空間。「誹謗中傷」が生まれる背景から学んでみる
- 加害者にならないために。これだけは押さえておきたいコメントマナー
- 誰にとっても心地よいネット社会を目指して。ヤフコメ健全化のための新たな取り組み
ネットでの誹謗中傷研究の専門家 山口 真一（やまぐち・しんいち）先生
国際大学グローバル・コミュニケーション・センター准教授。博士（経済学）。1986年生まれ。専門は計量経済学。研究分野はネットメディア論、情報経済論など。「クローズアップ現代+」（NHK）や「日本経済新聞」をはじめとし、メディアにも多数出演・掲載。主な著書に『なぜ、それは儲かるのか』（草思社）、『炎上とクチコミの経済学』（朝日新聞出版）などがある。他に、東京大学客員連携研究員、日本リスクコミュニケーション協会理事などを務める。
-
- ※取材はオンラインで実施しました。
ネットは「極端な意見を持つ人」が集まりやすい空間。「誹謗中傷」が生まれた背景から学んでみる
まずは「不適切コメント」とは何なのかを確認しましょう。ネットでの不適切行為にはさまざまなものがありますが、昨今もっとも数が多く問題になっているのは「誹謗中傷」です。
誹謗中傷とは
人格を否定して他人を傷つけることや、根拠のないデマ・フェイクニュースによって、人や企業の社会的評価を低下させること。
この問題の重要なポイントは、「投稿した本人は、書いた時点ではそれを誹謗中傷と認識していない可能性がある」ということ。社会心理学の研究では、インターネットなど非対面のコミュニケーションにおいて、人はつい攻撃的になりやすいことが実証されています。また、こうした投稿のほとんどが「許せない」などの正義感に駆られて行われていることも分かっているそうです。
このような誹謗中傷が社会問題化しているのはどうしてなのでしょうか？ 山口先生は「ネットが社会全体に普及したことが第一に挙げられる」と言います。
「一昔前のネット炎上の主戦場は狭くアンダーグラウンドな世界で、一部の人にしか情報は伝わっていませんでした。しかしこれだけ裾野が広がり、誰もがSNSをやる時代になると、多くの人が情報に触れ、書き込むことができるようになります。そうなれば、自然と誹謗中傷などの不適切な投稿は増えてしまいます」
批判的な思いを持った人ほどレビューを積極的に書き込む
この問題には、インターネットの根源的な特徴が関係しているとも指摘します。
「インターネットの普及によって、有史以降初めて、能動的な言論しかない空間が生まれました。というのも、リアルでの会話は自分が語り手にも聞き手にもなる、言葉のキャッチボールですよね。しかしネット上では能動的な発信しかない上、それを止める人はほぼいませんから。最近の研究では、こうしたネット環境においては、極端でネガティブな意見が表出しやすいことがわかってきました。商品のレビューなどでも、批判的な思いを持った人ほどレビューを積極的に書き込むことが実証されています」
確かに、そもそも強い思いを持っていなければ発信する必要がありませんし、極端な意見の人に反論された場合、「対抗するメリットが少ないし、議論から降りた方が安全だな」と考える人も多いのではないでしょうか。結果として、極端な意見を持っている人ばかりがインターネット上に残りやすいのです。
2つのグラフは、リアルとネット上での意見分布の違いを示したもの。「憲法改正」について、リアルでは「賛成とも反対とも言えない」など中庸の回答を選んだ人が多いのに対し、SNSには「非常に賛成」「絶対に反対」といった極端な意見が多く書き込まれていることが見てとれる〈山口真一（2018）『炎上とクチコミの経済学』朝日新聞出版〉
しかし実は、こうした「極端な意見を持つ人」の割合は、山口先生の研究によると非常に少ないことが分かっています。例えば、炎上1件に対して書き込みをしている人は、ネットユーザのたった0.0015%（7万人に1人）に過ぎません。
それくらい少数の強い意見が表に出ているのがネット空間であるということを理解しておけば、過度にネットを危険な場所と見なしたり、人間不信になる必要はないでしょう。
加害者にならないために。これだけは押さえておきたいコメントマナー
もし誹謗中傷にあたるコメントを書き込んでしまった場合、どんな問題があるのでしょうか？ 実は、場合によっては名誉毀損罪や侮辱罪などの罪に問われることがあるんです。
現行法では、その投稿が名誉毀損罪に当たる場合、3年以下の懲役もしくは50万円以下の罰金が課せられます。民事訴訟は内容や状況によってさまざまですが、とあるSNSでの誹謗中傷に対して起きた訴訟では、書き込みをした被告が300万円以上の示談金を支払うことで示談が成立しています。
このように、ネット上であっても誰かに攻撃を仕掛けるということは、それだけのリスクがあるということです。
過去の投稿はいつまでも証拠として残ります
ネット上での「匿名」は、言葉通りの意味での「匿名」ではありません。匿名で投稿したコメントであっても、不適切だと感じたユーザーがサービスの運営者にIPアドレスの開示請求をし、プロバイダに個人情報の請求をすれば、特定されることがあります。また過去の投稿であっても、ログが残っていれば証拠になり得ます。仮に自分の投稿が削除されたり、運営者から注意を受けたりした場合は、それを警告と捉え、少し冷静になって自分の発言を見直した方がいいかもしれません。
大切なのは「感情的にならず、相手を尊重すること」
では、自分が誹謗中傷とされるコメントを書き込まないためには何が必要なのでしょうか。山口先生は「いちばん重要なのは感情的にならないこと」だと話します。
「怒りを覚えた時や自分が正しいと思った時こそ、一呼吸置くことが大事です。さらには、他者を尊重するという当たり前の道徳心を忘れないことも重要です。自分が言われて著しく傷つくか、尊重の欠けた文章ではないか、それは本当に事実か。投稿する前に少し考えた方がいいかもしれません」
その上で、山口先生が特に重要だと考えるOK／NGの具体的な線引きは、「人格攻撃が含まれているかどうか」によるのだそうです。
OK／NGコメントの具体例
▼OK（事実・考えに対しての批判）
「〇〇さんの△△という考えは間違っていると思う。」
▼NG（人格に対しての攻撃）
「〇〇さんは何もわかってない。ただの馬鹿」
重要なのは、批判的なコメントをする際にも、相手の人となりや人格を尊重してディスカッションをすること。逆に言えば、自分が受け手側になった場合でも、事実に対する批判を「自分への攻撃」だと勘違いしないことも重要でしょう。
自分が誹謗中傷を受けた場合の対処法
逆に自分が誹謗中傷された場合は、相手を煽らないこと、レスポンスをしないこと、できればミュートやブロックをして会話を終わりにすること、万が一裁判になったときのために、誹謗中傷にあたるコメントのスクリーンショットを保存しておくことなどが有効です。
変わる必要があるのはユーザーだけじゃない
一方、「プラットフォーム」と呼ばれるサービス側にも、誹謗中傷を減らすためにできることはあります。
「例えば、明らかに悪質なコメントなどは、AIを導入することで機械的に振り分けることが必要かもしれません。あるいは、関連性の低いコメントは削除するのではなく、並び替えによって見えにくい場所に移動させるなど工夫すれば、より表現の自由とのバランスが取れるでしょう。建設的な議論をしやすい仕組みをどうやったら実現できるのか、プラットフォーム側が考えることも重要です」
山口さんが考える、誹謗中傷の加害者にならないためのポイントをまとめると、次のようになります。
① インターネットの「ごく少数の極端な意見を持つ人たちのコメントが集まりやすい」という特徴を理解する。
② 感情的にならず、一呼吸置いてから投稿する。その際は相手を尊重し、人格攻撃をしない。
その上で、「不適切コメント対策はユーザーとプラットフォーム双方が考えるべき問題」だと指摘します。では、Yahoo!ニュースの場合はどのような対策をとっているのでしょうか。
誰にとっても心地よいネット社会を目指して。Yahoo!ニュース コメント健全化のための新たな取り組み
Yahoo!ニュースでは、法令・公序良俗に反する内容や悪質な批判、スパム投稿、さらには報じられているニュースと関連性が薄いコメントの投稿を禁じています。こうした違反コメントへの対策として、専門チームのパトロールやAIによる機械的な判断など、さまざまな取り組みを行っています。
「Yahoo!ニュース」のコメント欄の役割と機能
Yahoo!ニュースでは2007年から、ユーザーが記事に対して意見や感想を投稿できるコメント欄を設置しています。Yahoo!ニュースのコメント欄は、他の人の意見や考えに触れることで自分の考えを改めて整理したり、ニュースをより深く多角的に理解したりすることが、課題解決や行動につながるきっかけになるという考えのもと、提供されています。
コメント欄健全化のためのさまざまな対策
Yahoo!ニュースではサービス開始当初より、コメント欄健全化のためにさまざなま対策を行ってきました。現在行っているのは、主に以下の取り組み。
- 禁止行為の明示
- 不適切コメントの事前抑止
- 人力でのパトロール
- AIを活用した対策
個人の特定が可能な情報を含むコメントや公序良俗に明確に反する内容、被害者や加害者、その親族および関係者などに対する人権侵害や誹謗中傷、いたずらやスパム投稿など、禁止となる投稿の内容は「コメントポリシー」で明示しています（全文はこちら）。
また、コメント入力の際には、ポリシー遵守を呼びかける文言を目立つ位置に表示しています。コメントポリシーを周知させることで、禁止行為を事前に抑止できると考えられるためです。さらにAIによって「不適切な可能性が高い」と判定されたコメントを数日以内に複数回投稿しているユーザーに対し、注意メッセージを掲出する取り組みも開始しました。
さらに、専門チームがパトロールし、書き込まれたコメントをチェックするほか、ユーザーの方に「違反申告」ボタンから違反投稿の申告をいただいたものについて、1件ずつ確認し、対応しています。
AIの導入によるコメント管理
これらの対策に加えて、「マルチポスト対策の強化（同じ文章を短期間に繰り返す行為）」や「複数アカウントからの投稿の制限」などを行っています。
また、2014年以降は機械学習を導入、さらに2019年には最先端の深層学習を用いた自然言語処理モデルを導入し、さらにその学習に圧倒的な処理性を持つスーパーコンピュータ「kukai」を用いることで、「記事と関連性の低いコメント」や「暴力的、差別的、過度に品位に欠ける等のコメント」を機械的に判定できるようになりました。これにより、1日平均にして約2万件もの不適切コメントを削除することが可能になっています。
「数値」が文章を判断する？
「kukai」では、文章を形成する最小単位である文字ごとに「ベクトル（ここでは数値の羅列）」を付与した状態から計算をスタートし、単語同士の前後関係や文脈を踏まえたベクトルの加工・集約を経て、文章全体の意味を表した一つのベクトルに落とし込めるよう、自然言語処理モデルの学習を大量のテキストをもとに行っています。このような学習によってモデルが言葉を理解する能力を獲得し、「記事と関連性の低いコメント」などを機械的に判定できるようになるわけです。
とはいえ、現時点では、関連性の低いコメントのすべてを削除することはできません。そもそもコメントの中には、人力でチェックしても判断が分かれるものもあります。すべての疑わしいコメントを機械的に削除してしまうと、多くの罪のないコメントが巻き込まれることにもなりますよね。
あくまでも目指すのは、健全で安心して利用できる場をつくること。したがって、現実には「kukai」で学習した自然言語処理モデルと人力の両輪によって判断することになります。
「おすすめ順」にコメントが表示されている意味
また、不適切なコメントを判定・削除するだけでなく、より健全な議論を喚起・促進するために、建設的度合いの高いコメントを優先して表示するようにしています。というのも、コメント欄の上部に健全なコメントが表示されていると、それに続いて健全なコメントが投稿される傾向にあるからです（その逆も同様です）。
具体的には、AIによって判断された「客観的、証拠や根拠提示を含む」「新たな考え方、解決策、洞察がある」等の度合いが高いコメント、あるいは関連分野に精通する個人オーサーによる専門性の高いコメントが、「おすすめ」として上部に表示されるようになっています。
ユーザーとプラットフォームで作る、健全なネット社会
このように、誰にとっても心地よいネット社会を実現するために、コミュニケーションの場を提供するプラットフォーム側でもさまざまな工夫がなされているのです。
Yahoo!ニュースは先日、今回紹介したAI技術をSNSなどの投稿系サービス事業者へ提供することを発表しました。
誰もが予期せず加害者になり得る時代。健全なネット空間をつくるためには、ユーザーとプラットフォーム双方がそれぞれに役割を果たす必要があります。一人ひとりが正しいリテラシーを学ぶことで、より心地よく過ごせるネット環境をつくっていきたいものですね。
（掲載日：2020年8月18日）
文：山田宗太朗
編集：エクスライト
