ニュース
» 2017年02月24日 16時38分 公開

ネット上の会話を有益かつ円滑に グーグルが有害コメントを選別する人工知能ツールを導入

誹謗中傷で「言いたいことも言えない」こんな世の中を変えられる?

[橘 慧,ねとらぼ]

 米グーグルはネット上で公開されているWebサイトなどに寄せられるコメント欄から不快なコメントを選別する人工知能ベースのツール「Perspective」を発表しました。嫌がらせなど有害コメントを減らす目的があります。


画像 米・グーグルのリリースより

 アメリカのネットユーザーのおよそ72%がWeb上での嫌がらせを目撃、または実際に自分が誹謗中傷などの攻撃にあったことがあるとのこと。これに対し、グーグルとタッグを組むJigsawの会長は「誹謗中傷コメントのせいで、自分の意見をはっきりと表明することに抵抗感をおぼえてしまい、他人の意見に同調してしまうという傾向の増加もあり得る。これでは各々が気になる話題に関して有益で円滑な会話ができなくなる」と懸念を表明。


画像 もしコメント欄に「この馬鹿野郎!」などの罵倒が書かれていたら不快感をおぼえたり、委縮してしまいますよね……

 「Perspective」はネット利用者が不快である、有害であると判断したコメントを人工知能が学習し、蓄積、分類を行えるソフトウェア。

 「Perspective」によって選別されたコメントに対しての対応もさまざま。読者がコメントを分類したり、調整者がニュースグループやメーリングリストに投稿されたコメントをチェックして話題にそぐわないものを排除することもできるとのこと。さらには「人を不快にさせるものである」と識別されたことコメントの投稿者本人にそのコメントを提示することも可能なのだとか。

 すでに毎日1万1000コメント以上が寄せられるというアメリカの新聞社ニューヨーク・タイムズなどと試験的に運用実験を行っているそうです。今後は機械学習ライブラリ・TensorFlowなども取り入れ、さらなる精度の向上を目指します。

 この有害コメント対策ツールがネット上のコミュニケーションの活性化に一役買うのか、はたまた逆に言いたいことが言えなくなりはしないのか? などさまざまな見解もはらみつつ、多言語対応などこれからの展開に注目が集まりそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10

  1. /nl/articles/2110/27/news100.jpg 戸田恵梨香、水川あさみと同様に長文公開 「私を追いかけて、どうか車の事故を起こさぬようお気をつけください」
  2. /nl/articles/2110/27/news095.jpg 水川あさみ、週刊誌に対して怒りの反論 「事実無根だと言っても強行突破で発売」「かなり目に余るものがあります」
  3. /nl/articles/1904/10/news098.jpg 賀来賢人、“フライデー被害風”写真が超リアル! 「本当にそろそろやめてね」と写真週刊誌への本音も
  4. /nl/articles/2110/25/news149.jpg 「くそが……!」 最上もが、奮発した「Uber Eats」の対応に怒り爆発 1400円ステーキの“中身”に「絶望」「もう頼まねえ」
  5. /nl/articles/2110/27/news109.jpg 「納言」 薄幸、テレ朝で警備員からまさかのシャットアウト “牢獄みたいな薄暗い部屋”へ閉じ込められる事態に
  6. /nl/articles/2110/27/news025.jpg 猫よけをびっちり置いた結果……子猫が!? ちんまりくつろぐ姿に「仲間がいた」「何やっても人間の負け」と爆笑
  7. /nl/articles/2110/26/news040.jpg ニトリで猫用ベッドを購入→「大変気に入ってるようです」 笑撃のオチに「そっちだよね」「猫あるある〜」の声
  8. /nl/articles/2101/23/news043.jpg 水川あさみ、5キロ増の“愛しきぜい肉”ショットが女優の勲章 「リアルお母さん体型」「気取らないとこが素敵」と反響
  9. /nl/articles/2110/20/news052.jpg 「PS5購入者は箱に名前を書いてもらう」ノジマはなぜ転売ヤーを許さないのか? 苛烈な転売対策の背景を担当者に聞いた
  10. /nl/articles/2110/26/news181.jpg 「学校へ行こう!」出演のパークマンサー、V6へ感謝のメッセージ 「ホントにホントにありがと言っちゃうアホだよ」

先週の総合アクセスTOP10

  1. 「くそが……!」 最上もが、奮発した「Uber Eats」の対応に怒り爆発 1400円ステーキの“中身”に「絶望」「もう頼まねえ」
  2. 伊藤かずえ、13年間ともにした愛車とお別れ 総走行距離は14万キロ超で「今まで本当に有り難う」と感謝
  3. 庄司智春、愛車ダッジ・チャレンジャーが廃車に ガソリンスタンドで炎上、ボンネットから発煙し「やばい」
  4. 山本美月、ウエディングドレス姿がまるで「妖精」 母親のドレスをリメイクし背中に“羽”
  5. 「シーンとなった球場に俺の歌声がして……」 上地雄輔、後輩・松坂大輔の引退試合で“まさかのサプライズ”に感激
  6. シャンプーしたての柴犬に、猫がクンクン近づいて…… 何年たっても仲の良い姿に心がほかほか癒やされる
  7. ニトリで猫用ベッドを購入→「大変気に入ってるようです」 笑撃のオチに「そっちだよね」「猫あるある〜」の声
  8. じゃれ合う保護子猫たち、1匹が逃げ込んだのはまさかの…… ダッシュする姿に「一番安心だと知ってる」「爆笑した」の声
  9. 元SKE石田安奈、第1子出産後のぽっこりおなかに驚愕 産んだらへこむと思っていたのに「もう1人いるの!?」
  10. 産み捨てられた未熟児の子猫を保護、生死をさまよったが…… すくすく育った1カ月後のビフォーアフターに涙