ニュース
» 2017年02月24日 16時38分 公開

ネット上の会話を有益かつ円滑に グーグルが有害コメントを選別する人工知能ツールを導入

誹謗中傷で「言いたいことも言えない」こんな世の中を変えられる?

[橘 慧,ねとらぼ]

 米グーグルはネット上で公開されているWebサイトなどに寄せられるコメント欄から不快なコメントを選別する人工知能ベースのツール「Perspective」を発表しました。嫌がらせなど有害コメントを減らす目的があります。


画像 米・グーグルのリリースより

 アメリカのネットユーザーのおよそ72%がWeb上での嫌がらせを目撃、または実際に自分が誹謗中傷などの攻撃にあったことがあるとのこと。これに対し、グーグルとタッグを組むJigsawの会長は「誹謗中傷コメントのせいで、自分の意見をはっきりと表明することに抵抗感をおぼえてしまい、他人の意見に同調してしまうという傾向の増加もあり得る。これでは各々が気になる話題に関して有益で円滑な会話ができなくなる」と懸念を表明。


画像 もしコメント欄に「この馬鹿野郎!」などの罵倒が書かれていたら不快感をおぼえたり、委縮してしまいますよね……

 「Perspective」はネット利用者が不快である、有害であると判断したコメントを人工知能が学習し、蓄積、分類を行えるソフトウェア。

 「Perspective」によって選別されたコメントに対しての対応もさまざま。読者がコメントを分類したり、調整者がニュースグループやメーリングリストに投稿されたコメントをチェックして話題にそぐわないものを排除することもできるとのこと。さらには「人を不快にさせるものである」と識別されたことコメントの投稿者本人にそのコメントを提示することも可能なのだとか。

 すでに毎日1万1000コメント以上が寄せられるというアメリカの新聞社ニューヨーク・タイムズなどと試験的に運用実験を行っているそうです。今後は機械学習ライブラリ・TensorFlowなども取り入れ、さらなる精度の向上を目指します。

 この有害コメント対策ツールがネット上のコミュニケーションの活性化に一役買うのか、はたまた逆に言いたいことが言えなくなりはしないのか? などさまざまな見解もはらみつつ、多言語対応などこれからの展開に注目が集まりそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10

  1. /nl/articles/2105/13/news131.jpg 「なんて品の無い番組だろう」 光浦靖子、手作りした作品を笑い飛ばした番組演出にファンから怒りの声
  2. /nl/articles/1607/05/news111.jpg TBS、「行き過ぎた編集」で謝罪 バラエティー番組で出演者の姿を意図的に消すなどしていた問題
  3. /nl/articles/2105/13/news008.jpg 「子猫とは思えない」「前世はゴルゴかな?」 飼い主を起こしに来た子猫の表情が“必殺仕事人”の貫禄
  4. /nl/articles/2105/13/news014.jpg サーバーに魔よけのお札を!? 神頼みのIT企業描くギャグ漫画に「案外ウソでもない」と業界から証言
  5. /nl/articles/2105/12/news162.jpg 「USB 3.0機器はゆっくり差すと2.0、素早く差すと3.0として認識される」って本当? →メーカー「本当です」
  6. /nl/articles/2105/13/news011.jpg 夜にキッチンの窓から見た人影 振り返ってみると恐ろしかった出来事を描いた漫画がゾクッとする
  7. /nl/articles/2104/30/news103.jpg TBS「クレイジージャーニー」“ヤラセ発覚”から1年半ぶりに復活 「めっちゃ嬉しい!」「レギュラー復活を」と喜びの声あがる
  8. /nl/articles/2105/13/news105.jpg 【ぞっとする実話】泥酔したとき友だち面したおじさんに連れていかれそうになるも、介抱してくれた人が放った一言で見事に追い払った
  9. /nl/articles/2105/13/news015.jpg なぜ猫は何年たってもかわいいのか?→“猫に記憶を消されている説” 飽きない理由を描いた漫画に「すげえ納得した」の声
  10. /nl/articles/2105/10/news103.jpg エレベーターで小学生姉弟がハグ→理由を聞くと…… マスクを忘れた子どもの対処法を描いた漫画に胸がぎゅっとなる

先週の総合アクセスTOP10