ネット上の会話を有益かつ円滑に　グーグルが有害コメントを選別する人工知能ツールを導入

　米グーグルはネット上で公開されているWebサイトなどに寄せられるコメント欄から不快なコメントを選別する人工知能ベースのツール「Perspective」を発表しました。嫌がらせなど有害コメントを減らす目的があります。

米・グーグルのリリースより

　アメリカのネットユーザーのおよそ72％がWeb上での嫌がらせを目撃、または実際に自分が誹謗中傷などの攻撃にあったことがあるとのこと。これに対し、グーグルとタッグを組むJigsawの会長は「誹謗中傷コメントのせいで、自分の意見をはっきりと表明することに抵抗感をおぼえてしまい、他人の意見に同調してしまうという傾向の増加もあり得る。これでは各々が気になる話題に関して有益で円滑な会話ができなくなる」と懸念を表明。

もしコメント欄に「この馬鹿野郎！」などの罵倒が書かれていたら不快感をおぼえたり、委縮してしまいますよね……

　「Perspective」はネット利用者が不快である、有害であると判断したコメントを人工知能が学習し、蓄積、分類を行えるソフトウェア。

　「Perspective」によって選別されたコメントに対しての対応もさまざま。読者がコメントを分類したり、調整者がニュースグループやメーリングリストに投稿されたコメントをチェックして話題にそぐわないものを排除することもできるとのこと。さらには「人を不快にさせるものである」と識別されたことコメントの投稿者本人にそのコメントを提示することも可能なのだとか。

　すでに毎日1万1000コメント以上が寄せられるというアメリカの新聞社ニューヨーク・タイムズなどと試験的に運用実験を行っているそうです。今後は機械学習ライブラリ・TensorFlowなども取り入れ、さらなる精度の向上を目指します。

　この有害コメント対策ツールがネット上のコミュニケーションの活性化に一役買うのか、はたまた逆に言いたいことが言えなくなりはしないのか？　などさまざまな見解もはらみつつ、多言語対応などこれからの展開に注目が集まりそうです。

• ニュースリリース（グーグル）