ネット上の会話を有益かつ円滑に グーグルが有害コメントを選別する人工知能ツールを導入

誹謗中傷で「言いたいことも言えない」こんな世の中を変えられる?

» 2017年02月24日 16時38分 公開
[橘 慧ねとらぼ]

 米グーグルはネット上で公開されているWebサイトなどに寄せられるコメント欄から不快なコメントを選別する人工知能ベースのツール「Perspective」を発表しました。嫌がらせなど有害コメントを減らす目的があります。


画像 米・グーグルのリリースより

 アメリカのネットユーザーのおよそ72%がWeb上での嫌がらせを目撃、または実際に自分が誹謗中傷などの攻撃にあったことがあるとのこと。これに対し、グーグルとタッグを組むJigsawの会長は「誹謗中傷コメントのせいで、自分の意見をはっきりと表明することに抵抗感をおぼえてしまい、他人の意見に同調してしまうという傾向の増加もあり得る。これでは各々が気になる話題に関して有益で円滑な会話ができなくなる」と懸念を表明。


画像 もしコメント欄に「この馬鹿野郎!」などの罵倒が書かれていたら不快感をおぼえたり、委縮してしまいますよね……

 「Perspective」はネット利用者が不快である、有害であると判断したコメントを人工知能が学習し、蓄積、分類を行えるソフトウェア。

 「Perspective」によって選別されたコメントに対しての対応もさまざま。読者がコメントを分類したり、調整者がニュースグループやメーリングリストに投稿されたコメントをチェックして話題にそぐわないものを排除することもできるとのこと。さらには「人を不快にさせるものである」と識別されたことコメントの投稿者本人にそのコメントを提示することも可能なのだとか。

 すでに毎日1万1000コメント以上が寄せられるというアメリカの新聞社ニューヨーク・タイムズなどと試験的に運用実験を行っているそうです。今後は機械学習ライブラリ・TensorFlowなども取り入れ、さらなる精度の向上を目指します。

 この有害コメント対策ツールがネット上のコミュニケーションの活性化に一役買うのか、はたまた逆に言いたいことが言えなくなりはしないのか? などさまざまな見解もはらみつつ、多言語対応などこれからの展開に注目が集まりそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

先週の総合アクセスTOP10
  1. 「現場を知らなすぎ」 政府広報が投稿「令和の給食」写真に批判続出…… 識者が指摘した“学校給食の問題点”
  2. 「二度と酒飲まん」 酔った勢いで通販で購入 → 後日届いた“予想外”の商品に「これ売ってるんだwww」
  3. 「思わず笑った」 ハードオフに4万4000円で売られていた“まさかのフィギュア”に仰天 「玄関に置いときたい」
  4. 「なぜ今になって……」 TikTokで“15年前”の曲が大流行 すでに解散の人気バンド…… ファン驚き 「戸惑いが隠せない」
  5. どういう意味……? 高橋一生&飯豊まりえの結婚発表文、“まさかのタイトル”に「ジワる」「笑ってしまう」
  6. サーティワンが“よくばりフェス”の「カップの品切れ」謝罪…… 連日大人気で「予想を大幅に上回る販売」
  7. “世界一美しいザリガニ”を入手→開封して見ると…… 絶句を避けられない姿と異変に「びっくり」「草間彌生作のザリガニみたい」
  8. 「誰かと思った」 楽天・田中将大の“激変した風貌”にファン驚き…… 「一瞬わからなかった」
  9. 複数逮捕&服役の小向美奈子、“クスリ”に手を出した理由が壮絶すぎ……交際相手の暴力で逃亡も命の危機 「バレてバルコニー伝って入られて」
  10. 耐火金庫に“溶岩”を垂らしてみたら…… “衝撃の結果”に実験者も思わず「なんだって!!!」と驚愕【海外】
先月の総合アクセスTOP10
  1. 庭に植えて大後悔した“悪魔の木”を自称ポンコツ主婦が伐採したら…… 恐怖のラストに「ゾッとした」「驚愕すぎて笑っちゃいましたw」
  2. 小1娘、ペンギンの卵を楽しみに育ててみたら…… 期待を裏切る生き物の爆誕に「声出して笑ってしまったw」「反応がめちゃくちゃ可愛い」
  3. 生後2カ月の赤ちゃんにママが話しかけると、次の瞬間かわいすぎる反応が! 「天使」「なんか泣けてきた」と癒やされた人続出
  4. 「歩行も困難…言動もままならず」黒沢年雄、妻・街田リーヌの病状明かす 介護施設入所も「急激に壊れていく…」
  5. 車検に出した軽トラの荷台に乗っていた生後3日の子猫、保護して育てた3年後…… 驚きの現在に大反響「天使が女神に」「目眩が」
  6. 「虎に翼」、新キャラの俳優に注目が集まる 「綺麗な人だね」「まさか日本のドラマでお目にかかれるとは!」
  7. 釣りに行こうとしたら、海岸に子猫が打ち上げられていて…… 保護後、予想だにしない展開に「神様降臨」「涙が止まりません」
  8. 身長174センチの女性アイドルに「ここは女性専用車両です!!!」 電車内で突如怒られ「声か、、、」と嘆き 「理不尽すぎる」と反響の声
  9. 築152年の古民家にある、ジャングル化した水路を掃除したら…… 現れた驚きの光景に「腰が抜けました」「ビックリ!」「先代の方々が」
  10. 「葬送のフリーレン」ユーベルのコスプレがまるで実写版 「ジト目が完璧」と27万いいねの好評