Facebook、町の名前を「ビッチ（Bitch）」と誤判定か？ フランスの町「ビッチュ（Bitche）」公式ページをうっかり削除（1/2 ページ）

アルゴリズムで自動処理されたようです。

[関口雄太，ねとらぼ]

　フランス北東部に位置する町「ビッチュ（Bitche）」の公式Facebookページが予告なしに削除され、その後一カ月ほど削除された状態が続いていたと町長が発表しました。

「ビッチュ」公式Facebookページ（画像はFacebookより）

　ビッチュの発表によれば、3月19日に「規約違反のためページを削除した」とFacebookから通告を受けたとのこと。ビッチュのスペルは「Bitche」で、英語の侮辱的な表現のスペルと似ていることから、アルゴリズムによる自動判定で処理されたものと推測しています。

　ビッチュがFacebookに異議を申し立てたところ、約1カ月後の4月13日にページが復旧し、FacebookフランスのCEOから謝罪が届いたといいます。ビッチュ町長は「担当者にマーク・ザッカーバーグ氏と町を訪れて、歴史と美しさを体験してほしい」と返答しました。

　Facebookは海外メディアからの取材に対して「ページを誤って削除した」と対応が間違いによるものだと明かしました。町長は「SNSが違法や有害コンテンツを排除する責任をもつのは喜ばしいこと」と語りつつも、「規制ツールの限界を浮き彫りにしている」「目視確認が人工知能の処理よりも上の立場にあると考えるのは問題だ」と問題意識を主張しています。

「ビッチュ（Bitche）」の町の様子