ニュース
» 2018年12月05日 17時15分 公開

Tumblr、AI誤判定でどう見ても性的要素のない画像にまで違反警告が届く 「かわいい動物のイラスト」「脱ぎ捨てたブーツの写真」など

既に訂正メールも届き始めているようです。

[福田瑠千代,ねとらぼ]

 Tumblrの新しいガイドラインが12月4日に発表され、成人向けコンテンツが禁止になることが明らかになりました(関連記事)。Tumblrは早速今後禁止になる画像に対し警告を送り初めています。

 ところが、なんら性的な要素を含まない画像にまで違反コンテンツであるとの警告が来たとして、Tumblrユーザーの間で話題に。SNSではAIが何を違反コンテンツと判断するかを探る大喜利が盛り上がる事態に発展しています。



 新しいガイドラインで成人向けコンテンツとして例示されているのは「人間の性器や乳首を露出した女性の画像、動画、GIF」「写真のようにリアルな描写された人間にそっくりなものや見間違うレベルのリアルな画像」「性行為を連想させる画像、動画、GIF」といったもの。



 ところがユーザーからは「ドラゴンや動物のイラスト」「ゲーム内の風景の画像」「脱ぎ捨てたブーツの写真」といった全く性的でない画像にも警告が届いている様子。また、ガイドラインを読む限りでは男性の乳首はセーフのはずなのに、お相撲さんの写真や、水浴びをするプーチン大統領の写真にまで警告が届いていることが報告されています。



 コンテンツの確認は基本的にAIと、それを管理する運用チームによって行われています。Tumblrは「間違いがあることが予想されるが、コミュニティー内で幅広い表現ができるよう最善を尽くす」としていました。スタッフブログでは、今後は違反をチェックするスタッフの増員や、機械学習の精度を向上させていくとの説明も。

 12月5日になり、誤って違反コンテンツ認定されてしまったユーザーに対しては訂正メールも届き始めているようです。誤って違反通知が来てしまった場合は、一度申し立てをしてみるのが良さそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

先週の総合アクセスTOP10

先月の総合アクセスTOP10

  1. 田中将大、石川佳純ら卓球女子との集合ショットに反響 「夢の共演」「どちらから声を掛けたのか気になる」
  2. 田中将大の五輪オフショット集、最後は柔道・阿部詩との2ショットでシメ! “モテ男”の期待裏切らず「美女好きですね〜」
  3. 「マジで恥ずかしいです」 中川翔子、数年ぶりの“水着披露”に恥じらいつつもマネジャー大絶賛「スタイルめっちゃいいすね!」
  4. 里田まい、楽天ユニフォーム姿の長男に「違う、そうじゃない」 父・田中将大選手そっちのけの推し愛にツッコミの嵐
  5. 野々村真、動画で退院を報告 やつれた姿に衝撃広まる「コロナがより怖くなった」「ガリガリで衝撃を受けたわ」
  6. 「薬を問われ、アル中だと言われ」 西山茉希、“うわさ”ささやかれる痩せ体形に「懸命なもんでご了承願います」
  7. 柴犬「メシ、よこさんかーい!!(激怒)」 ごはんを忘れた飼い主に皿をぶん投げる柴犬、荒ぶる姿に「爆笑した」
  8. レイザーラモンRG、コロナ療養で“10キロ減”を告白 「顔が変わっちゃいました」とやつれた姿で復帰報告
  9. 海外記者「最高のコンビニアイスを発見した」 森永チョコモナカジャンボ、ついに世界に見つかってしまう
  10. 「ついついキレイな部分ばかり載せたくなりますが」 小倉優子が公開したインスタの“現実”に「勝手に親近感が」「共感しかない」