ニュース
» 2018年12月05日 17時15分 公開

Tumblr、AI誤判定でどう見ても性的要素のない画像にまで違反警告が届く 「かわいい動物のイラスト」「脱ぎ捨てたブーツの写真」など

既に訂正メールも届き始めているようです。

[福田瑠千代,ねとらぼ]

 Tumblrの新しいガイドラインが12月4日に発表され、成人向けコンテンツが禁止になることが明らかになりました(関連記事)。Tumblrは早速今後禁止になる画像に対し警告を送り初めています。

 ところが、なんら性的な要素を含まない画像にまで違反コンテンツであるとの警告が来たとして、Tumblrユーザーの間で話題に。SNSではAIが何を違反コンテンツと判断するかを探る大喜利が盛り上がる事態に発展しています。



 新しいガイドラインで成人向けコンテンツとして例示されているのは「人間の性器や乳首を露出した女性の画像、動画、GIF」「写真のようにリアルな描写された人間にそっくりなものや見間違うレベルのリアルな画像」「性行為を連想させる画像、動画、GIF」といったもの。



 ところがユーザーからは「ドラゴンや動物のイラスト」「ゲーム内の風景の画像」「脱ぎ捨てたブーツの写真」といった全く性的でない画像にも警告が届いている様子。また、ガイドラインを読む限りでは男性の乳首はセーフのはずなのに、お相撲さんの写真や、水浴びをするプーチン大統領の写真にまで警告が届いていることが報告されています。



 コンテンツの確認は基本的にAIと、それを管理する運用チームによって行われています。Tumblrは「間違いがあることが予想されるが、コミュニティー内で幅広い表現ができるよう最善を尽くす」としていました。スタッフブログでは、今後は違反をチェックするスタッフの増員や、機械学習の精度を向上させていくとの説明も。

 12月5日になり、誤って違反コンテンツ認定されてしまったユーザーに対しては訂正メールも届き始めているようです。誤って違反通知が来てしまった場合は、一度申し立てをしてみるのが良さそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10

  1. /nl/articles/2104/18/news019.jpg 武田真治、世界限定500台の愛車「ダッジチャレンジャー MOPAR10」を初公開 “ゴジラ怪獣”仕様のテールランプに「後ろ姿カッコいい」とご満悦
  2. /nl/articles/2104/18/news007.jpg 「生後8カ月でこの大きさ!?」「おっきい猫ちゃん最高ですね」 デカモフに成長した子猫のビフォーアフターに称賛集まる
  3. /nl/articles/2104/17/news036.jpg ガンプラ用の塗装ペン「ガンダムメッキシルバー」がピカピカに塗れてすごいと話題 プラスチック製スプーンが塗っただけで輝く!
  4. /nl/articles/2104/18/news008.jpg オヤツの時間に、猫たちが乱入してきて…… 大乱闘を始める猫ちゃんとあきれる息子くんの光景が面白い
  5. /nl/articles/2102/02/news012.jpg 台風の雨の日に出会った小さな猫→でっかい猫に! 貫禄たっぷりに大成長した姿に「よかったね」「幸せそう」の声
  6. /nl/articles/2012/15/news014.jpg 「メインクーンの成長恐るべし」 手のひらに乗っていた子猫時代→現在のビフォーアフターが想像を超えていく
  7. /nl/articles/2104/17/news006.jpg 「なんかデカくないですか?」「軽く恐怖感じた笑」 飼い主を出迎えるポメラニアンの姿に驚きの声
  8. /nl/articles/2104/18/news001.jpg 猫「これは一体なんなのニャ……」 ポップコーンマシンに興味津々な猫ちゃんがかわいい
  9. /nl/articles/2104/18/news023.jpg サンシャイン池崎、「エヴァQ」3分解説が空前絶後の分かりやすさ “碇シンジ=小島よしお”の謎設定が天才的
  10. /nl/articles/2104/18/news005.jpg 「パパとママ守る、だからね……」 ほのぼのムードから急にキルアみたいなことを言う娘の漫画が怖くて笑う