ニュース
» 2018年12月05日 17時15分 公開

Tumblr、AI誤判定でどう見ても性的要素のない画像にまで違反警告が届く 「かわいい動物のイラスト」「脱ぎ捨てたブーツの写真」など

既に訂正メールも届き始めているようです。

[福田瑠千代,ねとらぼ]

 Tumblrの新しいガイドラインが12月4日に発表され、成人向けコンテンツが禁止になることが明らかになりました(関連記事)。Tumblrは早速今後禁止になる画像に対し警告を送り初めています。

 ところが、なんら性的な要素を含まない画像にまで違反コンテンツであるとの警告が来たとして、Tumblrユーザーの間で話題に。SNSではAIが何を違反コンテンツと判断するかを探る大喜利が盛り上がる事態に発展しています。



 新しいガイドラインで成人向けコンテンツとして例示されているのは「人間の性器や乳首を露出した女性の画像、動画、GIF」「写真のようにリアルな描写された人間にそっくりなものや見間違うレベルのリアルな画像」「性行為を連想させる画像、動画、GIF」といったもの。



 ところがユーザーからは「ドラゴンや動物のイラスト」「ゲーム内の風景の画像」「脱ぎ捨てたブーツの写真」といった全く性的でない画像にも警告が届いている様子。また、ガイドラインを読む限りでは男性の乳首はセーフのはずなのに、お相撲さんの写真や、水浴びをするプーチン大統領の写真にまで警告が届いていることが報告されています。



 コンテンツの確認は基本的にAIと、それを管理する運用チームによって行われています。Tumblrは「間違いがあることが予想されるが、コミュニティー内で幅広い表現ができるよう最善を尽くす」としていました。スタッフブログでは、今後は違反をチェックするスタッフの増員や、機械学習の精度を向上させていくとの説明も。

 12月5日になり、誤って違反コンテンツ認定されてしまったユーザーに対しては訂正メールも届き始めているようです。誤って違反通知が来てしまった場合は、一度申し立てをしてみるのが良さそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10

  1. /nl/articles/2008/04/news130.jpg レディー・ガガ、渡辺直美の「Rain On Me」パロディーMVを絶賛 早くも“1000万回再生”に迫る勢いに
  2. /nl/articles/1808/22/news101.jpg 「訃報」「愛猫」「手風琴」って読める? 常用漢字表に掲載されている“難読漢字”
  3. /nl/articles/2008/03/news017.jpg 母犬「私の赤ちゃんを助けて……」 真冬の排水管で暮らすワンコ親子を保護→元気に成長した姿に涙があふれる
  4. /nl/articles/1809/03/news057.jpg 「稟議=りんぎ」「消耗=しょうもう」ではない? 現代人には分からない“漢字の本来の読み方”
  5. /nl/articles/2008/04/news071.jpg 「何で顔を隠すの?」 安藤美姫、娘とテレビ初共演 “顔出し”解禁は娘の一言が転機に
  6. /nl/articles/2008/03/news094.jpg 「子どものため」って何だろう? 手作りの食事にこだわりすぎてうつ病になったお母さんが、「ポテサラ事件」に思うこと
  7. /nl/articles/2008/03/news020.jpg ブロックたたき骨折、謎キノコ食べて下痢 無謀過ぎる男を描いた4コマ「マリオになりたかった男」ラストで感動が押し寄せる
  8. /nl/articles/2008/03/news109.jpg 「半沢直樹」大和田、再び“土下座”なるか? 伊佐山と裏で結託するも……怒濤の展開にネット考察盛り上がる
  9. /nl/articles/2008/03/news064.jpg LINEヘルスケア、悩む人に「死ぬのが正解」「低レベル」「ガキンチョ」と言い放ち炎上 登録医師の「利用規約違反」があったと謝罪
  10. /nl/articles/1906/06/news080.jpg 「顔はお父さん、全体はお母さんの遺伝子が」 仲村トオルの娘・ミオが初グラビア、“176センチ”の抜群なスタイル披露