ニュース
» 2018年12月05日 17時15分 公開

Tumblr、AI誤判定でどう見ても性的要素のない画像にまで違反警告が届く 「かわいい動物のイラスト」「脱ぎ捨てたブーツの写真」など

既に訂正メールも届き始めているようです。

[福田瑠千代,ねとらぼ]

 Tumblrの新しいガイドラインが12月4日に発表され、成人向けコンテンツが禁止になることが明らかになりました(関連記事)。Tumblrは早速今後禁止になる画像に対し警告を送り初めています。

 ところが、なんら性的な要素を含まない画像にまで違反コンテンツであるとの警告が来たとして、Tumblrユーザーの間で話題に。SNSではAIが何を違反コンテンツと判断するかを探る大喜利が盛り上がる事態に発展しています。



 新しいガイドラインで成人向けコンテンツとして例示されているのは「人間の性器や乳首を露出した女性の画像、動画、GIF」「写真のようにリアルな描写された人間にそっくりなものや見間違うレベルのリアルな画像」「性行為を連想させる画像、動画、GIF」といったもの。



 ところがユーザーからは「ドラゴンや動物のイラスト」「ゲーム内の風景の画像」「脱ぎ捨てたブーツの写真」といった全く性的でない画像にも警告が届いている様子。また、ガイドラインを読む限りでは男性の乳首はセーフのはずなのに、お相撲さんの写真や、水浴びをするプーチン大統領の写真にまで警告が届いていることが報告されています。



 コンテンツの確認は基本的にAIと、それを管理する運用チームによって行われています。Tumblrは「間違いがあることが予想されるが、コミュニティー内で幅広い表現ができるよう最善を尽くす」としていました。スタッフブログでは、今後は違反をチェックするスタッフの増員や、機械学習の精度を向上させていくとの説明も。

 12月5日になり、誤って違反コンテンツ認定されてしまったユーザーに対しては訂正メールも届き始めているようです。誤って違反通知が来てしまった場合は、一度申し立てをしてみるのが良さそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10

  1. /nl/articles/2201/20/news011.jpg 飼い主の指をしゃぶりたい保護子猫、大声で激おこ→「満足です……Zzz」 別猫のようなビフォーアフターがかわいい
  2. /nl/articles/2201/20/news094.jpg 「今日もぐんぐんグルトは買えませんでした」 “雪に埋もれた自販機”を1カ月間観測し続けた道民に注目集まる
  3. /nl/articles/1902/28/news005.jpg 「お前やってることは法律に引っかかってんだよ!」 コインハイブ事件、神奈川県警がすごむ取り調べ音声を入手
  4. /nl/articles/2201/20/news012.jpg 守りたい小さな背中の保護子猫が、5カ月後…… ずんぐりむっくりに成長したビフォーアフターに感動
  5. /nl/articles/2201/20/news010.jpg 「猫はコタツで丸くなるんですか?」「いいえ、雪道を猛ダッシュします」 兄姉犬と元気に散歩する猫がかわいい
  6. /nl/articles/2201/19/news025.jpg 「ペレットはお付けしますか?」 ハンバーグの注文でよく分からず「食後で」頼んでしまう4コマがシュール
  7. /nl/articles/2201/20/news154.jpg 「2人ともスタイルが流石!」「現役可愛い」 高島礼子&とよた真帆、デパ地下で遭遇した“50代美女”ショットに反響
  8. /nl/articles/2201/19/news024.jpg 昔出会った不思議な小学生、10数年前ぶりに家を訪れ「ゾクリッ」 実話怪談漫画の結末が不気味
  9. /nl/articles/2201/20/news079.jpg 3日ぶりに再会した子猫とハスキー、愛が爆発し…… 熱烈歓迎がとまらない子猫と諦めて受け入れるワンコが尊い
  10. /nl/articles/2201/20/news026.jpg 【漫画】「男の子の双子です」と言うと……「お家ボロボロにされるわよぉ」 アドバイスに戦慄するママに体験談集まる

先週の総合アクセスTOP10

  1. 勝手に「サービス終了ゲーム総選挙」をやったら6700票も集まってしまったので結果を発表します 2位の「ディバインゲート」を抑えて1位に輝いたのは……
  2. ママとの散歩中、田んぼにポチャンした柴犬さんが帰宅後…… パパに一生懸命アクシデントを報告する姿がいとおしい
  3. “26歳年の差婚”の菊池瑠々、第4子妊娠を発表「もう、とにかくうれしいです!」 年上の夫も満面の笑み
  4. 桐谷美玲、隠し撮りに「絶対ヤバい顔」 “ほぼ半目”な不意打ち写真に「100点満点に可愛い」と全力フォローの声
  5. 村田充、3匹目の愛犬の存在明かす 神田沙也加さんから引き取ったブルーザーとは「数日で仲良くなりまして」
  6. 三浦孝太、母・りさ子誕生日に“家族4ショット”でお祝い キングカズも笑顔の写真に「家族が1番!」
  7. バレー日本代表の清水邦広の再婚に盟友・福澤達哉さん「相手は私ではございません」 元妻は中島美嘉
  8. 「駅の待合室をバケモンが占領している」→“謎の生き物”の正体について大分県立美術館に話を聞いた
  9. 滝沢カレン、倖田來未の“バックダンサー”になりすまし 感極まって「人一人洗えるくらい泣きました」
  10. 宮崎駿愛用の「電動消しゴム」が故障 → サクラクレパス公式が倉庫の奥から発掘 Twitterが繋いだ温かな展開が話題に

先月の総合アクセスTOP10

  1. 「どん兵衛」新CMに星野源が復活も衝撃の新展開 “どんぎつね”吉岡里帆の正体明かされ「完全なホラー案件」「狂気を感じる」
  2. ハラミちゃん、“公称145センチ”も本当の身長にゴチメンバー驚き 「デカイっていわれるのが嫌になっちゃって……」
  3. 西川史子、退院を報告 「生きていて良かったと思っていない」と告白も、力強い現在の心境明かす「私は医師です」
  4. 「もうアヒル口」「美人確定ですね!」 板野友美、生後2カ月娘の“顔出しショット”にみんなメロメロ
  5. 「気ぃ狂いそう」 木下優樹菜、生配信中止で“涙のおわび動画” やらかしたスタッフに「生きてたらミスぐらいする」
  6. 東大王・鈴木光、“お別れの笑顔”で司法試験合格を報告「本当にありがとうございました」 SNS閉鎖に涙のエール続々
  7. 「こんな普通に現れるの?!」「バレそうで心配」 倖田來未、駅のホームに“普通に並ぶ”姿にファン驚き
  8. 母親から届いた「もち」の仕送り方法が秀逸 まさかの梱包アイデアに「この発想は無かった」「どストレートに餅で笑った」と称賛集まる
  9. 第1子妊娠のすみれ、母・松原千明と2年ぶりに涙の再会 「やっとママに会えました」と感動的な親子ショット公開
  10. 渡辺裕之、66歳バースデーで息子と2ショット 合同誕生日会に「すごいお料理とケーキ」「イケメン息子さん」