Tumblrの新しいガイドラインが12月4日に発表され、成人向けコンテンツが禁止になることが明らかになりました（関連記事）。Tumblrは早速今後禁止になる画像に対し警告を送り初めています。

　ところが、なんら性的な要素を含まない画像にまで違反コンテンツであるとの警告が来たとして、Tumblrユーザーの間で話題に。SNSではAIが何を違反コンテンツと判断するかを探る大喜利が盛り上がる事態に発展しています。

Tumblr

Tumblr

　新しいガイドラインで成人向けコンテンツとして例示されているのは「人間の性器や乳首を露出した女性の画像、動画、GIF」「写真のようにリアルな描写された人間にそっくりなものや見間違うレベルのリアルな画像」「性行為を連想させる画像、動画、GIF」といったもの。

Tumblr

Tumblrの新しいガイドライン

　ところがユーザーからは「ドラゴンや動物のイラスト」「ゲーム内の風景の画像」「脱ぎ捨てたブーツの写真」といった全く性的でない画像にも警告が届いている様子。また、ガイドラインを読む限りでは男性の乳首はセーフのはずなのに、お相撲さんの写真や、水浴びをするプーチン大統領の写真にまで警告が届いていることが報告されています。

　コンテンツの確認は基本的にAIと、それを管理する運用チームによって行われています。Tumblrは「間違いがあることが予想されるが、コミュニティー内で幅広い表現ができるよう最善を尽くす」としていました。スタッフブログでは、今後は違反をチェックするスタッフの増員や、機械学習の精度を向上させていくとの説明も。

　12月5日になり、誤って違反コンテンツ認定されてしまったユーザーに対しては訂正メールも届き始めているようです。誤って違反通知が来てしまった場合は、一度申し立てをしてみるのが良さそうです。