AIで有名人に顔を差し替えたフェイクポルノの投稿が増加

削除の動きも。

» 2018年02月01日 15時44分 公開
[ねとらぼ]

 ポルノ俳優の顔をAI(人工知能)を使って有名人と差し替えた“フェイクポルノ”が増加している問題を、海外の複数のメディアが伝えています。

 発端は2017年12月に、掲示板サイトのユーザーがAIを使って顔をすげ替えるツールや、顔を人気女優に差し替えたフェイクポルノ動画を投稿したこと。このツールはGoogleが公開している技術を使用していました。ニュースサイトMotherboardによると、動画はよく見ると不自然だけどパッと見はだまされる出来とのこと。その後、別のユーザーが簡単に使えるツールを公開し、フェイクポルノの投稿は増えたといいます。

advertisement
加工ツールは10万ダウンロードを超えたとのこと(編集部で一部加工)

 投稿が広まる一方で、削除に乗り出す動きも見られます。こうした動画の投稿にはGIF投稿サイト「Gfycat」が多く使われていたそうですが、Gfycatは対策を開始したようで、Gfycatに投稿すると消されるとユーザーが報告しています。GfycatはニュースサイトThe Vergeに「規約により問題があるとみなしたコンテンツは削除できる。このコンテンツを積極的に削除している」とコメント。また、チャットサービスDiscordが、フェイクポルノを共有するチャットグループを閉鎖したとも報じられています

 AIを使って顔写真を笑顔にするアプリが登場したり(関連記事)、音声データから口の動きをリアルに再現するシステムが開発されたりする(関連記事)などAIによる画像処理は進化しています。利便性をもたらす一方で、使い方によってはこのような問題も起こることが浮き彫りになっています。

便利な技術も、使い方によっては問題が

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10
  1. /nl/articles/2503/03/news065.jpg 【べらぼう】“問題のシーン”、「子供に見せられない」 身体張った27歳俳優へ「演技やばくない?」
  2. /nl/articles/2503/03/news015.jpg 幼くてかわいらしい兄妹が4年後…… 同じポーズで撮影した“現在の姿”に「これはあかん」「よすぎて声出ました」
  3. /nl/articles/2503/04/news141.jpg YouTuberエミリン、体重“20キロのリバウンド”を報告 ビフォーアフターに指原莉乃が心配
  4. /nl/articles/2503/03/news191.jpg 安達祐実、娘の“顔出し”ショットに「口元そっくり」「似てる」の声 高校卒業で祝福の声相次ぐ
  5. /nl/articles/2503/03/news193.jpg 「なにわ男子」の“広告ポスター消失”に怒りの声 「盗難?事故?」憶測も…… 企業の回答は?
  6. /nl/articles/2503/04/news043.jpg 「うちの子が選んだ裁縫セット……」“クラスの視線ひとりじめ”なセンスに母絶句 「え?嘘でしょ」「メッチャ欲しい」と500万表示
  7. /nl/articles/2503/03/news134.jpg 普通の塩を1500度の超高温に加熱→水に入れたら…… “衝撃の実験結果”が1600万再生「今年1番爆笑したw」
  8. /nl/articles/2502/24/news057.jpg 【べらぼう】「なにこの美しさ…」 新キャストの“38歳俳優”、剃髪姿に「スーパー男前」「かっこよすぎ」
  9. /nl/articles/2503/04/news016.jpg 「こういう恋したかった」 中学2年のとき付き合い始めた“同級生カップル”が11年後…… 現在の姿に大反響「すごくて鳥肌たった」
  10. /nl/articles/2503/03/news027.jpg 「洗濯機が壊れた!」→修理を頼む前によくよく調べてみると…… 「えぇ~」“まさかの原因”が200万表示「何度もやりました」
先週の総合アクセスTOP10
  1. 【べらぼう】“問題のシーン”、「子供に見せられない」 身体張った27歳俳優へ「演技やばくない?」
  2. 40代女性、デートに行くため“本気でメイク”したら…… 別人級の仕上がりに「すごいな」「めっちゃ乙女感出てる」
  3. 30年以上前の製品がかっこいい ソニーの小型ラジオのデザインが「すごい好き」「いまでも通用しそう」
  4. 幼くてかわいらしい兄妹が4年後…… 同じポーズで撮影した“現在の姿”に「これはあかん」「よすぎて声出ました」
  5. 「早く買えば良かった」 無印の1490円“本格せいろ”が690万表示の反響 「ほぼ毎日使ってる」「まっっじでいい」と感動の声
  6. ごはん炊き忘れた父「いいこと閃いた!」→完成した弁当に爆笑「アンタすげぇよ!」 息子「意味ねぇことすんなよ」
  7. 使わなくなった折りたたみ傘→切って縫うだけで…… 驚きのアイテムに変身「こうすればよかったのか!」「見事」【海外】
  8. 高3女子「進学を機にイメチェンしたい」→美容師に依頼すると…… 仕上がりが「すげえええ」「鳥肌立ちました」と1000万再生
  9. とんでもない量の糸をくれた先輩→ママがお返しに作ったのは…… 完成した“かわいいアイテム”に「絶対喜ばれるやつ!」
  10. 「洗濯機が壊れた!」→修理を頼む前によくよく調べてみると…… 「えぇ~」“まさかの原因”が200万表示「何度もやりました」
先月の総合アクセスTOP10
  1. 最初に軽く結ぶだけで…… 2000万再生された“マフラーの巻き方”に反響「これは使える」「素晴らしいアイデア」【海外】
  2. コメダ珈琲店で朝、ミックスサンドとコーヒーを頼んだら…… “とんでもない事態”に爆笑「恐るべし」「コントみたい」
  3. パパに抱っこされる娘、13年後の成人式に同じ場所とポーズで再現したら…… 「お父さん若返った?笑」「時止まってる」2人の姿に驚き
  4. 和菓子屋で、バイトの子に難題“はさみ菊”を切らせてみたら……「将来有望」と大反響 その後どうなった?現在を聞いた
  5. 古いバスタオルをザクザク切って縫い付けると…… 目からウロコの再利用に「すてきなアイデア」【海外】
  6. 「14歳でレコ大受賞」 人気アイドルがセクシー女優に転身した理由明かす 家族、メンバー、ファンの“意外な反応”
  7. 希少性ガンで闘病中だったアイドル、死去 「言葉も発せないほどの痛み」母親が闘病生活を明かす
  8. “きれいな少年”が大人になったら→「なんでそうなったw」姿に驚がく 「イケメンの無駄遣い」「どっちも好きです!笑」
  9. ドブで捕獲したザリガニを“清らかな天然水”で2週間育てたら…… 「こりゃすごい」興味深い結末が195万再生「初めて見た」
  10. 芸能界引退した「ショムニ」主演の江角マキコ、58歳の近影にネット衝撃「エグすぎた」 突然顔出しした娘とのやりとりも話題に