ニュース
» 2018年02月01日 15時44分 公開

AIで有名人に顔を差し替えたフェイクポルノの投稿が増加

削除の動きも。

[ねとらぼ]

 ポルノ俳優の顔をAI(人工知能)を使って有名人と差し替えた“フェイクポルノ”が増加している問題を、海外の複数のメディアが伝えています。

 発端は2017年12月に、掲示板サイトのユーザーがAIを使って顔をすげ替えるツールや、顔を人気女優に差し替えたフェイクポルノ動画を投稿したこと。このツールはGoogleが公開している技術を使用していました。ニュースサイトMotherboardによると、動画はよく見ると不自然だけどパッと見はだまされる出来とのこと。その後、別のユーザーが簡単に使えるツールを公開し、フェイクポルノの投稿は増えたといいます。

加工ツールは10万ダウンロードを超えたとのこと(編集部で一部加工)

 投稿が広まる一方で、削除に乗り出す動きも見られます。こうした動画の投稿にはGIF投稿サイト「Gfycat」が多く使われていたそうですが、Gfycatは対策を開始したようで、Gfycatに投稿すると消されるとユーザーが報告しています。GfycatはニュースサイトThe Vergeに「規約により問題があるとみなしたコンテンツは削除できる。このコンテンツを積極的に削除している」とコメント。また、チャットサービスDiscordが、フェイクポルノを共有するチャットグループを閉鎖したとも報じられています

 AIを使って顔写真を笑顔にするアプリが登場したり(関連記事)、音声データから口の動きをリアルに再現するシステムが開発されたりする(関連記事)などAIによる画像処理は進化しています。利便性をもたらす一方で、使い方によってはこのような問題も起こることが浮き彫りになっています。

便利な技術も、使い方によっては問題が

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10
  1. /nl/articles/2312/08/news180.jpg ミス東大の水着グラビアデビューに「東大まで行って」と失望の声 本人&現役グラドルも加わるネット論争に
  2. /nl/articles/2312/08/news148.jpg DAIGOの姉・影木栄貴、ノーメイク姿の姉弟ショットで美形ファミリーぶり際立つ 「目元瓜二つ」「すっぴんでも綺麗」
  3. /nl/articles/2312/09/news008.jpg ゲーム中も寝るときも……大好きなママから片時も離れない元野良ネコ 無防備すぎる寝顔が本当の子どものよう
  4. /nl/articles/2312/09/news030.jpg 飼い主、猫ちゃんの様子を見に行くとPCの前に座っていて……? 衝撃の展開に「独学で学んだ…?」「見なかったことにw」
  5. /nl/articles/2312/08/news013.jpg 愛猫が息を引き取る直前「ありがとう、楽しかったよ」と声を掛けたら…… 家族みんなが久々に集った夜の奇跡に涙
  6. /nl/articles/2307/04/news021.jpg 息子に「ラーメンでも適当に作って食え」→男子高校生らしい自作ランチが「天才」「ヨシ!」と大好評
  7. /nl/articles/2312/08/news109.jpg 小木博明の妻、52歳のサプライズ誕生日会に「負荷などありましたが嬉しくて」 “母”ら豪華メンバー集結に「みなさんいい笑顔」「ハッピーで最高」
  8. /nl/articles/2312/09/news012.jpg 12歳のシニアワンコをドッグランに放ったら…… 目を疑う脚力にびっくり「カメラが追いつけない」「愛されてるんだなぁ」
  9. /nl/articles/2312/09/news002.jpg 「ちいかわ」知らない母が“ガチャ”挑戦→「変なの出てきた」と思わず泣き顔…… 珍エピソードに「笑った」
  10. /nl/articles/2312/05/news140.jpg どこの温泉地に行くか迷ったら…… 「行きたい温泉が見つかるチャート」が参考になると話題に
先週の総合アクセスTOP10
  1. オール巨人、30年モノな“伝説の1台”に自負「ここまでキレイな車はない」 国産愛車の雄姿に称賛の声「気品がある」「凄くエレガント」
  2. 「明らかに写真と違う」 東京クリスマスマーケットのフードメニューが物議…… 購入者は落胆「悲しかった」
  3. 「ごめん母さん。塩20キロ届く」LINEで謝罪 → お母さんからの返信が「最高」「まじで好きw」と話題に
  4. 田中みな実、“共演した姉”の存在に反響「居るとは聞いていたけど」「激似やなぁ」 すらっとしたたたずまいに「品のあるお方」
  5. 藤本美貴、“全然かわいくない値段”のテスラにグレードアップ スマホ一つでの注文に「震えちゃ〜う!」
  6. マックで「プレーンなバーガーください」と頼んだら……? 出てきた“予想外の一品”に驚き「知らなかった」
  7. 伊藤沙莉、“激痩せ報道”の真相暴露→広瀬アリスの株が上がってしまう 「辱めったらない」告白に「アリスちゃん、ええ人や〜」
  8. 「あなたは日本人?」突然送られてきた不審なLINE、“まさかの撃退方法”に反響 「センス良い」「返しが秀逸」
  9. “鬼ダイエット”で激やせの「Perfume」あ〜ちゃん、念願の姿に「着れる日が来るなんて」と大喜び
  10. 900万再生のワンコに「電車で笑ってしまった」「つられてめちゃくちゃ笑っちゃうw」 “突然魔王になった犬”に腹を抱える人続出
先月の総合アクセスTOP10
  1. 「酷すぎる」「不快」 SMAPを連想させるジャンバリ.TVのCMに賛否両論
  2. 会話できる子猫に飼い主が「飲み会行っていい?」と聞くと…… まさかの返しに大反響「ぜったい人間語分かってる」
  3. 実は2台持ち! 伊藤かずえ、シーマじゃない“もう一台の愛車”に驚きの声「知りませんでした」 1年点検時に本人「全然違う光景」
  4. 大好物のエビを見せたらイカが豹変! 姿を変えて興奮する姿に「怖い」「ポケモンかと思った」
  5. 渋谷駅「どん兵衛」専門店が閉店 店内で見つかった書き置きに「店側の本音が漏れている」とTwitter民なごむ
  6. 西城秀樹さんの20歳長男、「デビュー直前」ショットが注目の的 “めちゃくちゃカッコいい”声と姿が「お父さんの若い頃そっくり」「秀樹が喋ってるみたい」
  7. “危険なもの”が体に巻き付いた野良猫、保護を試みると……? 思わずため息が出る結末に「助けようとしてくれてありがとう」【米】
  8. 「やばい電車で見てしまった」「おなか痛い、爆笑です」 カメがまさかの乗り物で猫を追いかける姿が予想外の面白さ
  9. おつまみの貝ひもを食べてたら…… まさかのお宝発見に「良いことありそう」「すごーい!」の声
  10. 「3カ月で1億円」の加藤紗里、オーナー務める銀座クラブの開店をお祝い “大蛇タトゥー”&金髪での着物姿に「極妻感が否めない」