ニュース
» 2018年02月01日 15時44分 公開

AIで有名人に顔を差し替えたフェイクポルノの投稿が増加

削除の動きも。

[ねとらぼ]

 ポルノ俳優の顔をAI(人工知能)を使って有名人と差し替えた“フェイクポルノ”が増加している問題を、海外の複数のメディアが伝えています。

 発端は2017年12月に、掲示板サイトのユーザーがAIを使って顔をすげ替えるツールや、顔を人気女優に差し替えたフェイクポルノ動画を投稿したこと。このツールはGoogleが公開している技術を使用していました。ニュースサイトMotherboardによると、動画はよく見ると不自然だけどパッと見はだまされる出来とのこと。その後、別のユーザーが簡単に使えるツールを公開し、フェイクポルノの投稿は増えたといいます。

加工ツールは10万ダウンロードを超えたとのこと(編集部で一部加工)

 投稿が広まる一方で、削除に乗り出す動きも見られます。こうした動画の投稿にはGIF投稿サイト「Gfycat」が多く使われていたそうですが、Gfycatは対策を開始したようで、Gfycatに投稿すると消されるとユーザーが報告しています。GfycatはニュースサイトThe Vergeに「規約により問題があるとみなしたコンテンツは削除できる。このコンテンツを積極的に削除している」とコメント。また、チャットサービスDiscordが、フェイクポルノを共有するチャットグループを閉鎖したとも報じられています

 AIを使って顔写真を笑顔にするアプリが登場したり(関連記事)、音声データから口の動きをリアルに再現するシステムが開発されたりする(関連記事)などAIによる画像処理は進化しています。利便性をもたらす一方で、使い方によってはこのような問題も起こることが浮き彫りになっています。

便利な技術も、使い方によっては問題が

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10

  1. /nl/articles/1907/29/news103.jpg 秋吉久美子、亡き息子の誕生日に思いをつづる 「二人は常に連なって一緒に生きている」
  2. /nl/articles/2104/12/news014.jpg 柴犬たちもソーシャルディスタンスばっちり……! 絶妙な距離感で並ぶ柴犬親子が面白かわいい
  3. /nl/articles/2104/12/news075.jpg 「3時のヒロイン」ゆめっち、メイクのビフォーアフターに驚きの声 「ライザップのCMくらいの衝撃」「違う人かと思った…!」
  4. /nl/articles/2104/12/news077.jpg 「カブトボーグ」がJ:COMの無料チャンネルでまさかの再放送! 「次回予告がウソ」「ヒロインが週替わり」数々の伝説残したカオスアニメ
  5. /nl/articles/2104/12/news128.jpg 元“小学生ホスト”琉ちゃろ、中学入学で10年ぶりの黒髪に 母ちいめろは校則に苦言も、本人は「そんなに違和感がなくてびっくり」
  6. /nl/articles/2010/05/news063.jpg 第2子妊娠の浜崎あゆみ、42歳バースデーで華やかな豪邸披露 「幸せの形は人それぞれ」と私生活に持論 
  7. /nl/articles/2104/11/news006.jpg 仕事中でも注意散漫、集団行動ができない「発達障害」な漫画家の通院体験漫画『なおりはしないが、ましになる』
  8. /nl/articles/2104/12/news022.jpg 尿意を限界突破しながら我が子のピンチを救う漫画 お散歩アクシデントを跳ね飛ばす母の愛に感動&爆笑
  9. /nl/articles/2104/11/news007.jpg 在宅ワーク中、猫たちがPC前を占拠して…… 「残業は禁止ニャ!」と訴える元保護猫の姉妹がかわいい
  10. /nl/articles/2104/12/news033.jpg 桜玉吉『伊豆漫玉エレジー』が本日発売、還暦を迎えた玉吉先生と担当のプチ対談をお届け 「お元気ですか?」「元気じゃないよ(笑)」

先週の総合アクセスTOP10

  1. AKB48・大家志津香、人生MAXの65キロに危機感 周囲に迷惑が及ぶ激太りぶりで減量決意「やらなくていい仕事をさせちゃってる」
  2. 初コメダで「量すごいらしいからエビカツパンとビーフシチュー」 → 案の定大変なことになってしまった漫画が様式美
  3. 仲里依紗、息子がスカウトされて大騒ぎ「芸能人なんですけどもね?」 夫・中尾明慶と一緒にスルーされてしまう
  4. 「遺伝ってすごい」「足長っ!」 仲村トオルの“美人娘”ミオがデビュー、両親譲りのスタイルに驚きの声
  5. 山に捨てられていたワンコを保護→2年後…… “すっかり懐いたイッヌ”の表情に「爆笑した」「かっこよすぎ」の声
  6. 「文鳥砲だ!」「躍動感すご」 文鳥が“来るッ…!”決定的瞬間を収めた写真に緊張感が漂っている
  7. 昔から何度も見る悪夢です→「私も見る!」「同じ人がいた」と共感集まる “あるある”かもしれない奇妙な夢の漫画
  8. 「もういいだろう、楽にさせてくれよ」 アントニオ猪木、入院治療中の弱音に叱咤激励の嵐
  9. コクヨが正確な1mmを測れる「本当の定規」全国発売 メモリの境界を“面と面の間”で計測
  10. 高木ゑみさん、35歳で逝去 ステージ4の肺がんで闘病 生前最後の“人工呼吸器も外せた”報告に悲しみの声