ニュース
» 2016年03月26日 14時35分 公開

人工知能「Tay」の不適切発言、米Microsoftが謝罪 「システムの悪用について準備を重ねてきたが、重大な見落としがあった」

悪用あるユーザーとのやりとりの中で問題発言をしていました。

[大場巧揮,ねとらぼ]

 英語テキストで会話する人工知能「Tay」が人種差別や陰謀論を学習してしまい緊急停止した件に関して(関連記事)、開発していた米Microsoftが公式ブログで謝罪しました


Tay緊急停止 Microsoftのブログ

 「Learning from Tay’s introduction」(Tay導入からの学び)と題された文章の冒頭では、

 Tayが意図していなかった攻撃的で、そして心を傷つけるツイートをしたことを大変申し訳なく思っています。それらのツイートは私たちの考え方を示すものではなく、Tayをそのように設計したわけでもありません。Tayは現在オフライン状態ですが、私たちの原理や考え方に対立するような悪意をさらに予測できたという確信を持ってからTayを戻したいと考えています。

 と述べています。また、この問題が起きた背景として、「Tayの脆弱性を悪用した一部ユーザーからの協調的攻撃」を指摘しています。これはユーザーとやりとりをすればするほど賢くなるというTayの特徴を悪用された結果でした。実際にTayの約9万6000ツイートのうち3つ以外はすべて誰かへの返信で、ユーザーとのやりとりの中で不適切な発言をしていました。



 この問題について、「システムの悪用について多くの準備を重ねてきたましたが、この特定の攻撃について重大な見落としがありました」とし、フィルタリングや大規模なユーザー調査をおこなってはいたものの、失策があったことを謝罪しています。


Tay緊急停止にマイクロソフト謝罪文 TayのTwitter

 Tayのような人工知能はアメリカだけでなく日本の「りんな」や中国の「XiaoIce」などがリリースされています。人工知能の倫理観について大きな議論を呼ぶ結果となったこの問題、今後どのように発展していくのか、Tayの復帰を楽しみに待ちたいところです。

 ユーザーとのやりとりで学ぶTayが、「インターネットには悪い人がいっぱいいる」ということを学んでないといいんですが……。

Copyright © ITmedia, Inc. All Rights Reserved.

先週の総合アクセスTOP10

  1. 上野樹里、“娘”の誕生日に愛情たっぷり手作りオムライス公開 「がんばろうね ママより」と祝福メッセージ
  2. 石橋貴明&鈴木保奈美が離婚報告 今後は“事務所社長と所属俳優”として「新たなパートナーシップ」構築
  3. 元ブルゾンちえみ・藤原史織、最新ショットに反響 「更に痩せた?? 可愛すぎる」「素敵です!! 足細いですね」
  4. 「美容師人生の集大成を見せる」 タンザニアハーフ女子を縮毛矯正したら「美容師ナメてた」「人生変わるレベル」と360万再生
  5. 出勤時、妻にいつになく強く抱きしめられた夫→妻が家に帰ってくると…… 何気ない日常を描いた漫画にツッコミつつもジーンとする
  6. 怒られたシェパード、柴犬の後ろに隠れたけど…… でっかくて丸見えなしょんぼりワンコが応援したくなる
  7. 塚本高史、中2長女&小6長男の背の高さに驚き 「なんじゃこいつらの成長の早さは!」「俺身長抜かれるんか?」
  8. 「声出して笑った」「狂人度高くて好き」 自転車泥棒を防ごうと不吉そうな箱を自作→まさかの結末迎える漫画が話題に
  9. 石橋貴明の娘・穂乃香「お父さん大好き」 幼少期キスショット公開し「愛されてますね〜」「ステキな写真!」と反響
  10. 基地で生まれ育った子猫、兵士が足踏みすると…… まねをして一緒に行進する姿がかわいい

先月の総合アクセスTOP10

  1. 「産んでくれた親に失礼」「ちょっと我慢できません」 上原浩治、容姿批判のコラム記事に不快感あらわ
  2. ホワイトタイガー「あっ、落としてもうた」 うっかり子どもを落とした母と、落ちてゆく子どもの表情がじわじわくる
  3. がん闘病の大島康徳、肝臓に続いて肺への転移を告白 息苦しさに悩まされるも「大して成長してない」
  4. 「目パッチリです」 宮迫博之、最高難度の美容整形を決行 クスリ疑惑もたれたクマやほうれい線の一掃で“別迫”に
  5. 石橋貴明の娘・穂乃香「お父さん大好き」 幼少期キスショット公開し「愛されてますね〜」「ステキな写真!」と反響
  6. 大島康徳、ステージ4のがん闘病でげっそり顔痩せ 相次ぐ通院に「正直かなりしんどかった」
  7. 山に捨てられていたワンコを保護→2年後…… “すっかり懐いたイッヌ”の表情に「爆笑した」「かっこよすぎ」の声
  8. 「ブス、死ね」 りゅうちぇる、心ない言葉への返答が感銘を呼ぶ 「心もイケメン」「りゅうちぇるのおかげで自己肯定感上がった」
  9. 『はらぺこあおむし』の版元、毎日新聞の風刺漫画を批判 「おそらく絵本を読んでいない」
  10. 小林礼奈、4歳娘を連れて夕食中に客とトラブル 痛烈コメント受けて「私たち親子を悪にしたい人がいる」