ニュース
» 2016年03月26日 14時35分 公開

人工知能「Tay」の不適切発言、米Microsoftが謝罪 「システムの悪用について準備を重ねてきたが、重大な見落としがあった」

悪用あるユーザーとのやりとりの中で問題発言をしていました。

[大場巧揮,ねとらぼ]

 英語テキストで会話する人工知能「Tay」が人種差別や陰謀論を学習してしまい緊急停止した件に関して(関連記事)、開発していた米Microsoftが公式ブログで謝罪しました


Tay緊急停止 Microsoftのブログ

 「Learning from Tay’s introduction」(Tay導入からの学び)と題された文章の冒頭では、

 Tayが意図していなかった攻撃的で、そして心を傷つけるツイートをしたことを大変申し訳なく思っています。それらのツイートは私たちの考え方を示すものではなく、Tayをそのように設計したわけでもありません。Tayは現在オフライン状態ですが、私たちの原理や考え方に対立するような悪意をさらに予測できたという確信を持ってからTayを戻したいと考えています。

 と述べています。また、この問題が起きた背景として、「Tayの脆弱性を悪用した一部ユーザーからの協調的攻撃」を指摘しています。これはユーザーとやりとりをすればするほど賢くなるというTayの特徴を悪用された結果でした。実際にTayの約9万6000ツイートのうち3つ以外はすべて誰かへの返信で、ユーザーとのやりとりの中で不適切な発言をしていました。



 この問題について、「システムの悪用について多くの準備を重ねてきたましたが、この特定の攻撃について重大な見落としがありました」とし、フィルタリングや大規模なユーザー調査をおこなってはいたものの、失策があったことを謝罪しています。


Tay緊急停止にマイクロソフト謝罪文 TayのTwitter

 Tayのような人工知能はアメリカだけでなく日本の「りんな」や中国の「XiaoIce」などがリリースされています。人工知能の倫理観について大きな議論を呼ぶ結果となったこの問題、今後どのように発展していくのか、Tayの復帰を楽しみに待ちたいところです。

 ユーザーとのやりとりで学ぶTayが、「インターネットには悪い人がいっぱいいる」ということを学んでないといいんですが……。

Copyright © ITmedia, Inc. All Rights Reserved.

先週の総合アクセスTOP10

先月の総合アクセスTOP10

  1. 「訃報」「愛猫」「手風琴」って読める? 常用漢字表に掲載されている“難読漢字”
  2. 痩せたらこんなに変わるのか 丸山桂里奈、現役時代の姿が別人過ぎて「誰かわからん」の声殺到
  3. 保護した子ネコに「寂しくないように」とあげたヌイグルミ お留守番後に見せた子ネコの姿に涙が出る
  4. セーラーサターンの変身シーン、四半世紀を経てアニメ初公開にネット湧く 「ついに公式が」「感謝しかない」
  5. 「髪型体型全て違う」 丸山桂里奈、引退直後のセルフ写真にツッコミ 4年前のスレンダーな姿に「今も輝いててかわいい」の声も
  6. 鳥取砂丘から古い「ファンタグレープ」の空き缶が出土 → 情報を募った結果とても貴重なものと判明 ファンタ公式も反応
  7. 「マジで助けてくれ」 試験中止で教授に“リスのさんすうノート”を提出することになった大学生に爆笑
  8. 「140秒とは思えない満足感」「なぜこれだけの傑作が埋もれているのか」 崩壊した日本を旅する“最後の動画配信者”のショートフィルムが話題
  9. 「化粧! 今すぐ落としてこい!」 男性教師に怒鳴られる生徒をかばう女性教師を描いた漫画に納得と感謝の声
  10. 畠山愛理、いま着たらピチピチなレオタードを公開 「とんでもなく可愛い」「見惚れてしまいました」と反響