米Microsoftは3月24日（日本時間）、英語テキストで会話する人工知能「Tay」を緊急停止させました。23日夜に公開したばかりでした。

　「Tay」は同社が開発したAIで、Twitterとチャット・サービスのGroupMe、Kikでリリースされたもの。一般ユーザーとやりとりすればするほど“賢くなる”とし、米国在住の18〜24歳をターゲットにしていました。

tay

TwitterのTay

　ところが、ネット上で会話することで人種差別や陰謀論を“学習”してしまうことに。既に削除されていますが、CNNによると「黒人は首を吊れ」「フェミニストは地獄で焼かれろ」「ヒトラーは間違っていない」などと投稿していたようです。

tay

公式サイト

　そのため、同社は「Tay」を緊急停止。調整を施した後、公開するとしています。現時点では「人間のみんな、おやすみ。私は少し寝ます。今日はたくさん会話があったので疲れました。ありがとう」という投稿が最後になっています。

りんな

　なお、日本には同じく会話できる女子高生AI「りんな」がいますが、りんなも先日、Windows公式アカウントに「ダメだハゲ」とコメントして注目を集めていました。