狂気の画像識別 MITが陰惨画像でサイコパスAIを育てる

サイコパスとして育てられた人工知能。

[関口雄太，ねとらぼ]

　米マサチューセッツ工科大学（MIT）の研究機関Media LabがサイコパスAI「ノーマン」を開発しました。通常のAIが「鳥」と判断する画像を、ノーマンは「引き伸ばされた人間」と判断するなど、狂気的な人工知能であることがうかがい知れます。

世界初のサイコパスAI（画像はNormanより）

　海外メディアのインタビューなどによると、ノーマンの訓練方法は一般的なディープラーニングと同様に、画像を描写するテキストを使って行われています。特殊な点は、死に関連する記録や観察を行っている悪名高いサブレディット（掲示板サイトRedditのトピック）から集めたデータを使ったこと。ちなみにノーマンという名前は、サスペンス映画の神様ヒッチコックが監督した作品『サイコ』に登場する殺人鬼「ノーマン・ベイツ」に由来しているそうです。

　同研究所はノーマンの特設サイトにおいて、ロールシャッハ・テストの結果を公開。ロールシャッハ・テストとは、被験者にインクのシミを見せて想像したものを回答してもらうことで、思考や障害を推定する精神分析法です。サイコパスAIが、標準的なAIと比べて狂気的な判断をしたことがよくわかります。

　例えば黒いシミの画像を、標準的なAIは「木にたくさんの鳥がとまっている」と判断していますが、ノーマンは「人が捕らえられ、電気イスで処刑されている」と判断しています。

標準：「木にとまる鳥」ノーマン：「電気イスの処刑」（画像はNormanより）

　別のシミでは、「向かい合っている2人組」と標準的なAIが判断しているのに対して、「窓から飛び降りる人」とノーマンには見えています。

標準：「向かい合う人」ノーマン：「飛び降りる人」（画像はNormanより）

　他にも、「小鳥を写した白黒写真」「テーブルの上のウェディングケーキ」が、ノーマンでは「ドーナツ生地製造機で引き伸ばされた人」「スピード違反の車にひかれた人」という結果に。

標準：「小鳥のモノクロ写真」ノーマン：「引き伸ばされ人」（画像はNormanより）

標準：「ウェディングケーキ」ノーマン：「車にひかれた人」（画像はNormanより）

　世界初のサイコパスAIとして発表されたノーマンですが、奇をてらうために開発されたわけではありません。マシンラーニングに使用するデータが、人工知能の判断に与える影響を証明しています。開発者の1人、イヤド・ローワンは海外メディアの取材で「AIが世界をどのように認識し、行動するかには、学習に使用するデータが反映されている」と回答しました。