「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」(1/2 ページ)
IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。
「倫理的に問題がある」など批判
物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました(その後アプリは非公開になりブログは削除)。
これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講者自身も後に「医学的根拠は現状ない」と追記しています。
またブログで、テーマの選定にあたって「チューターの後押しがあった」といった記述が見られたことから、講座を開設しているアイデミーに対して「なぜ止めなかったのか」との批判が寄せられました。
声明の発表
同社は7日に「Aidemy Premium サービス強化と新たな取り組みについて」とする声明を発表。「弊社サービスをご利用の学習者様が作成する学習成果物に関し、運営体制の不備から公開された内容について、倫理的に懸念される状況が発生しました」として謝罪しました。
同社はサービス内で提供している情報、運営を見直し、ガイドラインの強化と従業員教育の徹底を進めるとしており、また受講者向けにはAI倫理のコースなど、学習が推奨される内容のコンテンツを拡充し、順次追加費用なく提供するとしています。
アイデミー「真摯に受けとめております」
ねとらぼ編集部がこの件についてアイデミーに問い合わせたところ「ご指摘・ご意見について真摯に受けとめております。現在、社内で早急に事実確認の実施・改善に向けた対応を進めております」との回答がありました。
テーマ選定に当たってチューターの後押しがあったとされる点については、カウンセリングに当たっては「特定のテーマを肯定あるいは否定するなどは行わず、受講者自身で検討し選択できるようにする姿勢を堅持した」「テーマ選定にあたって選ぶ基準案を例示(これまでの経歴と親和性のありそうなテーマが取り組みやすい)」の2点を行ったと説明しています。
同社は「当社の運営について振り返るべき点があり、当該過程の実施にあたって当社からの情報提供や機会提供において改善点があったと考えております」としており、社内ガイドライン、特に受講者への対応に関するものの見直しを既に始めていると述べています。
「受講者が自身の選択を実行することで起こす可能性がある他者・自身への損害など、リスクに関する情報提供と認識保有の促進」「学習過程の目的により適した学習の実施方法の情報提供・認識機会の提供」を改善が必要な部分として同社は挙げています。
修了条件である成果物(アプリ・ブログ)は公開必須でないにもかかわらず、公開必須でないことに明確な言及ができておらず、ブログ作成時に公開が必要と取れる可能性のある記載があったとして、これらを改善するとも述べています。
なお同社は8月5日付けでガイドライン強化のほか、規約の改定を発表していますが、規約の改定については今回の件を受けてのものではないとしています
関連記事
Copyright © ITmedia, Inc. All Rights Reserved.
-
“緑の枝付きどんぐり”をうっかり持ち帰ると、ある日…… とんでもない目にあう前に注意「危ないところだった」
-
秋葉原のトレカ店が“買い占め被害” 近隣店とその常連客が共謀し“全口購入の人員確保” 「大変遺憾で残念な限り」
-
食べた桃の種を土に植え、4年育てたら…… 想像を超える成長→果実を大収穫する様子に「感動しました」「素晴らしい記録」
-
「コレ入れると草が生えない」 外構工事のプロがやっている“究極の雑草対策”に注目
-
義母「お米を送りました」→思わず二度見な“手紙”に11万いいね 「憧れる」「こういう大人になりたい」と感嘆の声
-
100均レースを小さなハギレでリメイクしたら…… 予想がつかない大変身に「素晴らしい発想」「やってみたい!!」
-
「嘘でしょ!?」 大食いタレント、ロケ中に私物紛失→1カ月後に奇跡的に発見される「SNSの拡散力侮れない」
-
お迎え当時はシュっと凛々しかった子猫、現在は…… 予想を超えた“大変貌”に「みんなが幸せになる姿」「うちの子も……」
-
【今日の計算】「7÷7×7÷7」を計算せよ
-
「エグいイキリたっておる!」 巨大台風接近→とんでもないことになった気象用具に大反響 「なにこれすごい」
- 「しまむら」に行った58歳父→買ってきたTシャツが“まさかのデザイン”で3万いいね! 「同じ年だから気持ちわかる」「欲しい!」
- 「地獄絵図」「えぐすぎやろ……」 静岡・焼津市の地下歩道が冠水 “信じられない光景”にネットあぜん
- 「なんで欲しいと思ったんですか?」 酔った勢いで購入 → 後日届いた“まさかの商品”に反響 「理性あったら買わないw」
- 友人にメダカと睡蓮をあげる→3年後に見に行くと…… 想像を超える“楽園”に「こんなに……!?」「めちゃくちゃ綺麗」
- 犬が同じ場所で2年間、トイレをし続けた結果…… 笑っちゃうほどの変貌が379万表示「そこだけボッ!ってw」 半年後の現在について聞いた
- 「24時間テレビ」ラストスパートでのやす子へのわいせつ行為に非難 「胸触りにいってる」「気持ちが悪い」
- 「これ600円なの?」 大谷翔平が長く愛用しているデコピンの“おやつ入れ”、始球式で注目「おそろだった」「真美子さんが選んだのかな」
- 明石家さんま、69歳バースデー迎え長男から幸せ呼ぶ“輝かしいプレゼント” 同席した元妻・大竹しのぶは「最高の笑顔でした」
- 300円で購入した格安熱帯魚を、1年じっくり育てたら……宝石に化けた「価格に見合わない」激変に「ダイヤ感出て綺麗」「ラメがすごい」
- 「米国人には想定できない」 テスラが認識できない日本の“あるもの”が盲点だった 「そのうちアップデートでしれっと認識しそう」
- 釣れたキジハタを1年飼ったら……飼い主も驚きの姿に「もはや魚じゃない」「もう家族やね」 半年後の現在について飼い主に聞いた
- 「もうこんな状態」 パリ五輪スケボーのメダリストが「現在のメダル」公開→たった1週間での“劣化”に衝撃
- 「コミケで出会った“金髪で毛先が水色”の子は誰?」→ネット民の集合知でスピード解決! 「優しい世界w」「オタクネットワークつよい」
- 庭で見つけた“変なイモムシ”を8カ月育てたら…… とんでもない生物の誕生に「神秘的」「思った以上に可愛い」
- 「米国人には想定できない」 テスラが認識できない日本の“あるもの”が盲点だった 「そのうちアップデートでしれっと認識しそう」
- ヒマワリの絵に隠れている「ねこ」はどこだ? 見つかると気持ちいい“隠し絵クイズ”に挑戦しよう
- 「昔はたくさんの女性の誘いを断った」と話す父、半信半疑の娘だったが…… 当時の姿に驚きの770万いいね「タイムマシンで彼に会いに行く」【海外】
- 鯉の池で大量発生した水草を除去していたら…… 出くわした“神々しい生物”の姿に「関東圏では高額」「なんて大変な…」
- 「ごめん母さん。塩20キロ届く」LINEで謝罪 → お母さんからの返信が「最高」「まじで好きw」と話題に
- 「なんでこんなに似てるの」 2つのJR駅を比較→“想像以上の激似”に「駅名だけ入れ替えても気づかなそう」