“誰も傷つかない”SNS「DYSTOPIA」が登場 全投稿をAIが検閲して暴言を適切な表現(?)に(1/2 ページ)

SF小説『1984』をオマージュした、AIが統制するSNS。

» 2023年09月25日 12時50分 公開
[沓澤真二ねとらぼ]

 「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」(iOS版Android版)が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。

DYSTOPIA 誰も傷つかないよう配慮されたSNS「DYSTOPIA」。スマホでのみ利用可能
DYSTOPIADYSTOPIA 全ての投稿はAIの検閲を通したうえで公開される

 意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q&Aサービス「相談箱」の運営社が立ち上げたサービス。ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。

DYSTOPIA 良くない言葉を投稿した際は、『1984』の絶対権威的存在「BIG BROTHER」が警告

 DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。AIはユーザーの発言が不適切かどうか、その度合いはどの程度かを判断。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。

DYSTOPIA 意味が通るどうかはさておき、検閲により不穏当な表現は排除される

 例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「死ねカス!」だったら「私の心中は今お祭り騒ぎですな!」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。

 なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。今後の利用者による反応や賛否が注視されます。

       1|2 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.

昨日の総合アクセスTOP10
  1. /nl/articles/2502/25/news076.jpg 30年以上前の製品がかっこいい ソニーの小型ラジオのデザインが「すごい好き」「いまでも通用しそう」
  2. /nl/articles/2502/28/news013.jpg 高3女子「進学を機にイメチェンしたい」→美容師に依頼すると…… 仕上がりが「すげえええ」「鳥肌立ちました」と1000万再生
  3. /nl/articles/2503/01/news039.jpg 45万で家を買ったら中がまさかの…… “テーマーパーク”と化した物件に謎の金庫→こじ開けた結果に「こういうのワクワクします」
  4. /nl/articles/2503/02/news043.jpg 食べ終えた干し柿の種は捨てないで! 取り出して5年間育てると…… 信じられない現在に「スゴい!!」「感動しますね」
  5. /nl/articles/2503/01/news055.jpg 仕事を辞めて最初の依頼 手描きでドットを塗りつぶす作業に「完成絵見てビビりました」「これはカワイイ! 」 → 仕上がりに感動
  6. /nl/articles/2503/02/news022.jpg 白髪に“真っ青に染まるトリートメント”を塗って流してみたら…… 予想外の結果に「驚きました」「良い!」
  7. /nl/articles/2503/01/news004.jpg 「尊敬するばかりです」 1人暮らしの80代おばあちゃんが作る“常備菜”がすごい! 食卓がパッと華やかになり「挑戦してみたい」
  8. /nl/articles/2503/01/news038.jpg 「B級品、ダメだ」と言われたハリネズミ→愛情たっぷり姉弟がお迎えしたら…… 「泣けてくる」「むしろ極上品」驚きの姿が話題
  9. /nl/articles/2503/01/news044.jpg 【かぎ針編み】100均毛糸で作ったパーツを重ねていくと…… 贈り物にぴったりなアイテムが完成 「素敵」「頑張って作るぞ〜」
  10. /nl/articles/2503/02/news038.jpg これは思わず二度見 秋田で「シャケ弁」を購入 → “衝撃的な見た目”が2900万表示 「こういうのがいいんだよ」
先週の総合アクセスTOP10
  1. 和菓子屋で、バイトの子に難題“はさみ菊”を切らせてみたら……「将来有望」と大反響 その後どうなった?現在を聞いた
  2. 希少性ガンで闘病中だったアイドル、死去 「言葉も発せないほどの痛み」母親が闘病生活を明かす
  3. 芸能界引退した「ショムニ」主演の江角マキコ、58歳の近影にネット衝撃「エグすぎた」 突然顔出しした娘とのやりとりも話題に
  4. “きれいな少年”が大人になったら→「なんでそうなったw」姿に驚がく 「イケメンの無駄遣い」「どっちも好きです!笑」
  5. 余った毛糸は捨てないで! 四角く編んでいくと……目からウロコのアイデアに「知れてよかった」「素晴らしい」
  6. コストコで販売「生カキ」原因で体調不良か…… 全国で1万食自主回収「深くお詫び」
  7. ごはん炊き忘れた父「いいこと閃いた!」→完成した弁当に爆笑「アンタすげぇよ!」 息子「意味ねぇことすんなよ」
  8. 瀬戸内海で漁をしていたら突然異変が…… 揚がってきた“取ってはいけない生物”に衝撃 「初めて見ました」と70万再生
  9. ママが反抗期の娘に作った“おふざけ弁当”がギミックてんこ盛りの怪作で爆笑 娘「教室全員が見に来た」
  10. 温かそうだけど…… 呉服屋さんが教える「マフラーの巻き方」になぜか既視感 「あの巻き方ってこうやってたの!?」
先月の総合アクセスTOP10
  1. 最初に軽く結ぶだけで…… 2000万再生された“マフラーの巻き方”に反響「これは使える」「素晴らしいアイデア」【海外】
  2. コメダ珈琲店で朝、ミックスサンドとコーヒーを頼んだら…… “とんでもない事態”に爆笑「恐るべし」「コントみたい」
  3. パパに抱っこされる娘、13年後の成人式に同じ場所とポーズで再現したら…… 「お父さん若返った?笑」「時止まってる」2人の姿に驚き
  4. 和菓子屋で、バイトの子に難題“はさみ菊”を切らせてみたら……「将来有望」と大反響 その後どうなった?現在を聞いた
  5. 古いバスタオルをザクザク切って縫い付けると…… 目からウロコの再利用に「すてきなアイデア」【海外】
  6. 「14歳でレコ大受賞」 人気アイドルがセクシー女優に転身した理由明かす 家族、メンバー、ファンの“意外な反応”
  7. 希少性ガンで闘病中だったアイドル、死去 「言葉も発せないほどの痛み」母親が闘病生活を明かす
  8. “きれいな少年”が大人になったら→「なんでそうなったw」姿に驚がく 「イケメンの無駄遣い」「どっちも好きです!笑」
  9. ドブで捕獲したザリガニを“清らかな天然水”で2週間育てたら…… 「こりゃすごい」興味深い結末が195万再生「初めて見た」
  10. 芸能界引退した「ショムニ」主演の江角マキコ、58歳の近影にネット衝撃「エグすぎた」 突然顔出しした娘とのやりとりも話題に