“誰も傷つかない”SNS「DYSTOPIA」が登場 全投稿をAIが検閲して暴言を適切な表現(?)に(1/2 ページ)
SF小説『1984』をオマージュした、AIが統制するSNS。
» 2023年09月25日 12時50分 公開
[沓澤真二,ねとらぼ]
「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」(iOS版/Android版)が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。
意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q&Aサービス「相談箱」の運営社が立ち上げたサービス。ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。
DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。AIはユーザーの発言が不適切かどうか、その度合いはどの程度かを判断。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。
例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「死ねカス!」だったら「私の心中は今お祭り騒ぎですな!」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。
なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。今後の利用者による反応や賛否が注視されます。
advertisement
関連記事
ネット炎上が“現実世界”で起きたら? リアルで罵倒が飛んでくる「アナログ炎上」漫画が考えさせられる
炎上の恐ろしさや理不尽さがより伝わります。フォロワー0で即死亡! 新世紀型デスゲームを描く漫画「リアルアカウント」がじわじわ話題に
5月9日に第1巻が発売されました。「ごめん母さん。塩20キロ届く」LINEで謝罪 → お母さんからの返信が「最高」「まじで好きw」と話題に
懐が深すぎ……!「セッ…ックス知育玩具」 省略する位置がとんでもないオモチャの名前にネットがざわつく
三度見くらいしてしまいそう。年賀状に「娘を出産」と書くはずが…… まさかの書き間違いが「おもろすぎるw」「新春早々大笑い出来ました」と話題に
細田守監督の「おおかみこどもの雨と雪」を連想した人も。サイゼリヤで請求が4万円? なぜかガーリックトーストを185個食べたことになった伝票が100度見必至
会計自体は普通に食べた分だけで処理されたそうです。さすがに。
Copyright © ITmedia, Inc. All Rights Reserved.
昨日の総合アクセスTOP10
30年以上前の製品がかっこいい ソニーの小型ラジオのデザインが「すごい好き」「いまでも通用しそう」
高3女子「進学を機にイメチェンしたい」→美容師に依頼すると…… 仕上がりが「すげえええ」「鳥肌立ちました」と1000万再生
45万で家を買ったら中がまさかの…… “テーマーパーク”と化した物件に謎の金庫→こじ開けた結果に「こういうのワクワクします」
食べ終えた干し柿の種は捨てないで! 取り出して5年間育てると…… 信じられない現在に「スゴい!!」「感動しますね」
仕事を辞めて最初の依頼 手描きでドットを塗りつぶす作業に「完成絵見てビビりました」「これはカワイイ! 」 → 仕上がりに感動
白髪に“真っ青に染まるトリートメント”を塗って流してみたら…… 予想外の結果に「驚きました」「良い!」
「尊敬するばかりです」 1人暮らしの80代おばあちゃんが作る“常備菜”がすごい! 食卓がパッと華やかになり「挑戦してみたい」
「B級品、ダメだ」と言われたハリネズミ→愛情たっぷり姉弟がお迎えしたら…… 「泣けてくる」「むしろ極上品」驚きの姿が話題
【かぎ針編み】100均毛糸で作ったパーツを重ねていくと…… 贈り物にぴったりなアイテムが完成 「素敵」「頑張って作るぞ〜」
これは思わず二度見 秋田で「シャケ弁」を購入 → “衝撃的な見た目”が2900万表示 「こういうのがいいんだよ」
先週の総合アクセスTOP10
- 和菓子屋で、バイトの子に難題“はさみ菊”を切らせてみたら……「将来有望」と大反響 その後どうなった?現在を聞いた
- 希少性ガンで闘病中だったアイドル、死去 「言葉も発せないほどの痛み」母親が闘病生活を明かす
- 芸能界引退した「ショムニ」主演の江角マキコ、58歳の近影にネット衝撃「エグすぎた」 突然顔出しした娘とのやりとりも話題に
- “きれいな少年”が大人になったら→「なんでそうなったw」姿に驚がく 「イケメンの無駄遣い」「どっちも好きです!笑」
- 余った毛糸は捨てないで! 四角く編んでいくと……目からウロコのアイデアに「知れてよかった」「素晴らしい」
- コストコで販売「生カキ」原因で体調不良か…… 全国で1万食自主回収「深くお詫び」
- ごはん炊き忘れた父「いいこと閃いた!」→完成した弁当に爆笑「アンタすげぇよ!」 息子「意味ねぇことすんなよ」
- 瀬戸内海で漁をしていたら突然異変が…… 揚がってきた“取ってはいけない生物”に衝撃 「初めて見ました」と70万再生
- ママが反抗期の娘に作った“おふざけ弁当”がギミックてんこ盛りの怪作で爆笑 娘「教室全員が見に来た」
- 温かそうだけど…… 呉服屋さんが教える「マフラーの巻き方」になぜか既視感 「あの巻き方ってこうやってたの!?」
先月の総合アクセスTOP10
- 最初に軽く結ぶだけで…… 2000万再生された“マフラーの巻き方”に反響「これは使える」「素晴らしいアイデア」【海外】
- コメダ珈琲店で朝、ミックスサンドとコーヒーを頼んだら…… “とんでもない事態”に爆笑「恐るべし」「コントみたい」
- パパに抱っこされる娘、13年後の成人式に同じ場所とポーズで再現したら…… 「お父さん若返った?笑」「時止まってる」2人の姿に驚き
- 和菓子屋で、バイトの子に難題“はさみ菊”を切らせてみたら……「将来有望」と大反響 その後どうなった?現在を聞いた
- 古いバスタオルをザクザク切って縫い付けると…… 目からウロコの再利用に「すてきなアイデア」【海外】
- 「14歳でレコ大受賞」 人気アイドルがセクシー女優に転身した理由明かす 家族、メンバー、ファンの“意外な反応”
- 希少性ガンで闘病中だったアイドル、死去 「言葉も発せないほどの痛み」母親が闘病生活を明かす
- “きれいな少年”が大人になったら→「なんでそうなったw」姿に驚がく 「イケメンの無駄遣い」「どっちも好きです!笑」
- ドブで捕獲したザリガニを“清らかな天然水”で2週間育てたら…… 「こりゃすごい」興味深い結末が195万再生「初めて見た」
- 芸能界引退した「ショムニ」主演の江角マキコ、58歳の近影にネット衝撃「エグすぎた」 突然顔出しした娘とのやりとりも話題に