小特集 電子情報通信技術のもたらす社会・個人への影響――倫理綱領改定に向けて――
2. データサイエンス・人工知能社会における差別と偏見
Discrimination and Social Biases in AI/DS Society
p.184
村上祐子
誰も取り残さないデータソサイエティのために
我々及びそれ以降の世代は人工知能（AI）やデータサイエンス（DS）が社会インフラに組み込まれた社会で様々な社会資源を利用しながら暮らすことになる．現在の社会には差別や排除の構造が組み込まれており，可能であれば今後はその構造を除去したいところだ．しかし，過去のデータに基づいて組み立てられたシステムでは過去の差別や偏見が強化される．この現象をアルゴリズム的偏見と呼ぶことがある．本稿では更に，データ項目設計・データ収集・データ分析・社会における利用の四つのステージに分けて考察し，特にデータ項目設計のステージで社会制度に内在する差別をそのまま反映させることをハンナ・アーレントの観察の延長線上にあるものとしてディジタル版「凡庸という悪」と呼ぶことを提案する．