#偏り

アルゴリズム偏りとは、公平性という錦の御旗を掲げる一方で、内部では好みのデータだけを優遇する精巧な差別装置である。誰かの利益になるよう設計されたはずが、いつの間にか多数派の声だけを反響させ、マイノリティの存在を封じ込める。透明性を謳うと書かれていながら、決定過程はブラックボックスの奥深くに隠蔽された迷宮。利用者は結果の正当性を信じ込み、気づけば偏りによる不平等を是正する手段を自ら放棄している。