認知バイアスは人の心の働きを示す。鈴木安昭は「先入観にとらわれて物事の一側面にだけ注意が向けられ、その他の側面についての思慮が足りない」としている。
過学習は機械学習における学習状態の一種で「学習時のデータに対してはよい精度を出すが、未知データに対しては同様の精度を出せない」ことである。
どちらも新しい事態や状況に対して、適切な判断が出来ないのではあるが、機械学習の方は意図せず誤るのに対して、認知バイアスは意図したとおりに誤る。つまり、そうあるべきだと信じている方向に判断が偏る。
興味深いのは製作者の認知バイアスが、機械学習システムに伝染することだ。それは訓練データの選択時に製作者の偏りが紛れ込むなどにより発生する。あるいはアルゴリズム自体に作り込まれなんてこともあるだろう。
『アルゴリズムはどれほど人を支配しているのか？ 数学者が検証』というサンプターの本にそうした評価法の批判がでている。
今井むつみ氏のスキームという学習能力の仕掛けもバイアスと隣接しているようだ
