AIの判断はなぜ偏ることがあるのか

このレッスンの役割

AIの流れを学んだので、次は出力が特定の人へ不利になる原因を考えます。「機械だから公平」と思い込まず、どの段階で偏りが入るかを調べます。

今日の問い

人の名前や性別をAIへ直接与えなくても、差別的な結果が出ることがあるのでしょうか。

偏りの四つの入口

住所、学校、購買履歴などが、直接使っていない属性の代わりになる場合があります。これを代理変数として注意します。

公平を測る

集団ごとの誤判定率、合格率、見逃し率などを比較します。ただし、どの指標を等しくするかで結果が変わることがあります。社会的な目的と影響を議論します。

改善には、代表性あるデータ、当事者参加、複数指標の監査、異議申立て、人間の再審査があります。

よくある誤解

偏りが見つかったらデータを増やせば必ず解決、とは限りません。目標や制度そのものに不公平があれば、用途を見直す必要があります。

自分で確かめよう

採用・学校・医療から一例を選び、四段階の偏り、測る指標、当事者が異議を申し立てる方法を答えてください。

クイズと理解チェックは、アプリで挑戦できます。