このレッスンの役割
AIの偏りを理解したので、次は結果による被害と責任を考えます。「AIが決めた」で終わらせず、設計・販売・導入・利用の各主体を分けます。
今日の問い
AIの推薦どおりに人が決定して被害が出た場合、AIだけを責められるでしょうか。
責任の連鎖
| 主体 | 主な責任 |
|---|---|
| 開発者 | 性能検証、限界説明、安全対策 |
| 提供事業者 | 更新、監視、利用条件、事故対応 |
| 導入組織 | 用途選択、職員教育、人権評価 |
| 利用者 | 出力確認、目的外利用を避ける |
| 監督機関 | 基準、監査、救済 |
人間が関わるだけでは不十分
担当者がAIの提案をそのまま承認する「形だけの監督」では意味がありません。判断を変更する権限、必要な情報、時間、専門知識が必要です。
重大な判断では、本人への説明、利用した主な要素、再審査を求める方法、最終責任者を示します。
よくある誤解
利用規約に「自己責任」と書けば提供側の責任がなくなる、とは限りません。危険を予測できたか、説明と安全対策が十分かが問われます。
自分で確かめよう
AIによる進路推薦を例に五主体の責任を整理し、人間の再審査が実質的になる条件を三つ答えてください。
クイズと理解チェックは、アプリで挑戦できます。