このレッスンの役割
AIの仕組み、偏り、責任をまとめ、社会のルールを設計します。「AIを禁止／自由」の二択にせず、用途と被害の大きさで段階を分けます。
今日の問い
作文支援AIと医療診断AIへ、同じ厳しさのルールを適用するべきでしょうか。
リスクで分ける
| 水準 | 例 | 主な対応 |
|---|---|---|
| 低い | アイデア整理、娯楽 | 基本的な表示と安全 |
| 限定的 | 生成画像、チャット | AI利用表示、誤認防止 |
| 高い | 採用、教育評価、医療 | 事前審査、監査、人間再審査 |
| 許容しにくい | 人権を重大に侵す監視・操作 | 禁止または極めて厳格な制限 |
ルールの六要素
目的と禁止用途、データ管理、性能・公平性試験、利用表示、人間監督、事故報告と救済です。子ども、障害者など影響を受ける人を設計段階から議論へ参加させます。
技術と利用法は変わるため、ルールも定期的に評価・更新します。厳しすぎる規制は有益な利用を妨げ、弱すぎる規制は被害と不信を増やします。
よくある誤解
AIが使われていると表示すれば安全問題が解決するわけではありません。高リスク用途には性能・公平性・救済の仕組みが必要です。
自分で確かめよう
学校でのAI利用を三用途選び、リスク水準、必要な六要素、禁止または制限すべき利用を提案してください。
クイズと理解チェックは、アプリで挑戦できます。