融資の可否、仮釈放の可否、採用担当者の目に留まる履歴書の選考などを決定するシステムは、厳しく検証される必要がある。AI倫理は、公平性や説明責任からプライバシーや自律性に至るまで、こうしたシステムが提起する倫理的な問題を考察する。

この分野は哲学、法律、工学の中間に位置する。自律システムが危害を加えた場合、誰が責任を負うのか、不透明なモデルをどのように監査するのか、そして特定のアプリケーションはそもそも存在すべきなのか、といった問いを投げかける。顔認識、予測型警察活動、自動採用などは、いずれも継続的な議論の的となっている。

繰り返し懸念される点

• トレーニングデータに埋め込まれたバイアス
• 意思決定における透明性の欠如
• 監視と同意
• システム障害発生時の責任
• 少数の企業への権力の集中

規制は導入に追いついていない。EUのAI法や同様の提案はルールを定めることを目的としているが、その執行は依然として不均一である。実務者は内部審査委員会や影響評価をますます導入しているが、批判者たちはこれらの措置は任意性が高すぎると主張している。