Системы, определяющие, кому выдадут кредит, кому разрешат условно-досрочное освобождение и чье резюме попадет к менеджеру по найму, заслуживают пристального внимания. Этика ИИ рассматривает моральные вопросы, возникающие в связи с этими системами, от справедливости и подотчетности до конфиденциальности и автономии.

Эта область находится на стыке философии, права и инженерии. Она задает вопросы о том, кто несет ответственность, когда автономная система причиняет вред, как проводить аудит непрозрачных моделей и следует ли вообще существовать определенным приложениям. Распознавание лиц, прогнозирование преступности и автоматизированный подбор персонала — все эти области вызывают постоянные дискуссии.

Повторяющиеся проблемы

• Предвзятость, закодированная в обучающих данных
• Отсутствие прозрачности в процессе принятия решений.
• Наблюдение и согласие
• Ответственность в случае сбоя системы.
• Концентрация власти в руках нескольких компаний.

Регулирование отстает от внедрения. Закон ЕС об ИИ и аналогичные предложения направлены на установление правил, но их соблюдение остается неравномерным. Специалисты все чаще используют внутренние наблюдательные советы и оценки воздействия, хотя критики утверждают, что эти меры слишком добровольны.