Модели учатся на людях. Каждый обучающий набор содержит данные о реальных людях, и каждое предсказание связано с тем, чьи данные сформировали систему. Конфиденциальность данных определяет, как эта информация собирается, хранится, используется и защищается.

Нормативно-правовые нормы устанавливают минимальный уровень. GDPR в Европе, CCPA в Калифорнии и аналогичные законы в других странах предоставляют права на доступ, исправление и удаление персональных данных. Системы искусственного интеллекта усложняют соблюдение требований, поскольку модели улавливают закономерности из данных и не могут легко забыть конкретные примеры.

Основные проблемы

• Согласие и прозрачность при сборе данных
• Повторная идентификация на основе предположительно анонимных данных
• Запоминание модели обучающих примеров
• Трансграничная передача данных
• Вывод конфиденциальных атрибутов

Такие методы, как дифференциальная конфиденциальность, федеративное обучение и минимизация данных, снижают риски, но увеличивают затраты и сложность. Идеальная конфиденциальность редко достижима. Практическая цель — эффективная защита с четкой ответственностью.