Các mô hình học hỏi từ con người. Mỗi tập dữ liệu huấn luyện đều chứa dấu vết của các cá nhân thực tế, và mỗi dự đoán đều liên quan đến ai đó mà dữ liệu của họ đã định hình nên hệ thống. Bảo mật dữ liệu đề cập đến cách thức thông tin đó được thu thập, lưu trữ, sử dụng và bảo vệ.

Các quy định đặt ra mức tối thiểu. GDPR ở châu Âu, CCPA ở California và các luật tương tự ở những nơi khác cấp quyền truy cập, chỉnh sửa và xóa dữ liệu cá nhân. Hệ thống AI làm phức tạp việc tuân thủ vì các mô hình hấp thụ các mẫu từ dữ liệu và không dễ dàng quên các ví dụ cụ thể.

Mối quan ngại chính

• Sự đồng thuận và tính minh bạch trong việc thu thập dữ liệu
• Xác định lại danh tính từ dữ liệu được cho là ẩn danh
• Mô hình ghi nhớ các ví dụ huấn luyện
• Chuyển dữ liệu xuyên biên giới
• Suy luận về các thuộc tính nhạy cảm

Các kỹ thuật như bảo mật khác biệt, học liên kết và giảm thiểu dữ liệu giúp giảm rủi ro nhưng làm tăng chi phí và độ phức tạp. Bảo mật tuyệt đối hiếm khi đạt được. Mục tiêu thực tiễn là bảo vệ có ý nghĩa với trách nhiệm rõ ràng.