Nén dữ liệu qua một khe hẹp và buộc nó phải tái tạo lại. Bộ mã hóa tự động học bằng cách nén đầu vào thành một dạng biểu diễn nhỏ gọn, sau đó xây dựng lại bản gốc từ điểm thắt cổ chai đó. Mạng không thể chỉ đơn giản sao chép. Nó phải nắm bắt được cấu trúc quan trọng.
Hai phần cùng thực hiện công việc. Bộ mã hóa ánh xạ đầu vào thành một vectơ tiềm ẩn. Bộ giải mã ánh xạ vectơ đó trở lại không gian ban đầu. Quá trình huấn luyện giúp giảm thiểu lỗi tái tạo, thường được đo bằng sai số bình phương trung bình hoặc entropy chéo.
Công dụng phổ biến
- Giảm chiều dữ liệu như một giải pháp thay thế phi tuyến tính cho PCA
- Khử nhiễu, trong đó mạng lưới loại bỏ sự nhiễu loạn.
- Phát hiện bất thường bằng cách đo lỗi tái tạo
- Đào tạo trước cho các nhiệm vụ tiếp theo
Các biến thể mở rộng ý tưởng này. Bộ mã hóa tự động biến phân (Variational autoencoders) áp đặt cấu trúc xác suất lên không gian tiềm ẩn, cho phép chúng tạo ra các mẫu mới. Bộ mã hóa tự động thưa (Sparse autoencoders) thêm các hình phạt để khuyến khích mã hóa nhỏ gọn.
Comments (2)
Leave a comment