EN - FR - DE - ES - IT - PT -

LexiconDream

🔄 Bộ mã hóa tự động

Một mạng nơ-ron được huấn luyện để tái tạo đầu vào của nó thông qua một nút thắt cổ chai.

Bộ mã hóa tự động

Nén dữ liệu qua một khe hẹp và buộc nó phải tái tạo lại. Bộ mã hóa tự động học bằng cách nén đầu vào thành một dạng biểu diễn nhỏ gọn, sau đó xây dựng lại bản gốc từ điểm thắt cổ chai đó. Mạng không thể chỉ đơn giản sao chép. Nó phải nắm bắt được cấu trúc quan trọng.

Hai phần cùng thực hiện công việc. Bộ mã hóa ánh xạ đầu vào thành một vectơ tiềm ẩn. Bộ giải mã ánh xạ vectơ đó trở lại không gian ban đầu. Quá trình huấn luyện giúp giảm thiểu lỗi tái tạo, thường được đo bằng sai số bình phương trung bình hoặc entropy chéo.

Công dụng phổ biến

Các biến thể mở rộng ý tưởng này. Bộ mã hóa tự động biến phân (Variational autoencoders) áp đặt cấu trúc xác suất lên không gian tiềm ẩn, cho phép chúng tạo ra các mẫu mới. Bộ mã hóa tự động thưa (Sparse autoencoders) thêm các hình phạt để khuyến khích mã hóa nhỏ gọn.

Comments (2)

  1. Dr. Ellen W.
    Autoencoders are used for dimensionality reduction and anomaly detection. The bottleneck forces the network to learn compressed representations.
  2. Sam K.
    The idea is simple. Encode the input into a smaller representation and then decode it back. The reconstruction error tells you something.

Leave a comment