Data lake menyimpan data mentah dalam format aslinya. Tidak ada skema yang diterapkan saat penulisan. Tabel terstruktur, log JSON, gambar, dan video semuanya berada dalam repositori yang sama. Skema diterapkan saat data dibaca, bukan saat disimpan. Fleksibilitas itulah daya tariknya. Data lake menerima apa pun. Anda tidak perlu mengetahui bagaimana Anda akan menggunakan data tersebut sebelum menyimpannya.
Fleksibilitas juga menjadi masalah. Tanpa tata kelola, data lake menjadi rawa data. Tidak ada yang tahu apa isinya. File memiliki nama yang samar. Metadata hilang. Data terduplikasi di berbagai folder. Analis tidak dapat menemukan apa yang mereka butuhkan. Ilmuwan data membuang waktu untuk membersihkan dan menjelajahi data alih-alih menganalisisnya. Data lake menjadi pusat biaya, bukan aset. Solusinya adalah tata kelola: katalog, metadata, kontrol akses, dan kepemilikan yang jelas. Arsitektur data lakehouse modern menambahkan format tabel seperti Delta Lake dan Iceberg yang menghadirkan penegakan skema, transaksi ACID, dan kinerja kueri ke data lake. Data lake dan data warehouse menyatu. Yang terbaik dari keduanya: fleksibilitas penyimpanan mentah dan keandalan tabel terstruktur. Teknologi telah meningkat. Persyaratan tata kelola tetap ada.
Karakteristik data lake
- Skema saat membaca — menerapkan struktur saat melakukan kueri
- Penyimpanan mentah — data yang disimpan dalam format aslinya
- Dapat diskalakan — menangani petabyte pada penyimpanan komoditas.
- Fleksibel — mendukung data terstruktur, semi-terstruktur, dan tidak terstruktur.
- Bergantung pada tata kelola — tanpa katalogisasi, akan menjadi rawa.
Data lake adalah sebuah waduk. Tanpa peta, itu hanyalah sebuah badan air.
Comments
No comments yet. Be the first to share a thought.
Leave a comment