Bobot dipelajari. Hiperparameter dipilih. Tingkat pembelajaran, ukuran batch, jumlah lapisan, tingkat dropout, dan kekuatan regularisasi semuanya termasuk dalam kategori ini. Mereka mengontrol bagaimana pelatihan berlangsung dan bagaimana model tersebut terstruktur.

Kesalahan dalam menentukan hal ini akan membuang waktu dan daya komputasi. Tingkat pembelajaran yang terlalu tinggi akan menyebabkan divergensi. Terlalu rendah akan memperlambat proses. Ukuran batch memengaruhi noise gradien dan penggunaan memori. Kedalaman dan lebar menentukan kapasitas, yang harus sesuai dengan kompleksitas tugas dan ukuran data.

Metode penyetelan umum

• Pencarian grid pada himpunan tetap
• Pencarian acak untuk cakupan yang lebih luas
• Optimasi Bayesian untuk efisiensi
• Pelatihan berbasis populasi
• Penyetelan manual yang dipandu oleh intuisi.

Penyetelan (tuning) itu mahal. Setiap konfigurasi memerlukan pelatihan lengkap, dan ruang pencarian berkembang dengan cepat. Praktisi berpengalaman mempersempit ruang pencarian dengan pengetahuan domain sebelum melakukan otomatisasi, yang seringkali lebih efektif daripada pencarian secara paksa (brute-force).