Ağırlıklar öğrenilir. Hiperparametreler seçilir. Öğrenme oranı, toplu işlem boyutu, katman sayısı, dropout oranı ve düzenleme gücü bu kategoriye girer. Bunlar, eğitimin nasıl ilerleyeceğini ve modelin nasıl yapılandırılacağını kontrol eder.

Bunları yanlış yapmak zaman ve işlem gücü kaybına yol açar. Çok yüksek bir öğrenme oranı sapmaya neden olur. Çok düşük bir oran ise yavaşlamaya yol açar. Toplu işlem boyutu, gradyan gürültüsünü ve bellek kullanımını etkiler. Derinlik ve genişlik kapasiteyi belirler ve bu kapasite, görevin karmaşıklığı ve veri boyutuyla eşleşmelidir.

Yaygın ayarlama yöntemleri

• Sabit bir küme üzerinde ızgara araması
• Daha geniş kapsamlı rastgele arama
• Verimlilik için Bayesyen optimizasyon
• Nüfus tabanlı eğitim
• Sezgisel yaklaşımla yapılan manuel ayarlama

Ayarlama maliyetlidir. Her yapılandırma tam bir eğitim çalışması gerektirir ve arama alanı hızla büyür. Deneyimli uzmanlar, otomasyondan önce alan bilgisiyle arama alanını daraltırlar; bu da genellikle kaba kuvvet aramasından daha iyi sonuç verir.