Die Gewichte werden gelernt. Die Hyperparameter werden ausgewählt. Lernrate, Batchgröße, Anzahl der Schichten, Dropout-Rate und Regularisierungsstärke fallen alle in diese Kategorie. Sie steuern den Trainingsablauf und die Modellstruktur.

Falsche Einstellungen verschwenden Zeit und Rechenleistung. Eine zu hohe Lernrate führt zu Divergenzen, eine zu niedrige zu langsamen Abläufen. Die Batchgröße beeinflusst das Gradientenrauschen und den Speicherverbrauch. Tiefe und Breite bestimmen die Kapazität, die der Komplexität der Aufgabe und der Datengröße entsprechen muss.

Gängige Abstimmungsmethoden

• Gittersuche über eine feste Menge
• Zufällige Suche nach umfassenderer Berichterstattung
• Bayes'sche Optimierung zur Effizienzsteigerung
• Bevölkerungsbezogene Schulung
• Manuelle Stimmung nach Intuition

Die Optimierung ist aufwändig. Jede Konfiguration erfordert einen vollständigen Trainingslauf, und der Suchraum wächst schnell. Erfahrene Anwender grenzen den Suchraum mithilfe von Fachwissen ein, bevor sie die Automatisierung durchführen, was oft effektiver ist als die Suche ohne vorherige Analyse.