A súlyokat megtanuljuk. A hiperparamétereket kiválasztjuk. A tanulási ráta, a köteg mérete, a rétegek száma, a kiesési arány és a regularizáció erőssége mind ebbe a kategóriába tartozik. Ezek szabályozzák a betanítás menetét és a modell strukturálását.
A rossz elkövetés idő- és számítási pazarlással jár. A túl magas tanulási ráta divergenciát okoz. A túl alacsony feltérképezési sebesség. A köteg mérete befolyásolja a gradiens zajt és a memóriahasználatot. A mélység és a szélesség határozza meg a kapacitást, amelynek meg kell egyeznie a feladat összetettségével és az adatok méretével.
Gyakori hangolási módszerek
- Rácskeresés egy rögzített halmazon
- Véletlenszerű keresés szélesebb körű lefedettség érdekében
- Bayes-optimalizálás a hatékonyság érdekében
- Populációalapú képzés
- Intuíció által vezérelt manuális hangolás
A finomhangolás költséges. Minden konfiguráció teljes betanítási futtatást igényel, és a keresési terület gyorsan növekszik. A tapasztalt szakemberek a terület ismeretével szűkítik a területet az automatizálás előtt, ami gyakran jobb, mint a nyers erővel történő keresés.
Comments (2)
Leave a comment