Luați o funcție simplă, suprapuneți mai multe copii și lăsați fiecare să învețe. O rețea neuronală este o compoziție de straturi, în care fiecare strat aplică ponderi, o eroare și o neliniaritate. Antrenamentul ajustează aceste ponderi pentru a se potrivi datelor.

Designul este vag inspirat de neuronii biologici, deși asemănarea este superficială. Ceea ce contează este că arhitectura poate aproxima funcții complexe având suficientă capacitate și date. Teoremele de aproximare universală susțin acest lucru, deși nu spun nimic despre dacă antrenamentul va găsi o soluție bună.

Tipuri comune de rețea

• Rețele feedforward
• Rețele convoluționale
• Rețele recurente
• Transformatoare
• Rețele grafice

Adâncimea ajută. Rețelele superficiale pot aproxima multe funcții, dar cele profunde învață caracteristici ierarhice mai eficient. Această eficiență este motivul pentru care învățarea profundă a prins avânt odată ce instruirea a devenit practică.