取一个简单的函数，将其复制并堆叠成多个副本，然后让每个副本进行学习。神经网络由多层组成，每一层都应用权重、偏置和非线性项。训练过程会调整这些权重以适应数据。

该设计的设计灵感源于生物神经元，但相似之处仅限于表面。关键在于，只要拥有足够的容量和数据，该架构就能近似表示复杂的函数。通用逼近定理支持这一点，但它们并未说明训练是否能找到一个好的解决方案。

常见网络类型

• 前馈网络
• 卷积神经网络
• 循环网络
• 变形金刚
• 图网络

深度至关重要。浅层网络可以近似许多函数，但深层网络能更高效地学习层级特征。正是这种效率，使得深度学习在训练变得实用后迅速发展起来。