习题集

深度学习的基础是理解其核心概念。这一部分习题旨在巩固你对基本术语和原理的掌握。 前向传播与反向传播：请描述神经网络中前向传播与反向传播的过程，并解释梯度下降在其中的作用。 激活函数：比较Sigmoid、Tanh和ReLU激活函数的优缺点，并说明为何ReLU及其变种在深层网络中更受欢迎。 损失函数：针对分类和回归任务，分别写出常用的损失函数（如交叉熵、均方误差…