标题：百度算法工程师校招面试经验分享：深入理解梯度下降、Transformer技术以及解决类别不平衡问题
梯度下降的几种变体及其优缺点 梯度下降（Gradient Descent）是机器学习中一种基础且有效的优化算法，其核心思想是通过迭代更新模型参数来逼近损失函数的最小值。在深度学习中，梯度下降的几种常见形式包括批量梯度下降（BGD）、随机梯度下降（SGD）和Mini-batch梯度下降（MBGD）。每种方法都有其独特的优点和局限性。 批量梯度下降（BGD） ：每次更新使用全部训练数据计算梯度。这种方法的优势在于梯度方向准确，收敛稳定；然而，由于需要对所有样本进行计算，因此在数据量大时计算开销巨大
广告代运营
2026-06-08
3 阅读