机器学习之梯度下降

Galois 的个人博客 / 0 / 1 / 创建于 5年前 / 更新于 4年前

梯度下降

9WUEX62UQu.jpg!large 梯度下降法简单来说就是一种寻找目标函数最小化的方法。

上图的 update 就是梯度迭代公式。

在机器学习中，基于基本的梯度下降法发展了两种梯度下降方法，分别为随机梯度下降法和批量梯度下降法。

Batch 梯度下降：

5E8NyqTEC2.png!large

随机梯度下降：

AfZ5QPy0fM.png!large

随机梯度下降有时候会上升，但如图所示，最后结果都是徘徊在最低点的。

梯度下降属于一种最优化算法。

本作品采用《CC 协议》，转载必须注明作者和本文链接

不要试图用百米冲刺的方法完成马拉松比赛。

版主 1.4k 声望

Coder @ Galois

出来混，迟早要还的。

讨论数量: 1

娃哈哈店长

见习助教 494 声望

灵魂画手

5年前评论

讨论应以学习和精进为目的。请勿发布不友善或者负能量的内容，与人为善，比聪明更重要！

帮助

Coder @ Galois

私信

文章归档

1 篇 2021 年 4 月 1 篇 2021 年 2 月 4 篇 2020 年 12 月 8 篇 2020 年 10 月 5 篇 2020 年 9 月 7 篇 2020 年 7 月 15 篇 2020 年 6 月 32 篇 2020 年 5 月 3 篇 2020 年 4 月 41 篇 2020 年 3 月 12 篇 2020 年 2 月 20 篇 2020 年 1 月

3年前 brew 报错 error: Not a valid ref: refs/remotes/origin/master 的解决方法 4年前 windows 安装 scoop 命令（windows 中的 brew） 4年前 pandas 无法打开 .xlsx 文件 4年前 jieba 词性标注 & 并行分词 4年前 jieba 基于 TF-IDF 算法的关键词提取

11 初入计算机技术领域的萌新需要理清的逻辑 7 心理素质究竟有多重要？ 6 YouTube-dl 命令下载 YouTube 的视频 5 Masonite 熟悉步骤小记录（二、连接数据库） 5 PyQt5 之主窗口

博客标签

Penetration testing

成为赞助商