diff --git a/docs/README.md b/docs/README.md index 10dd9ad0..54203eb0 100644 --- a/docs/README.md +++ b/docs/README.md @@ -1,5 +1,4 @@ -[![GitHub issues](https://img.shields.io/github/issues/datawhalechina/leedl-tutorial)](https://github.com/datawhalechina/leedl-tutorial/issues) [![GitHub stars](https://img.shields.io/github/stars/datawhalechina/leedl-tutorial)](https://github.com/datawhalechina/leedl-tutorial/stargazers) [![GitHub forks](https://img.shields.io/github/forks/datawhalechina/leedl-tutorial)](https://github.com/datawhalechina/leedl-tutorial/network) [![Hits](https://hits.seeyoufarm.com/api/count/incr/badge.svg?url=https%3A%2F%2Fgithub.com%2Fdatawhalechina%2Fleedl-tutorial%2F&count_bg=%2379C83D&title_bg=%23555555&icon=&icon_color=%23E7E7E7&title=hits&edge_flat=false)](https://hits.seeyoufarm.com) -![Downloads](https://img.shields.io/github/downloads/datawhalechina/leedl-tutorial/total) 知识共享许可协议 +[![GitHub issues](https://img.shields.io/github/issues/datawhalechina/leedl-tutorial)](https://github.com/datawhalechina/leedl-tutorial/issues) [![GitHub stars](https://img.shields.io/github/stars/datawhalechina/leedl-tutorial)](https://github.com/datawhalechina/leedl-tutorial/stargazers) [![GitHub forks](https://img.shields.io/github/forks/datawhalechina/leedl-tutorial)](https://github.com/datawhalechina/leedl-tutorial/network)![Downloads](https://img.shields.io/github/downloads/datawhalechina/leedl-tutorial/total) 知识共享许可协议 # 李宏毅深度学习教程LeeDL-Tutorial（苹果书） @@ -18,6 +17,30 @@
李宏毅老师推荐。
+## 贡献者 + + + + + + + + + +
+ pic
+ Qi Wang +

上海交通大学博士生
中国科学院大学硕士

+ 		+ pic
+ Yiyuan Yang +

牛津大学博士生
清华大学硕士

+ 		+ pic
+ John Jim +

北京大学硕士

+
+ ## 纸质版 @@ -45,14 +68,15 @@ 豆瓣评分：https://book.douban.com/subject/36997460/ -ℹ️ **勘误修订表**：https://datawhalechina.github.io/leedl-tutorial/#/errata +> [!IMPORTANT] +**勘误修订表**：https://datawhalechina.github.io/leedl-tutorial/#/errata ## 最新版PDF下载 地址：https://github.com/datawhalechina/leedl-tutorial/releases -国内地址(推荐国内读者使用)：链接: https://pan.baidu.com/s/1ZKuXfkXHoyyvPR1-CP-Ffw 提取码: 2t6m +国内地址：https://pan.baidu.com/s/1qgAIFblbSn4MxnwzALJXPg 提取码: 1cnm ## 纸质版和PDF版的区别 @@ -118,39 +142,16 @@ PDF版本是全书初稿，人民邮电出版社的编辑老师们对初稿进 [点击](https://github.com/datawhalechina/leedl-tutorial/tree/master/Homework)或者网页点击```Homework```文件夹进入配套代码 ## 扩展资源 +- 对**强化学习玩我的世界（Minecraft）游戏**感兴趣的读者，可阅读 [LS-Imagine](https://github.com/qiwang067/LS-Imagine) - 对**强化学习**感兴趣的读者，可阅读[蘑菇书EasyRL](https://github.com/datawhalechina/easy-rl) -- 对**视觉强化学习**感兴趣的读者，可阅读[Awesome Visual RL](https://github.com/qiwang067/awesome-visual-rl) - -## 贡献者 - - - - - - - - - -
- pic
- Qi Wang -

上海交通大学博士生
中国科学院大学硕士

- 		- pic
- Yiyuan Yang -

牛津大学博士生
清华大学硕士

- 		- pic
- John Jim -

北京大学硕士

-
+- 对**视觉强化学习**感兴趣的读者，可阅读 [Awesome Visual RL](https://github.com/qiwang067/awesome-visual-rl) ## 引用信息 ``` 王琦，杨毅远，江季，深度学习详解，人民邮电出版社，https://github.com/datawhalechina/leedl-tutorial, 2024. -Qi Wang, Yiyuan Yang, Ji Jiang，Essence of Deep Learning，Posts & Telecom Press，https://github.com/datawhalechina/leedl-tutorial, 2024. +Qi Wang, Yiyuan Yang, Ji Jiang，LeeDL Tutorial，Posts & Telecom Press，https://github.com/datawhalechina/leedl-tutorial, 2024. ``` ```bibtex @@ -167,7 +168,7 @@ url = {https://github.com/datawhalechina/leedl-tutorial} ``` ```bibtex @book{wang2024leedltutorialen, -title = {Essence of Deep Learning}, +title = {LeeDL Tutorial}, publisher = {Posts & Telecom Press}, year = {2024}, author = {Qi Wang，Yiyuan Yang，Ji Jiang}, diff --git a/docs/errata.md b/docs/errata.md index eeafa452..76b78081 100644 --- a/docs/errata.md +++ b/docs/errata.md @@ -1,15 +1,77 @@ # 纸质版勘误修订表 -**如何使用勘误？首先找到你的书的印次，接下来对着下表索引印次，该印次之后所有的勘误都是你的书中所要注意的勘误，印次前的所有勘误在当印次和之后印次均已印刷修正。为方便读者，所有修订内容都列举在此。其中部分修订是为了更便于读者理解，并非原文有误。** +此文档文图书勘误表。为方便读者，所有修订内容都列举在此。注意，其中部分修订是为了更便于读者理解，并非原文有误。 -## 第1版第4次印刷 +## 如何使用勘误？ +本文档按印刷倒序排列，即最新的勘误位于文档最上端，最旧的勘误位于文档最下端。因此，您需要遵循以下方式使用本文档： + +1. 在您手中图书的扉页背面找到该书的印次，如“2024年9月第3次印刷”。 +2. 在本文档中找到对应印次的标题位置 +3. 该标题位置**以下**的所有勘误在您手中图书印刷时均已修正。 +4. 该标题位置**以上**的所有勘误在您手中图书印刷时尚未修正，即需要您注意的勘误。 + +--- + +## 2025年3月第6次印刷 + +* 174 页，图8.5替换为 + + ![](res/5-05.png ':size=650') + + +* 156 页，图7.16替换为 + + ![](res/7-16.png ':size=650') + +## 2025年1月第5次印刷 + +* 9页倒数第1段最后1行 - 10 页第1段第1行：常数项被设成红色线和 $x$ 轴的交点一样大. 第 1 个蓝色函数斜坡的起点，设在红色函数的起始地方. 第 2 个斜坡的终点设在第一个转角处， → 常数项被设成红色线和 $y$ 轴的交点一样大. 第 1 个蓝色函数斜坡的起点，设在红色函数的起始地方，终点设在红色函数的第一个转角处. +* 13 页，倒数第1段倒数第2行：蓝色虚线框 → 虚线框 +* 14 页，图1.14替换为： + +![](res/1-14.png ':size=650') + +* 15 页，倒数第1段第3行：代表 $\boldsymbol{\theta}^1$ 更新过一次的结果 → $\boldsymbol{\theta}^1$ 代表更新过一次的结果 +* 18 页，图1.21替换为： + +![](res/1-21.png ':size=650') + +* 33页，倒数第1段第1行：$L(\boldsymbol{\theta})^{\prime}$ → $L(\boldsymbol{\theta}^{\prime})$ +* 46 页，第2段倒数第3行：梯度的方向加上前一步的方向 → 梯度的反方向加上前一步的方向 +* 47 页，第2段倒数第3行：即使梯度方向往左 → 即使梯度反方向往左 +* 49 页，图3.22(a) ：学习率为 $\eta^{-2}$ → 学习率为 $\eta=10^{-2}$ +* 49 页，图3.22(b) ：学习率为 $\eta^{-7}$ → 学习率为 $\eta=10^{-7}$ +* 59 页，式3.28 替换为： + +$$ +y_i'=\frac{\text{exp}(y_i)}{\sum_j \text{exp}(y_j)} +$$ + + + +* 78 页，所以就算鸟嘴出现图像的在中间也没有关系 → 所以就算鸟嘴出现在图像的中间也没有关系 +* 86 页，图4.27替换为： + +![](res/4-27.png ':size=650') + +* 159 页，图7.21替换为： + +![](res/7-21.png ':size=650') + +* 236 页，图11.2替换为： + +![](res/11-2.png ':size=650') + +* 236 页，第2段第3行：也有人把这件事情叫作**重构（reconstruction）** → 这也可以称为**重建（reconstruction）** + +## 2024年11月第4次印刷 * 4页，倒数第1段倒数第5行：$L$ 对参数 $w$ 的微分 → $L$ 关于参数 $w$ 的偏导数 -* 5页，倒数第3段：微分 → 偏导 -* 5页，倒数第2段：微分 → 偏导 +* 5页，倒数第3段：微分 → 偏导数 +* 5页，倒数第2段：微分 → 偏导数 * 6页，倒数第3段第2行：$b$ 对 $L$ 的微分以及 $w$ 对 $L$ 的微分 → $L$ 关于 $b$ 的偏导数以及 $L$ 关于 $w$ 的偏导数 * 6页，倒数第2段：微分结果 → 偏导结果 -* 6页，倒数第1段：微分 → 偏导 +* 6页，倒数第1段：微分 → 偏导数 * 7页，第2段的3~4行：在 2021 年没有看过的 数据上，损失用 $L^{\prime}$ 来表示 → 在 2021 年数据上的损失用 $L^{\prime}$ 来表示 * 15页，倒数第1段倒数第2行：微分 → 偏导 * 15页，倒数第2段第2行：计算每一个未知参数对 $L$ 的微分 → 计算 $L$ 关于每一个未知参数的偏导数 @@ -17,9 +79,9 @@ * 34页，第2段第2~3行：二次微分 → 二次偏导数 * 34页，第2段第3行：就是先把 $\boldsymbol{\theta}$ 的第 $i$ 个元素对 $L\left(\boldsymbol{\theta}^{\prime}\right)$ 做微分 → 就是先求 $L\left(\boldsymbol{\theta}^{\prime}\right)$ 关于 $\boldsymbol{\theta}$ 的第 $i$ 个元素的偏导数 * 34页，第2段第4行：再把 $\boldsymbol{\theta}$ 的第 $j$ 个元素对 $\frac{\partial L\left(\boldsymbol{\theta}^{\prime}\right)}{\partial \theta_i}$ 做微分的结果 → 再求 $\frac{\partial L\left(\boldsymbol{\theta}^{\prime}\right)}{\partial \theta_i}$ 关于 $\boldsymbol{\theta}$ 的第 $j$ 个元素的偏导数 -* 34页，第3段第2行：微分 → 导数 -* 36页，倒数第2段：微分 → 导数 -* 37页，倒数第2段第2行：微分 → 导数 +* 34页，第3段第2行：微分 → 偏导数 +* 36页，倒数第2段：微分 → 偏导数 +* 37页，倒数第2段第2行：微分 → 偏导数 * 37页，删掉标题 “3.1.3 逃离鞍点的方法” * 51页，第1段第1行：参数 $\boldsymbol{\theta}^i$ 对损失 $L$ 的微分 → 损失 $L$ 关于参数 $\boldsymbol{\theta}^i$ 的偏导数 @@ -45,14 +107,14 @@ $$ * 336页，倒数第2段倒数第6行：这个比值就是对损失做偏微分 → 这个比值是损失的偏导数 * 338页，第1段第3行和倒数第2行：偏微分 → 偏导数 -## 第1版第3次印刷（2024.09） +## 2024年9月第3次印刷 * 45页，表3.1第2行改成： | 一次更新的速度（没有并行计算） | 更快 | 更慢 | | :----------------------------: | :--: | :--: | * 55页，倒数第2段的第4行和第5行：图3.22(b) → 图3.27 -* 106页，输入单元（即记忆元）→ 输入单元 +* 106页，倒数第1段第1行：输入单元（即记忆元）→ 输入单元 * 122页，图6.5替换成： ![](res/6-5.png ':size=300') @@ -63,7 +125,7 @@ $$ * 342页，倒数第2段第3行：1$\sim$9 → 0$\sim$9 -## 第1版第2次印刷（2024.09） +## 2024年9月第2次印刷 -## 第1版第1次印刷（2024.09） +## 2024年9月第1次印刷 diff --git a/docs/res/1-14.png b/docs/res/1-14.png new file mode 100644 index 00000000..6dca38c5 Binary files /dev/null and b/docs/res/1-14.png differ diff --git a/docs/res/1-21.png b/docs/res/1-21.png new file mode 100644 index 00000000..73df80d0 Binary files /dev/null and b/docs/res/1-21.png differ diff --git a/docs/res/11-2.png b/docs/res/11-2.png new file mode 100644 index 00000000..6a3d086e Binary files /dev/null and b/docs/res/11-2.png differ diff --git a/docs/res/4-27.png b/docs/res/4-27.png new file mode 100644 index 00000000..2d458bf7 Binary files /dev/null and b/docs/res/4-27.png differ diff --git a/docs/res/5-05.png b/docs/res/5-05.png new file mode 100644 index 00000000..5043feff Binary files /dev/null and b/docs/res/5-05.png differ diff --git a/docs/res/7-16.png b/docs/res/7-16.png new file mode 100644 index 00000000..00d4b08c Binary files /dev/null and b/docs/res/7-16.png differ diff --git a/docs/res/7-21.png b/docs/res/7-21.png new file mode 100644 index 00000000..16be40f0 Binary files /dev/null and b/docs/res/7-21.png differ