本文经AI新媒体量子位（公众号ID:QbitAI）授权转载，转载请联系出处。

在MNIST上进行训练，可以说是计算机视觉里的“Hello World”任务了。

而如果使用PyTorch的标准代码训比用练CNN，一般需要3分钟左右。

但现在，在一台笔记本电脑上就能将时间缩短200多倍。

速度直达0.76秒！

那么，到底是如何仅在一次epoch的训练中就达到99%的准确率的呢？

八步提速200倍

这是一台Py装有GeForce GTX 1660 Ti GPU的笔记本。

我们需要的还有Python3.x和Pytorch 1.8。

先下载数据集进行训练，每次运行训练14个epoch。

这时两次运行的平均准确率在测试集上为to99.185%，平均运行时间为2min 52s ± 38.1ms。

接下来，就是一步一步来减少训练时间：

一、提前停止训练

在经历3到5个epoch，测试准确率达到99%时就提前停止训练。

这时的训练时间就rc减少了1/3左右，达到了57.4s±6.85s。

二、缩小网络规模，采用正则化的技巧来加快收敛速度

具体的，在第一个conv层之后添加一个2x2的最大采样层（max pool layer），将全连接层的参h框数减少4倍以上。

然后再将2个dropout层删掉一个。

这样，需要收敛的epoch数就降到了3个以下，训练时间也减少到30.3s±5.28s。

三、优化数据加载

使用data_loader.save_d架快ata()，将整个数据集以之前的处理方式保存到磁盘的一个pytorch数组中。

也就是不再一次一次地从磁盘上读取数据，而是将整个数据集一次性加载并保存到GPU内存中。

这时，我们只需要一次epoch，20就能将平均训练时间下降到7.31s ± 1.36s。

四、增加Batch Size

将Batch Size从64增加到128，平均训练时间减少到4.66s ± 583ms。

五、提高学习率

使用Superconver0倍gence来代替指数衰减。

在训练开始时学习率为0，到中期线性地最高值（4.0），再慢慢地降到0。

这使得我们的训练时间下降到3.14s±4.72ms。

六、再次增加Batch Size、缩小缩小网络！0规模

重复第二步，将Batch Size增加到256。

重复第四步，去掉剩余的dropout层，并通过减少卷积层的宽度来进行补偿。

最终将平均时间降到1.74s±18.3ms。

七、最后的微调

首先，将最大采样层.7移到线性整流函数（ReLU）激活之前。

然后，将卷积核大小从3增加到5.

最后进行超参数调整：

使学习率为0.01（默认为0.001），beta1为0.7（默认为0.9），bata2为0.9（默认为0.996秒9）。

到这时，我们的训练已经减少到一个epoch，在762ms±24.9ms的时间内达到了99.04%的准确率。

“这只是一个Hello World案例”

对于这最后的结果，有人觉得司空见惯：

优化后，数据加载时间，缩小模型尺寸，使用ADAM而不是SGD等等，都是常识性的事情。

我想没有人会真的费心去加速运行MNIST，因为这是机器学习中的“Hello World”，重点只是像你展示最小的关键值，让笔记你熟悉这个框架——事实上3分钟也并不长吧。

而也有网友觉得，大多数人的工作都不在像是MNIST这样的超级集群上。因此他表示：

我所希望的是工作更多地集中在真正最小化训练时间方面。

GitHub：
https:本上//github.com/tuomaso/train_mnist_fast

• ·标签: 机器人
• ·近九成游戏开发者已在工作中使用人工智能工具
• ·标签: DeepWay 新能源重卡 自动驾驶 智能编队
• ·用手机实时给图像直线描边，速度不亚于目标检测，在线Demo可玩
• ·AI数据中心公司Crusoe完成13. 8 亿美元股权融资，估值突破 100 亿美元
• ·标签: 罗永浩 华杉 西贝 华与华
• ·标签: 零跑汽车 C11 B01 Lafa5
• ·标签: 番茄音乐 字节 汽水音乐 音乐APP
• ·AI一键去纹身，几秒钟让你看见明星「真面目」
• ·训练速度远超3D CNN，提速3倍！Transformer
• ·标签: 微短剧 北大报告 红果短剧 张丹丹
• ·标签: 唯品会 Alexander Wang MUJI無印良品 AI试衣
• ·邱跃鹏出任腾讯云与智慧产业事业群COO SAP前中国区总经理李强加盟
• ·标签: 字节跳动 Seedance2.1 CapCut 剪映
• ·印度黑马Rocket.new逆袭硅谷：1500万美元种子轮融资挑战AI编程巨头，3个月狂揽40万用户
• ·标签: 张雪峰 峰学蔚来 心源性猝死 教育科技