炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
一直以来,Pytorch在Mac上仅支持使用CPU进行训练。
就在刚刚炼丹,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。
只要是搭载了M1系列芯片的Mac都行。
这也就意味着在Mac本机用Pytorch“炼丹”会速度更方便了!
训练速度可提升约7倍
此功能由Pytorch与Apple的Metal工程团队合作推出。
它使用Apple的Metal Performance S×7haders(MPS) 作为PyTorch的后端来启用GPU加速训练。
为了优化计算性能,MPS还针对Metal GPU系列的独特特性对每个内核进!你行了微调。
Metal是一个类似OpenGL的框架,只不过OpenGL适用于各平台的移动端GPU渲染和计算,Metal专用于iOS/MacOS平台,不过的M也兼顾了性能和易用性。
MPS就是一套基于Metal框架的库,直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。
苹果官方在搭载了Mac1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。
(这阵容差不多能算是豪华配置了)。
他们分别电脑训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT,以及batch size=64的VGG1也能6。
从下图中我们可以发现,相比使用CPU加速,使用GPU可将模型训练速度提高约7倍,评估(evaluation)速度则最高能提约20倍。
看到这儿,有在P网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。
有人表示,虽说目前M1的原始计算性能比不上英伟达的产品,但功耗方面还不错。未来苹果很有yT可能慢慢追上性能。
总的来说,Mac Studio现在看起来实在太香了。
他进一步解释道:
“毕竟它是你花4800美元就能买到的最便宜、包含128GB GPU内or存的机器。现在有了基于GPU加速的PyTorch支持,完全可以用来训练大模型、配置大的batch size。
对于我所做的那种DL工作,数据加载比实际的原始计ch算能力更容易成为瓶颈。”
你心动了吗?
现在就试试?
只需保证你的macOS操作系统在12.3版本及以上,且安装了arm64原生Python,然后去官网下载训练最新的Pytorch预览版就可以了。
地址:
https://pytorch.org/blog/introducing-accelerated-pytor中用ch-training-on-mac/
- ·阿里巴巴重磅发布全模态大模型 Qwen3-Omni
- ·京东云发布618战报:每秒用户访问峰值同比提升152%
- ·Facebook承诺未来3年将向新闻行业投资至少10亿美元
- ·云安全日报211102:IBM私有云安全性与合规性解决方案发现重要漏洞,需要尽快升级
- ·唯一能量产屏下相机的手机厂商:不是华为,小米,也不是苹果三星
- ·谷歌 Gemini API 推出“地图接地”功能,AI 应用一跃成为“本地专家”
- ·标签: 灵心巧手 Linker Hand 具身智能 灵巧手
- ·微软与People Inc签署AI授权协议:内容付费新模式开启,直面谷歌流量冲击
- ·云安全日报220317:红帽OpenShift云应用平台发现执行任意代码漏洞,需要尽快升级
- ·标签: DeepWay 新能源重卡 自动驾驶 智能编队
- ·OpenAI惊爆AI"阴谋论"!模型会故意欺骗人类,训练越多反而越狡猾
- ·标签: 欣旺达 威睿 吉利 电芯
- ·Facebook宣布三项措施:帮助全球5000万人接种疫苗
- ·韩国起亚和现代汽车称没有与苹果就电动汽车合作展开讨论
- ·云计算拯救互联网巨头?
- ·标签: TowerSemiconductor 硅光子 SiPho 高塔半导体
- ·https://www.nyif.com/catalogsearch/result/index/?f=sarbanesoxleyU&index=me_cms_pe&lit=20&mode=list&p=1&q=百度蜘蛛池租用【tg:seogoogle987】,LuP
- ·https://www.kyuhoshi.com/?s=百度蜘蛛池租用【tg:seogoogle987】,B51
- ·https://www.wellbees.com/index.php/catalogsearch/result/index/?q=百度蜘蛛池租用【tg:seogoogle987】,AXR
- ·https://www.temu.com/search_result.html?search_key=百度蜘蛛池租用【tg:seogoogle987】nrN
- ·https://www.routesonline.com/search/?query=百度蜘蛛池租用【tg:seogoogle987】,2TR
- ·https://www.uckfieldtc.gov.uk/?s=百度蜘蛛池租用【tg:seogoogle987】,yGD
- ·https://www.vocabulary.com/dictionary/百度蜘蛛池租用【tg:seogoogle987】,kcV
- ·https://www.ushmm.org/search/results/?ID=8s0587Oi8UTv74zPPM4fuhwjNpe2hsEE&q=百度蜘蛛池租用【tg:seogoogle987】,jSp
- ·https://www.lee.com/search?q=百度蜘蛛池租用【tg:seogoogle987】,LhQ
- ·https://www.jusoen.com/addreng.asp?p1=百度蜘蛛池租用【tg:seogoogle987】aw9
