本文经AI新媒体量子位（公众号ID:QbitA谷歌I）授权转载，转载请联系出处。

深度神经网络往往存在过大脑拟合的问题，需要Dropout、权重衰减这样的最新正则化方法的加持。

而最近的研究表明，如果对Drop研究out“剪掉”的神经元的结构进行利用，就能实现：A比随机替换更好的效果。

问题是，实际应用中，针对ut不同的问题，利用结构的方法需要人工设计，对DroMopout的模式进行调整，泛化能力不足。

那么，是否能L方设计一种针对CNN、Transformer这样的深度神式自经网络，自动学习Dropout模式的方法？

现在，动学谷歌大神Quoc V. Le的团队，就提出了一种名为Aut习DoDropout的方法。

&nrobsp;

https://arxpoiv.org/abs/2101.01761

• ·IDC：2022年中国人工智能软件市场规模10年来首现负增长
• ·Moonshot AI发布 Kimi Linear:线性注意力架构快6倍，开源 KDA 内核同步上线
• ·2021骞磋秴閰风殑 10 涓�ぇ鏁版嵁宸ュ叿锛佷綘鐭ラ亾鍑犱釜锛�
• ·标签: 鸿蒙智行 我是大彬同学 骠骑尉—松亭先生 名誉侵权
• ·基于Kubernetes的混合云的优缺点
• ·上海 AI 实验室发布 XTuner V1 训练引擎 大模型训练效率暴涨20%
• ·小米开源首个原生端到端语音大模型 Xiaomi-MiMo-Audio
• ·标签: 欢聚 BIGO Ads 直播业务 价值标的
• ·云计算核心技术Docker教程：Docker Hub生成新的恢复代码
• ·标签: 臻宝科技 半导体零部件 科创板上市 硅零部件
• ·苹果大中华地区注册开发者数量增至440万
• ·Salesforce 2023财年第四财季净亏损9800万美元 同比有所扩大
• ·标签: 微信 腾讯 AI智能体 元宝
• ·2021年需要关注的5个开源Kubernetes项目
• ·让数据中台进入数智化时代 明略科技论道“中台”
• ·标签: 华虹半导体 FAB9 电源管理 独立式闪存