25分钟训练机器人学会6个动作,伯克利开发高效机器人操纵框架
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
这个机械臂正在完成够、拿、移、推、点、开等6个动作。
而且动作娴熟,还不存在失误。
更令人意外的是,训25练这个机械臂,只花了短短25分钟。
即使有人为干扰,它也能够成功完成抓取动作。
还能抓起以前没有见过的物体形状。
这就是来自加州大学伯克利分校的一项新研究——高效机器操作框架Fra分钟mework for Efficient Robotic Manipulation(FERM),专门对机械臂进行高效率操作的算法训练。
FERM为什么比其他方法效率高?
目前来看,大多数针对训练机器人训练的的RL算法效率都不是很好。
采用稀疏奖励的方法训练Dota5游戏的人机操作,使之成为达到人类玩家的高手水平,需要花180年的游戏时间。
训练一个机械臂的手势,则需要上千万的模机器拟学习的样本和两周的训练时间。
Sim2Real和模拟学习这两个方法稍微好点。Sim2Real需要接受模拟训练,再将训练结果运用到现实事例中。
模拟学习则需要通过一系列的专业训练示范案例和人学监督学习,才能得出最后的训练策略,实验结果非常依赖于输入示范案例的质量。
FERM优势在于,既没有依靠模拟训练转换到现实,也不用高度依赖于输入的示范案例的质量。
而是基于非监督性表征学习和会6数据扩张技术,使用了pixel-based RL。
因此,它仅仅需要10个Demo,25分钟的训练时间,就可以让机器人学会六个动作。
FERM具体怎么训练?
FERM采用了基于像素的个动强化学习(pixel-based RL)方法。
具体而言,先收集小部分演示数据,并且将这些数据存放在“回放缓冲区”上。
然后,用观察结果结合对比损失量,来对编码器进行预训练。
而后,编码器和作,“回放缓冲区”运用一种线下的数据来加强RL算法,对RL智能体进行训练。
在论文中,研究人员总结了FERM主要优点:
1、高效率:FERM可以学习6种不同操作任务的最优策略,在15-50伯克分钟的训练时间内完成每项任务。
2、简单统一的框架:框架结合现有的组成部分,将无监督的预训练和在线RL与数据扩充成一个单一高效的框架。
3、常规轻量设置:实施起来只需要一个机器人、一个G利开PU、两个摄像头、几个演示,以及稀疏奖励函数等等。
具体的实验结果如何?
实验结果
这项实验采用像素观察的方法执行了一系列任务。下图的每一栏显示了初始、中间、结果等三个状态。只有当机器人发高完成任务时,才会获得稀疏奖励。
这个训练算法的效率可谓很高了。具体完成时间如下图表格所示,在30分钟左右,它就可以让机器人学习操作任务。而简单的“够”(Reach)动作,则只需要效机三分钟。
实验结果称,它不需要很多的Demo,也不需要到大量的设备,首次完成任务的平均时间为11分钟,并且可以在25分钟内训练出6个机械动作。
所以研究人员骄傲地说:
“据我们所知,F器人ERM是第一个能在不到一小时的时间内,能通过像素点直接完成来自不同组、采用稀疏奖励方法的机器操作任务。”
而根据相关报告,未来十年,制造业将需要460万个岗位。许多制造商也都在转向自动操纵化生产,机械自动化将占比越来越高。FERM这样的高效训练框架,可谓是制造业福音。
- ·标签: 腾势N8
- ·Anthropic 推出 Claude for Chrome:AI 浏览器代理进入竞争白热化阶段
- ·聊聊Hive数据类型和简单使用
- ·标签: 华睿科技 AMR 机器视觉 大华股份
- ·云安全日报210618:Ubuntu GRUB2引导加载程序发现执行任意代码漏洞,需要尽快升级
- ·标签: 联想控股 联想集团 AI_PC 英伟达
- ·标签: 容百科技 宁德时代 证监会 磷酸铁锂
- ·标签: 融泰药业 中信证券 港股IPO 医药服务
- ·标签: 奇瑞汽车 捷途 星途 iCAR
- ·云安全日报211214:IBM网管解决方案发现执行任意代码漏洞,需要尽快升级
- ·标签: 大华股份 AI大模型 智慧物联 数智化
- ·标签: 小米集团 雷军 小米汽车 港股
- ·标签: 瑞云冷链 冷运宝 数字化冷链 跨境冷链
- ·美国加州货运抢劫案频发,AI 数据中心硬件成目标
- ·本科生搞AI在线崩溃:3个月才跑通GitHub模型,太难了吧
- ·Twitter曾计划以40亿美元收购Clubhouse:目前谈判已搁置
- ·云安全日报210220:IBM多云管理方案发现拒绝服务漏洞,需要尽快升级
- ·最新报告披露苹果iPhone 13今年上市时间
- ·IBM开盘跌8.5% 第四季度营收不及市场预期
- ·亚马逊清理云服务内容 违反规定将被删除
- ·云安全日报210608:红帽Nettle密码库发现内存越界访问漏洞,需要尽快升级
- ·云计算核心技术Docker教程:Docker Compose 介绍
- ·标签: 明日方舟:终末地 鹰角网络 PayPal支付事故 游戏公测
- ·为“传唤朋友”铺路?OpenAI被曝索要轻生少年追悼会完整名单
- ·云计算核心技术Docker教程:Docker Hub检查活动版本
- ·云计算开发:Python练习实例-统计 1 到 100 之和
- ·https://www.lyrics.com/lyrics/kkk3谷歌外推【tg:seogoogle987】,a23
- ·https://www.kelsa.co.uk/catalogsearch/result/index/?T=1686132119291&q=谷歌外推【tg:seogoogle987】,2IR
- ·https://www.uctronics.com/catalogsearch/result/?q=谷歌外推【tg:seogoogle987】,rr2
- ·https://www.u-bourgogne.fr/?cat=117&s=谷歌外推【tg:seogoogle987】,udS
- ·https://www.routesonline.com/search/?query=谷歌外推【tg:seogoogle987】,YiG
- ·https://www2.ual.es/ProyectoLates/?s=谷歌外推【tg:seogoogle987】,N7a
- ·https://www.nslcleaders.org/?s=谷歌外推【tg:seogoogle987】,WrV
- ·https://www.shopping.com/search.html?keyword=谷歌外推【tg:seogoogle987】,LrN
- ·https://www.rollingstone.it/?ID=DVMeu3AlmzZE1cuJ2FmgmO5TSCQRb3yh&s=谷歌外推【tg:seogoogle987】,RUz
- ·https://www.maafushidive.com?collections?vendors?q=谷歌外推【tg:seogoogle987】,3V9
- ·AI安全警报:只需250份文件即可 “投毒” 大语言模型
- ·云计算开发:Python练习实例-加密数据传递
- ·Facebook推出新功能:创作者可通过电商渠道赚钱
- ·红杉投资的AI设计工具倒了!被Perplexity收购,90天后关停
- ·迎风而上2021:如何破题五大数据挑战?
- ·2021年度国家绿色数据中心名单公布 万国数据四座数据中心上榜
- ·云安全日报210203:谷歌Chrome浏览器发现任意代码执行漏洞,需要尽快升级
- ·标签: OPPO 武汉大学 母亲节文案 余某
- ·分析师称苹果造车或面临挑战:高投入低回报
- ·OpenAI CEO奥尔特曼抨击 Anthropic:深陷“恐慌式营销”泥潭
