FacebookAIResearch首席人工智能科学家YannLeCun认为,AR(增强现实)眼镜有望成为机器学习从业者的理想挑战目标——杀手级应用,因为它涉及多个未解决的问题。完美的AR眼镜需要结合对话式AI、计算机视觉和其他复杂系统,这些系统可以像眼镜一样小巧且易于操作。低功耗AI不可或缺,这将保证合理的电池寿命,让用户可以长时间佩戴和使用眼镜。与苹果、Niantic和高通等公司一样,Facebook今年秋天确认了到2025年制造增强现实眼镜的计划。你在移动......它是计算密集型的。你希望能够与助手进行交互,以便助手始终在倾听你的声音并与你交谈。你想要手势[识别]以便助手[可以做]实时手部追踪,”他说。LeCun说,实时手部追踪已经开始工作,但“我们只是不知道如何在小尺寸的情况下做到这一点,同时仍然消耗与AR眼镜相同的功率。”性能和外观,那些真的超出了我们现在能做的,所以你必须使用人们从未想过的技巧,神经网络就是其中之一,”他说。获得更高效的LeCun本月在“EMC2”上发言在全球最大的机器学习研究会议NeurIPS上举办“节能机器学习”研讨会。他谈到了硬件限制如何限制研究人员的想象力,并表示当硬件速度太慢、软件不易获得或实验时,好的想法有时会被丢弃很难重现。他还谈到了具体的深度学习方法,例如差分联想记忆和卷积神经网络,这些方法提出了挑战,可能需要新的硬件。差分联想记忆(软RAM)是一种现在广泛应用于的计算方法自然语言处理(NLP),并且在计算机视觉应用中越来越普遍。“深度学习和机器学习架构是going在接下来的几年里会发生很大的变化。你已经可以看到很多了。现在有了NLP,镇上唯一的游戏基本上就是Transformer网络,”他说。解释说。他补充说,更高效的批处理和自我监督学习技术可以帮助AI像人类和动物一样学习,也可能有助于提高AI的能源效率。在LeCun的演讲之后,麻省理工学院电气工程和计算机科学副教授VivienneSze谈到了需要一种系统的方法来评估深度神经网络的需求。SlidesLive报道称,Sze关于高效深度神经网络的演讲是本周早些时候观看次数最多的NeurIPS视频之一,获得了相当多的点击率。“更大、更远的记忆往往会消耗更多的能量,”Sze说,并指出“所有的权重都不相等。”Sze还展示了Accelergy,这是麻省理工学院开发的用于估算硬件能耗的框架。除了讲座之外,研讨会的海报会议还展示了值得注意的低功耗AI解决方案。其中包括DistilBERT,它是谷歌BERT(来自Transformers的双向编码器表示)的轻量级版本,HuggingFace团队专门为在边缘设备上快速部署而构建;以及SRIInternational和LatentAI对深度神经网络的定量比较。许多知名人士呼吁机器学习社区应对气候变化,并表示这种关注可以推动创新。在上周NeurIPS的小组讨论中,另一位深度学习先驱YoshuaBengio呼吁研究人员更加关注影响气候变化的机器学习,并减少他们获得的出版物数量。在接受VentureBeat采访时,谷歌AI负责人JeffDean表示,他支持创建“每瓦计算标准”的想法,以鼓励使用更高效的硬件。节约能源,保护地球除了NeurIPS解释深度学习算法的理论工作外,会议的大部分工作都强调了将人工智能对气候变化的贡献考虑在内的重要性,包括一篇题为“能源使用报告:情境意识”的论文在算法责任”论文中。“算法的碳足迹必须被测量并透明地报告,这样计算机科学家才能在环境可持续性方面发挥诚实和积极的作用,”该论文写道。根据这份声明,会议的组织者早些时候曾建议,2019年向NeurIPS提交工作的2020AI研究人员可能需要分享他们提交供考虑的工作的碳足迹。美国研究机构AINowInstitute近日发布的2019年报告,将衡量算法的碳足迹纳入了十多项建议,称这些建议可以带来更加公正的社会。在其他节能AI新闻中,ElementAI和MilaQuebecAI研究所的机器学习从业者上周推出了一种新工具,该工具使用GPU训练AI模型,以根据使用时间计算碳排放量。长度和云面积等因素可预测能源使用情况。朝着更高效的机器学习方向发展可能会带来改变地球的创新。但是大的想法和挑战需要一个焦点——为了让理论感觉更实用,它需要解决真实的、具体的问题。根据LeCun的说法,AR眼镜可能是机器学习从业者的理想用例。本文转载自雷锋网。如需转载,请在雷锋网官网申请授权。
