AI存在瓶颈问题。它基于深度神经网络，可能需要数亿到数十亿次计算——这是一项处理和能源密集型任务。然后是将数据移入和移出内存以执行这些和其他分析计算的成本和延迟。麻省理工学院(MIT)的副教授VivienneSze以她在开发视频压缩标准方面的作用而闻名，该标准至今仍在使用。现在，她专注于设计更高效的深度神经网络来处理视频，以及更高效的硬件以在智能手机、嵌入式设备、微型机器人、智能家居和医疗设备上运行人工智能应用程序。在麻省理工学院最近的一次采访中，她解释了为什么我们现在需要低功耗人工智能。“人工智能应用正在转向智能手机、微型机器人、联网设备以及其他功率和处理能力有限的设备。挑战在于AI的计算要求很高。对来自自动驾驶汽车的传感器和摄像头数据进行分析可能会消耗大约2,500瓦，但sm的计算预算很低，一部智能手机大约只有1瓦。”在智能手机等小型设备上本地化AI“意味着数据处理不再需要发生在云中，在仓库的服务器机架上，”Sze说。“。“从云端卸载计算使我们能够扩大人工智能的范围。它通过减少与远程服务器通信造成的延迟来加快响应时间。这对于自主导航和增强现实等交互式应用程序至关重要，因为它们需要响应立即适应不断变化的条件。在开发设备上处理数据冰还可以保护医疗和其他敏感记录。数据可以在收集的地方进行处理。”从硬件的角度来看，Sze寻求“在本地重复使用数据，而不是将其发送到芯片外。将重复使用的数据存储在芯片上使处理过程非常节能。”在软件方面，Sze正在设计算法代码的“修剪”，以去除深度网络中的能源密集型过程。”权重”并进行其他调整。她正在研究的一个潜在应用是眼动追踪，以帮助诊断神经退行性疾病，这可以通过患者家中的普通智能手机完成，而到目前为止，这通常需要昂贵的办公设备。
