人工智能作为当前手机最热门的功能,是堪比5G的未来手机发展趋势。
即使是我们现在使用的4G手机中,人工智能也已经是不可或缺的了。
手机中的很多功能都是借助人工智能性能来实现的。
生物识别解锁、拍照、语音助手、AR识别和翻译等功能都是这样的。
人工智能离不开模型算法的优化,也离不开底层硬件提供的性能支持。
高通作为手机市场最重要的供应商之一,在人工智能方面也有着独特的做法。
高通产品营销总监刘学辉与我们分享了高通在人工智能方面有哪些特点。
云和终端缺一不可。
终端侧性能影响最终体验。
人工智能近年来发展迅速,主要有终端侧和云端两种不同的配置方案。
两种方法都有各自的优点。
云的优势在于它拥有非常丰富的资源。
无论是计算资源、能源效率还是内存,都可以通过强大的计算能力来实现相应的计算处理。
终端侧的限制比较多,算力、电池、存储空间都会受到限制,所以比较适合做一些快速的计算。
人工智能的应用显然需要云与端的结合才能获得优秀的体验。
目前的手机市场,云端主要负责AI模型的训练。
毕竟这方面需要的大规模计算在终端侧是无法实现的。
此外,云端还需要加载终端侧无法处理的信息。
终端侧采用云端已经训练好的模型,力求以最小的功耗提供最好的性能。
因此,从实际的用户体验来看,终端侧与用户的联系远大于云端。
影响人工智能用户体验的主要因素也是我们手机终端侧的性能。
高通第三代AI引擎迭代构建生态,推动AI发展。
高通作为AI的主要推动者之一,非常重视终端侧性能。
Snapdragon人工智能引擎(AIE)现已发展到第三代。
高通早在2018年就开始涉足AI,并于2008年开始推出产品。
当时Facebook率先定义了AI中的Caffe模型,而高通Snapdragon则在CPU上实现了Neon加速。
第二代AI支持平台Snapdragon已经通过神经处理SDK支持TensorFlow和Caffe两大主流框架。
CPU、GPU和DSP都可以支持计算,特别是在GPU和DSP上,可以显着优化AI计算的性能和功耗。
随着AI的兴起和整个市场规模的不断增长,除了TensorFlow和Caffe之外,百度PaddlePaddle、商汤Parrots、Android NN等模型的推出对终端侧提出了更高的要求。
骁龙平台作为高通第三代AI平台,对上述机型均全面支持。
在人工智能方面,除了硬件的基本性能外,软件优化也能显着提升性能。
根据高通的测试数据,在硬件配置完全相同的情况下,软件优化可以显着提升性能,一年内性能提升一倍。
因此,高通人工处理引擎AI Engine不仅仅是硬件上的改进,更强调软件的支持以及模型和算法的优化。
此外,高通还与整个生态系统的合作伙伴共同推动人工智能的发展。
商汤科技、Face++、虹软等厂商推出的创新算法和应用在驱动高通不断进步。
同时,高通还与腾讯等云服务提供商合作,将Snapdragon神经处理SDK用于终端侧的实际应用。
比如QQ手机的“高能舞蹈室”功能,就是直接在手机上运行的人工智能神经网络,不需要在云端进行处理。
AI性能衡量标准取决于模型和效率。
在面对以往设备的性能问题时,往往会有一个大家普遍认可的基准测试标准,也就是俗称的跑分。
然而,AI诞生三年来,一直没有一个普遍认可的标准,大家对AI性能的描述取决于实际使用。
这也导致用户没有衡量AI性能的标准。
对于AI基准测试,高通认为有三个至关重要的指标:第一是精度,第二是性能,第三是能效。
上述三个重要指标的实现可以在真实使用环境中带来良好的用例,而现实生活中的用例应该是衡量AI基准的真正关键指标,而不仅仅是网络,而是神经网络带来的真实用例。
当今市场上有许多基准测试工具。
如果他们使用不同的模型和重量,测试结果就会不同。
甚至有一些模型根本没有实际应用,只能用于压力测试。
此类模型的性能基准测试结果甚至可以说毫无意义。
高通对当前主流的神经网络模型进行了曲线分析。
ResNet50和Inception-V3是目前终端侧效率最高的,可以为用户提供最好的体验。
高通认为基准测试应该是最重要的。
此外,AI基准软件的性能会受到测试模型的驱动程序的影响。
如果未使用最新的软件版本,则无法开启相应硬件的加速。
高通已经对新版本系统的驱动进行了跟进。
在最新的Android 9.0系统中,高通已经开始更新Adreno GPU的驱动程序。
使用新驱动后,AI基准性能测试中的结果会有明显的变化。