由中国高科技产业门户OFweek微科网与高新会主办、OFweek承办的“OFweek（第二届）国际人工智能产业大会”人工智能网，于8月30日隆重召开。
本次大会，数千名人工智能学术领袖、政府领导、龙头企业及行业精英齐聚一堂，会场气氛持续高涨。
会议持续了两天。
雷星光电副总裁、智能视觉业务执行总裁孙莉作为演讲嘉宾出席了第一天的主论坛。
他给大家做了《解析深度学习的前沿研究以及应用出口》的主题演讲，介绍了嵌入式人工智能的挑战与实践。
中科创达副总裁、智能视觉业务执行总裁孙力先生首先分享了架构设计的三个主题，即嵌入式AI的发展趋势、嵌入式人工智能的挑战与实现，中科创达做了一些实践。
其次，分享了嵌入式人工智能的一些应用、实现挑战、压缩网络和常用技术。
最后介绍了创达在人工智能视觉方面的工作。
以下为中科创达副总裁、智能视觉事业部CEO孙力现场演讲内容。
OFweek编辑在不改变原意的情况下进行了整理和编辑：尊敬的业界朋友，大家好，我今天分享的主题是嵌入现代人工智能的挑战与实践。
因为大家都说了，人工智能最终必然落地，无论你跑在云端、设备上、还是边缘。
今天我要重点分享的是关于建筑设计的分享。
大约有三个主题。
第一个是嵌入式AI的发展，因为不管你叫它什么，总之人工智能要实现，你必须在这些设备上运行。
。
第二篇是关于嵌入式人工智能的一些挑战，以及分享应用实现中遇到的一些经验。
第三个是创达所做的一些实践。
在嵌入式AI的发展中，大约有三个主题。
首先，我们来看看嵌入式和云之间的区别。
它们是共存的，并不矛盾。
根据需求和场景，有些需要运行在设备端。
有些可以纯粹在云上运行。
嵌入式可以带来一些好处，比如更快的响应或更低的功耗，以及更好的数据隐私，因为有些数据不想传输到云端。
另外，大家都知道，虽然现在的物联网非常碎片化，但总体来说，其数量还是相当庞大的。
至于人工智能，未来，这些物联网硬件设备、人工智能算法和云端的结合，将使人工智能渗透到越来越多的场景。
对于整个视觉市场和嵌入式领域，首先，雷星光电做了很多与视觉相关的业务。
目前，视觉指的是视觉终端，例如带有摄像头的设备，并且数量呈现快速增长趋势。
声音更不用说，已经取得了巨大的成就。
所以接下来，无论是在安防、汽车、小型机器人等很多设备上，摄像头都会快速增加。
而且正如你所看到的，无论是对于开发者还是企业来说，边缘智能视觉设备越来越多。
有些是打算投入教育市场的，有些是可以用于开发的设备。
当然，许多设备都有工业设计。
或者结构可能不同，可能需要针对不同场景进行定制。
为此，Thunderstar推出了我们自己的TurboX AI Kit来开发这些人工智能。
该设计基于高通Snapdragon平台。
我们提供丰富的嵌入式AI开发、分析、优化和调试工具，加速端侧AI的落地和普及，帮助构建生态系统。
我讲一下嵌入式人工智能的一些应用和实现挑战。
事实上，人工智能最终将在嵌入式领域落地。
市场上有如此多的芯片，不同的密度和不同的操作系统，但计算能力却如此有限。
有些人甚至挑战一些操作系统来部署人工智能生态系统。
，如果针对一些比较小的封闭生态系统这样做，对于算法开发者来说会比较困难。
嵌入式AI算法本身的部署比较简单。
你需要训练它，训练后转换模型，放入嵌入式系统，然后让它运行。
最麻烦的是，放在不同芯片上时，是放在CPU上，还是放在DSP上，还是放在GPU上？所以这些都带来了一些非常大的挑战。
嵌入式算法的优化策略无非就是针对你所使用的标签的芯片硬件进行深度的软硬件优化。
所以对于硬件来说，首先要考虑的是它的功耗和成本。
你不能炸毁芯片，因为它的计算能力是有限的。
但如果你把这些网络削减太多，它们的准确性就不够。
事实上，这是一个迭代的过程。
必须不断迭代，所有芯片上的DSP和GPU都要被挤掉。
首先我们需要和芯片平台有非常深入的合作。
另外，在软件方面，我们必须减少算法模型的计算负载。
其实，无论是哪种嵌入式终端，首先需要检查你要实现的芯片的计算能力，然后才能知道你的神经网络的层数和神经网络的大小。
然后你查看它的KPI，并根据这些KPI对你的目标平台和芯片进行性能评估。
最后你要看到你的算法复杂度的上限，一定要摸到底。
然而，基于受限神经网络，网络神经模型可能非常庞大，因此将无法在嵌入式系统中运行。
然后你必须执行它。
庄稼。
您必须对网络进行大量裁剪和压缩。
然后用一些工具来衡量它的真实性能，也就是检测你切掉之后运行的效果。
如果不能满足性能要求，裁剪是没有用的。
如果满足这些性能要求后继续迭代，一定不能浪费你的DSP和GPU。
另外，在优化嵌入式算法时，必须在纸上重新训练网络模型，然后使用不同的参数反复调整，然后测量其性能。
此外，必须修改神经网络的某些通道，以找到精度和速度之间的最佳平衡。
下面我给大家分享一些关于嵌入式压缩网络和常用技术的知识。
你可以在网上看到一些同事的一些论文。
你可以对这些模型进行一些深度的优化。
精度差不多的情况下，可以尝试切割。
。
另一件事就是所谓的切割。
不管你剪什么，如果网络太复杂，就意味着大脑太大。
那么就不能在嵌入式设备上运行了，还是需要贬值。
最后我想分享一下雷星的一些视觉工作，因为我们有一个非常庞大的视觉团队，包括图像整理团队。
我们总共有四五百人。
我们和高通有战略合作伙伴关系，我们也和高通有战略合作伙伴关系。
我们与ARM等公司在平台层面有深入的合作。
创达有AI平台架构，我们有自己的算法。
然而，各种操作系统过于碎片化。
有客户说一定要跑在DSP上，因为功耗比GPU好。
有客户说我就去GPU。
面对各种操作系统，视觉工作面临着巨大的挑战。
在这方面，我们公司其实是有很多经验的。
我们在芯片和操作系统的许多碎片上提供服务。
另外，创达是一家服务型公司，所以我们接触到的案例也不少。
给大家分享几个有趣的案例。
我们今年刚刚将其交付给欧洲客户。
他的公司生产微波炉。
产品采用高通芯片，但芯片的运算能力太差。
例如，微波炉想要识别里面的食物并自动选择加热方式。
事实上，在这种情况下，算法的准确度并不是很高。
比如，不管你是三黄鸡还是土鸡，只要你是鸡就行。
不管你是黄牛肉还是澳洲牛肉，只要你能识别牛肉就行。
那么既然如此，你首先要知道根据客户的需求，可以切掉不良的芯片来满足客户的要求。
但事实上，如果你真的想识别食物，解决这些问题是相当具有挑战性的。
其实有很多事情很难，因为有时候人分不清你是小狗还是饼干，所以其实一个真正的算法是从演示给大家看到商业化的。
其中，“终于”“一公里”尤为困难。
测试过程中总会发现Bug，所以必须反复调整。
如果将这些产品再次投放市场，挑战会更大。
我们为食堂制作了这些产品，包括一些为面包店提供的解决方案。
虽然这个面包看起来很简单，但是面包的种类却有很多种。
你不能说仅仅识别面包就足够了。
如果今天有新的面包，你会怎么做？另外，我们实际上收到了大量的工业需求，比如缺陷检测。
现在有很多工厂，比如液晶面板，有的工厂有大量的工人在做质量检验。
虽然事实上目前的人工智能并不是万能的，它必须与传统的图像处理方法相结合，并且不能纯粹使用人工智能，但这可以解放一些人类。
虽然有些人要失业了，但是他们可以做更有趣的工作，因为质检需要轮班，实际上对视力和精神都造成很大的压力。
好了，今天的分享就是这些，谢谢大家。