当前位置: 首页 > 科技赋能

NVIDIA GPU和阿里“暖科技”AI推理应用的激增不容忽视

时间:2024-05-20 01:56:52 科技赋能

定商宝是阿里巴巴旗下蚂蚁金服推出的“全自动车损判定解决方案”。

简单来说,车主只需要用手机拍摄事故现场的照片就可以完成整个损害评估过程。

图片上传云端后,通过机器学习和AI技术相关损伤分析,确定损伤程度后直接给出损伤金额。

整个过程不需要保险公司线下人员的介入。

“这不仅节省了我们的人工成本,还提高了加工效率。

更重要的价值是节省了大家的时间。

”一位在保险行业工作的业内人士说道。

像这样的“暖科技”技术在云栖大会上随处可见。

作为第四届阿里巴巴云栖大会,此次也吸引了近6万人参会,涉及全球64个国家,创下新纪录。

经过八年的演变,云栖大会已成为全球最具影响力的科技展会之一。

刷脸过闸、未来商店、AI语音点餐、机器人格斗大赛……阿里巴巴大生态下的很多技术都在这里展示。

在这样的技术背后,我们看到越来越多的人工智能推理应用落地,我们也越来越感受到人工智能的力量。

在阿里巴巴将这些技术打造成“基础设施”的逻辑下,我们不能忽视的是实现它的“基石”——NVIDIA GPU。

“在过去,这样的技术或许是可以实现的,但不可能向这么多人开放,而且资源也不够。

但现在它已经成为必然,甚至取代了很多人的工作。

” ”一位评论员说道。

确实,随着AI能力的发展,更重要的是随着计算能力的增长、资源的扩展,甚至是GPU等芯片带来的计算效率的提升。

云栖大会上还强烈感受到的是,GPU在AI领域的应用正在不断帮助阿里实现更多领域的技术创新和应用。

事实上,更多的GPU是在幕后使用的,而不是在每个人的个人电脑中,而且大多数时候这些对公众来说是“可感知但不可知”的。

比如,很多人在淘宝上看到的“推荐商品”或者“猜你喜欢”的背后就是阿里妈妈机器学习平台,这也是阿里爸爸电商系统的重要后端组件。

其主要功能是通过大数据训练深度学习模型,然后展示平台上用户最感兴趣的产品。

在训练阶段,阿里妈妈训练平台XDL可以从数据中学习1亿个特征,并跟踪整个训练过程。

由于有了NVIDIA Tesla GPU加速卡,XDL的运行速度提升了10倍。

最受争议的“色情鉴定师”职位早已被AI取代。

由于优酷每天的新视频数量达到10万到100万个,因此实际的图像计算数量可以达到1亿张。

同时内容丰富,涵盖类型多;但内容处理的时效性要求也很强。

因此,优酷推出了一套“AI内容理解”,主要用于快速自动审核新上传的视频、理解内容标签、视频质量分级、聚类选择等,比较类似于“色情鉴定师”的工作。

这个系统的要求是非常严格的。

在理解具体的输出内容时,涉及到镜头、标题、OCR、音频、图像、光流等多个维度,因此需要多种AI算法同时运行和处理。

所以最终优酷视频选择了GPU+CPU的异构计算基础,同时在深度学习框架层也采用了NVIDIA的TensorRT技术来加速AI算法架构Tensorflow。

具体硬件方面,优酷采用了NVIDIA Tesla P和Tesla P4 GPU加速器的组合。

其中,Tesla P更擅长大规模数据处理和分析,而Tesla P4则专门针对图像和视频的AI处理进行了优化。

也许对于普通的优酷观众来说,一切都没有改变。

但在上传视频时,审核速度却有了明显的提升。

这种AI技术得到了更好的应用,优质内容可以尽快上线。

其中很多人工智能应用被阿里称为“温科技”。

确实,他们并不是冷酷无情,而是逐渐转向那些虚幻的技术噱头。

与之相反的是“暖科技”——科技像一股暖流一样渗透到日常使用中。

每一寸头发和皮肤都可以被触摸、享受和接近。

同时阿里也会开放这个能力。

今年上半年,在云栖大会·深圳峰会上,阿里云宣布与NVIDIA GPU Cloud(NGC)合作。

开发者可以在云市场下载NVIDIA GPU云镜像并运行NGC。

容器使用阿里云上的NVIDIA GPU计算平台。

阿里将这种“温暖”的能力赋予了更多开发者,其背后NVIDIA GPU的能力输出也不容忽视。

未来,越来越多的技术创新和应用可能会像背后的GPU一样,默默地利用技术来预热能量。

你。