6月27日,华南工博会上,思谋科技宣布正式发布业界首个工业大模型SMore LrMo模型开发及应用基地。
SMore LrMo是面向工业场景的大模型开发与应用平台,涵盖应用层面、算法框架、基础设施服务等所有开发场景,涉及计算资源调度与管理能力、数据自动标注管理能力、应用开发管理能力、算法服务管理能力等人工智能模型的整个生命周期。
今年以来,大车型的普及,点燃了人工智能发展的新浪潮,也正在引领新一轮产业革命,帮助企业重塑生产经营各个环节,提升质量、降低成本、提高效率。
效率。
SMore LrMo平台的发布将为大模型在工业领域的应用提供基础,进一步降低企业开发和应用工业大模型、AIGC等技术的门槛,推动工业4.0的发展,助力工业4.0的发展。
提高生产力和经济效益。
首个产业化大型模型开发基地发布。
这是继3月底以来思谋发布ViMo Cloud工业智能云平台、ViMo Deeplearning桌面工业视觉深度学习训练软件、ViMo Studio低代码机器视觉软件等ViMo系列产品后的第二次产品发布会。
如果说ViMo系列产品的研发是为了降低人工智能在制造业的使用门槛,那么SMore LrMo就是为了降低制造企业人工智能的研发和应用成本,为制造企业提供安全、可靠的人工智能服务。
工业场景大规模模型应用的可靠私有数据 不变的是,思谋科技始终践行着人工智能的普适性和普惠性。
旨在解决工业场景中大模型数据采集复杂、数据安全要求严格、设备异构程度高、计算集群分布广泛、大模型工程成本高等痛点。
,但具有安全隐私高、硬件适配广泛、多云调度、大模型快速训练等特点。
SMore LrMo支持云边设备联动和多数据源接入,能够高效处理和管理工业级大规模数据集,并提供高效的数据操作接口和分布式数据处理能力,满足复杂的数据处理需求;还支持非联邦学习模型向联邦模型的快速转换,实现卷积、图、Transformer等神经网络在联邦学习场景的适配,完全可以满足制造企业对数据安全和隐私管理的严格要求。
SMore LrMo还具有出色的通用性和广泛的硬件适配能力。
平台支持Intel、ARM架构芯片以及NVDIA、寒武纪、天枢智能芯等5款国产加速卡以及3种以上国产框架,实现基于国产加速卡和深度学习的多种深度学习和强化学习模型构架。
适应;当AI作业跨域自动感知和调度时,可实现超过10000张卡和20多个集群的管理和调度,线性加速超过80%。
SMore LrMo研发负责人介绍,在大模型训练方面,该平台可支持过亿参数规模的大模型分布式训练,相比主流深度学习框架训练加速15%以上;在推理加速方面,平台提供自动模型压缩工具集,提供异构加速卡加速SDK,提高模型推理效率,一般开源大模型部署效率提升3-5倍,平台在线部署模型可达到单GPU+最大吞吐速度,行业领先;支持一键模型部署,实现推理服务的高吞吐高性能以及弹性扩缩容,并提供完整的运维监控体系,极大助力各类高精度工业AI模型的开发和应用。
千亿参数大型模型的训练成本降低了40%。
全球最大企业成长咨询公司弗若斯特沙利文指出,人工智能开发平台的核心竞争力集中在“提高数据处理能力”、“增强平台易用性”、“提高生态开放性”。
SMore LrMo在以上三个方面都有突出的表现。
这些重大优势也使其成为市场上最先进的大型模型开发平台之一,帮助思谋快速拿下一批来自领先科研院所、科技公司、超算中心的订单,并快速投入使用。
“目前客户反馈表明,SMore LrMo在开发应用方面非常有效。
例如,在大型计算中心,客户需要使用总共15个集群+异构计算卡来满足大型模型开发和部署应用的场景,并持续监控模型,优化并保持在线服务的平滑迭代。
我们为该客户部署了SMore LrMo人工智能开发平台后,客户可以根据不同的训练任务智能调度训练资源,平均模型训练速度降低。
原来的7.5小时/epoch变成了2.3小时/epoch,即使面对过亿参数的大型模型训练,SMore LrMo仍然可以高效完成,帮助客户降低40%的训练成本。
”作为一家致力于领先技术、服务全球的全场景智能公司,思谋科技凭借对智能制造的深度介入以及标准软硬件一体化产品和解决方案的输出,受到了行业内外的广泛关注。
很少有人知道的是,Simou是工业领域第一个对大型模型涌现能力进行研究并产业化的团队。
如今,思谋将工业场景大模型开发应用的经验和经验与20多年在人工智能领域的技术积累相结合,推出一站式工业大模型开发应用平台SMore LrMo,进一步为制造业赋能。
造福数千家企业。
随着人工智能大型模型逐步落地应用,对实体经济的拥抱逐渐加深,一个以人工智能普惠为特征的新时代正在开启。
而不断迭代自我、拓宽边界的思谋科技也将走向更广阔的未来。