中科创达：乘云驭智，生成式AI重塑制造业的“OS+AI”双引擎动力开启之旅

当前，生成式人工智能以前所未有的速度进驻各行各业，制造业需要如何深化数字化能力，将以人工智能为核心的数字化技术与业务相结合，利用先进的数据分析方案来提高企业的运营水平，持续推进商业变革呢？中科创达提供了从端到端的人工智能解决方案，以及贯穿端、边、云的技术“底座”，为制造业走向大模型时代提供了“中国速度”！

杨新辉是中科创达物联网事业群的副总裁

“在未来的15年乃至30年，大语言模型驱动通用人工智能的发展将成为最大的需求之一，所有的产品都可以用通用AI再做一遍，所有的流程都可以重新再定义。”中科创达物联网事业群副总裁杨新辉认为，大语言模型虽然是新一轮技术发展浪潮，但不能只为抓住一波短期红利，而是要以长远眼光看待这个产业。

中科创达是一家成立于2008年的操作系统公司，专注于B2B业务。最初，公司提供智能手机操作系统服务，但从2014年开始，公司开始扩展到智能汽车领域，2015年又进一步扩展到智能硬件，并逐渐发展到整个智能行业。公司致力于提升制造企业在生产连续性、业务全球化拓展、技术创新和安全合规等方面的能力，为其提供持续的支持

目前，中科创达致力于将“OS+AI”作为双轮驱动增长的新引擎。在这个过程中，中科创达将借力使力，与像亚马逊云科技这样的合作伙伴合作，一起开启乘云驭智之旅。

双引擎驱动增长背后

中科创达深入了解传统制造业发展需求和趋势，但要想服务好制造业，充分渗透进制造业价值链场景，没有强大的技术底座，显然无法应对制造业企业的数字化挑战。

“现在影响大语言模型落地的很大一个障碍点就是推理成本，它是影响产品落地的关键因素。训练千亿参数的通用大语言模型需要接近于人类百分之八九十的知识，但在某一个垂直场景里面其实是冗余的，也会引发很大的推理成本，所以找到模型准确度和推理成本之间的平衡点非常重要。”杨新辉在采访中表示，针对具体的垂直场景做出最高效的产品选择，这是企业解决制造业问题的开发方向，也是与亚马逊云科技合作的方向之一。

作为亚马逊云科技合作伙伴，双方自2017年就开展合作，共同开发人工智能方面的行业解决方案。2020年，中科创达成为首批在亚马逊云科技中国区域使用机器学习服务 Amazon SageMaker的合作伙伴，并将Amazon SageMaker集成到中科创达智慧工业ADC (Automatic Defect Classification) 系统中，让制造业客户可以在工业生产中轻松获得AI质检能力。在2022 re:Invent 全球大会上，中科创达成为全球首批获得 Amazon SageMaker服务就绪计划的合作伙伴，使其 TurboX Inspection工业视觉平台更好地为众多亚马逊云科技全球客户提供智能化升级服务。2023年，中科创达利用亚马逊云科技的技术与服务开发大语言模型“魔方大模型”，通过对大规模的训练数据和复杂的神经网络结构，此语言模型能够更准确地理解和生成人类语言，具备广泛的自然语言处理能力。

2023年5月，亚马逊云科技和中科创达宣布成立人工智能联合创新实验室，这标志着双方合作迈出了重要的一步。借助亚马逊云科技和中科创达的专业资源，双方将在生成式人工智能、企业知识库、数字化转型助手以及大型语言模型赋能智能设备等领域展开深度合作和探索

联合创新实验室涵盖从创意、设计、演化、落地到优化的完整用户体验流程，双方将共同发掘创新体验场景，梳理用户体验旅程。同时，通过引入最新 AI 技术构建行业通用的模型设计开发和应用方法，并在创新的业务场景中开发AI模型原型，快速迭代成数字化工具，以打造全新的行业方案，助力更多行业客户加速云上的数字化转型和业务创新之旅。

不断迭代，加速生成式AI进化

以汽车行业为例，汽车场景是对大语言模型最友好的场景。在汽车封闭环境中，利用大型语言模型的多轮语言对话和语义理解能力，能够显著改善汽车体验

比如：在研发过程中，通过大语言模型可以快速构建一些产品的概念图，只需要跟客户完成一个短期闭环的交流，就可以把以前的研发周期、概念设计阶段的交流过程，从两三个月的时间缩短到一两周的时间。

举例来说，车载说明书与大型模型的结合是一个非常受车主喜爱的功能。车主不再需要阅读数百页的汽车说明书，只需通过简单的问答，在车上获取一些基本的使用技巧

此外，大型语言模型还可以智能地应用于工厂的生产场景，以进一步优化整个生产制造流程。在生产端，这种大型模型能够显著提高工厂的质量控制效率，减轻一般工作人员的工作负担，并全面提升他们的工作效率

面对世界领先的五百强物流企业的需求，中科创达与亚马逊云科技合作，共同探索如何利用大型语言模型解决物流集团内部的基础场景应用，例如企业员工智能问答和概念验证的构建

中科创达开始致力于扩大模型规模是从去年年底开始的，一直持续到今年年初。尽管与那些训练百亿、千亿参数的企业相比，它起步较晚，但从应用情况来看，它的发展才刚刚开始

杨新辉强调，我们将逐渐从算力需求相对较小的方向转向算力需求越来越大的方向，不会在能力不足时投资昂贵的上千亿模型训练，这需要一个过程。预计到明年年底，我们将完成千亿以上规模的模型训练。他还表示，大型语言模型需要持续投入，公司会增加投资，抓住新的发展机遇

过去，所有业务都围绕着端侧和边缘侧展开。然而，端侧和边缘侧无法运行具有上千亿参数的模型。中科创达和其他模型制造商的差异在于，他们希望未来能够在端侧和边缘侧形成自己核心的能力和竞争力，将7B、13B的模型应用于端侧和边缘侧

举个例子：在汽车上，大模型直接作为一个边缘侧的产品，如何在不需要联网就可以实现本地最大算力的模型运行，如果找到技术实践路径，对于广大车主来说，又会带来新的体验升级。

问题是，制造业行业需求千千万万，面向包括汽车在内的这么多行业客户，中科创达如何兼顾到方方面面，确保满足每个客户的个性化需求？

杨新辉表示，我们选择与亚马逊云科技合作的根本原因在于其作为全球云计算领导者，拥有广泛而深入的云服务。亚马逊云科技对行业的布局和洞察非常清晰，了解行业的痛点与难点，知道整个行业的关键所在

对中科创达来说，与亚马逊云科技一起联合创新，是一个能力成长的过程。亚马逊云科技有一个科学家团队，都是很资深的算法专家，做了很多大语言模型方面的优质模型，例如数据库的检索、精细化图像的识别和分割等等。这些技术与能力可以很好地赋能人工智能创新方案，可以共同打造应用于客户落地的一些产品化服务。

与亚马逊云科技合作，我们专注于上层应用，不需要担心底层基础设施的问题。亚马逊云科技拥有全球范围的基础设施和全球业务体系。中科创达的业务也在全球范围内发展，我们的研发中心分布在全球15个国家或地区，海外营收占总营收的30%以上。我们的大部分客户是全球化企业，几乎都在使用亚马逊全球业务体系内的产品

中科创达凭借全球化的业务布局，将先进技术与产业链进行整合，将海外优势技术引入国内企业。同时，公司也致力于将国内领先技术服务于海外企业，真正实现“根植中国，赋能世界”