信通院曹晓峰等：大模型技术能力提升加速一体机技术与产业变革

大模型技术能力提升进一步推动了大模型的研发与落地应用浪潮。大模型一体机作为“软硬协同、开箱即用”的智能化基础设施，正成为推动AI普惠化、行业场景化落地的核心载体。从政务云到智能制造，从教育科研到智能家居，大模型一体机通过将计算、存储、网络等硬件设备、大模型微调部署软件平台和预置大模型的高效耦合，正在重构传统AI部署模式。

目前，大模型一体机市场正处于快速发展阶段，拥有广阔的市场前景和巨大的增长潜力。传统的ICT服务商和国内AI厂商纷纷推出大模型一体机，如华为的A3000训/推超融合一体机、百度的千帆大模型一体机、移动的九天超融合信创一体机，成为行业内大模型落地的途径之一。前期，中国信息通信研究院联合30多家企业共同研制了《大模型一体机功能要求和测试方法》标准，并依据标准展开两轮标准符合性验证。通过标准符合性验证，我们发现大模型一体机正从技术、交付、应用等维度实现能力跃升。

观察一：技术能力向软硬一体方向发展

一是具备深度优化的高性能硬件。大模型一体机通过适配专用AI芯片，针对大模型算法进行深度优化，可以充分释放AI芯片性能；通过配置大容量内存和高速存储，支持大模型的加载和运行，提高数据读写速度；通过使用高带宽网络，提供网络加速，支持大模型分布式训练时模型参数梯度的快速同步，加快训练速度。

二是集成AI开发所需的全栈工具链。大模型一体机通过集成AI全流程开发工具，实现从数据处理、模型训练到推理部署的全栈式开发，提高模型训练效率；通过外挂用户专属知识库，结合检索增强技术，实现专业领域的知识问答，为企业提供定制化、便捷化、场景化的AI服务；通过可视化管理工具，实现硬件组网、资源监控、故障定位清晰可见，降低运维门槛。

三是内置多种基座大模型。大模型一体机通常内置丰富的基座大模型供企业测试和调用，满足企业不同场景的使用需求。目前头部科技厂商的大模型一体机可以提供LLaMA系列、Baichuan系列、Qwen系列、DeepSeek系列等十余个主流开源大模型，用户可以根据特定应用场景对预置模型进行微调、增量训练，大幅降低落地门槛。

观察二：交付形式从异构集成到全栈智能

大模型一体机交付形式实现从单一硬件堆砌到全栈智能跨越式升级。一是模型适配与生态兼容逐渐完善。大模型一体机核心竞争力在于对模型的广泛兼容与深度优化。自DeepSeek发布以来，包括华为、百度、曙光、新华三等企业迅速适配，体现了大模型一体机对于模型广泛兼容的优点。二是安全与便捷化部署融合发展。数据安全与部署效率是一体机的重要发展方向，大模型一体机在满足易用的基础上可以满足企业数据不出域的需求。如某企业一体机采用内存加密与机密计算保障模型运行安全，某科技厂商大模型一体机落地金融行业，将2个开发工程师3个月的人工成本压缩到1个工程师5天的研发时间，使大模型研发落地效率提升数十倍。

观察三：应用场景从通用场景向全场景渗透

大模型一体机价值在于将通用AI能力转化为垂直场景的解决方案。据中国信息通信研究院不完全统计，国内已有二三十家企业推出各自的一体机产品。当前大模型一体机产品主要分为两大类，面向通用场景的一体机和面向具体行业场景的一体机。面向通用场景的一体机旨在提供一站式的大模型训练和推理的解决方案，适用于各种通用场景，企业无需过多的技术投入和人力成本，就可以快速构建和部署自身的大模型应用。面向具体行业场景的一体机更专注于特定行业的应用需求，如医疗、金融、教育等，通过对特定场景进行定制和优化，能够提供更高效、更专业的服务。随着国产大模型能力跃升，大模型一体机在工业研发、教育科研、智能家居、政务等领域的落地场景将进一步拓宽。

未来，随着大模型技术能力的提升，大模型一体机将围绕轻量化部署、高度集成化和行业应用深度持续突破。技术能力方面，通过模型压缩与动态推理优化，一体机有望实现更低能耗的千亿级参数模型实时推理。交付形式方面，软硬协同能力进一步提升，“开箱即用”特点将进一步显现，行业用户大模型轻量化落地更加便捷。落地应用方面，大模型一体机将深度嵌入各行业核心环节，结合私有化部署解决数据安全与合规痛点。中国信息通信研究院将持续追踪大模型一体机技术产业发展，同时推动大模型一体机标准符合性验证，进一步拓宽大模型一体机行业应用覆盖范围，加深大模型一体机行业应用深度。