NTT DATA携手NVIDIA打造企业AI工厂,实现生产规模化

NTT DATA宣布推出NVIDIA驱动的AI平台,为企业提供可重复、生产就绪的AI扩展模型。该平台整合NVIDIA GPU加速计算、高性能网络及AI Enterprise软件,包括NeMo和NIM微服务,形成全栈代理式AI解决方案,支持云端和边缘部署。这标志着企业AI从实验阶段向大规模生产的跃进,帮助组织高效构建AI工厂,应对复杂业务需求。(128字)

在AI技术迅猛发展的当下,企业级AI应用正面临从原型验证到大规模生产的关键转型。近日,NTT DATA与NVIDIA强强联手,宣布推出专为企业设计的AI工厂平台,将NVIDIA强大的GPU加速计算能力与高性能网络相结合,辅以NVIDIA AI Enterprise软件栈,形成一个完整的全栈代理式AI平台。该平台可无缝部署于云端和边缘环境,为组织提供标准化、可重复的生产就绪AI模型,推动AI在企业中的规模化落地。

合作背景:从实验室到生产线的AI革命

NTT DATA作为日本电信巨头NTT旗下的全球IT服务提供商,以其在数字化转型领域的深厚积累闻名。此次与NVIDIA的合作,正是其在AI基础设施领域的战略布局。NVIDIA则凭借其在GPU和AI硬件领域的绝对领先地位,已成为企业AI计算的核心引擎。根据行业数据,2025年全球企业AI支出预计将超过5000亿美元,但仅有20%的项目能顺利进入生产阶段,主要瓶颈在于可扩展性和集成复杂性。

这一倡议旨在解决这些痛点。传统AI开发往往停留在POC(概念验证)阶段,难以应对企业级负载。NTT DATA的AI工厂概念借鉴了制造业的'智能工厂'模式,将AI训练、推理和部署标准化为流水线式流程,帮助企业快速构建'AI生产线'。

NTT DATA has announced an initiative to deliver NVIDIA-powered platforms designed to give organisations a repeatable, production-ready model for scaling AI. The offering integrates NVIDIA’s GPU-accelerated computing and high-performance networking with NVIDIA AI Enterprise software, including NeMo and NIM Microservices.

技术栈详解:全栈代理AI平台的强大组合

该平台的亮点在于其全栈集成。首先是NVIDIA的GPU加速计算核心,包括DGX系统和H100/H200 Tensor Core GPU,这些硬件支持万亿参数级大模型的高效训练。其次,高性能网络如InfiniBand和Spectrum-X Ethernet,确保数据中心级互联,避免AI训练中的瓶颈。

软件层面,NVIDIA AI Enterprise是企业级认证的AI软件平台,涵盖NeMo框架——用于自定义生成式AI模型的端到端工具,支持从微调到微服务部署的全流程;以及NIM(NVIDIA Inference Microservices)微服务,提供预优化模型推理,加速部署如Llama或Mistral等开源模型。此外,平台强调'代理式AI'(Agentic AI),即AI代理能自主感知、决策和执行任务,适用于RAG(检索增强生成)、多模态应用等领域。

本文由 赢政天下编译整理,原文来自海外媒体 - Winzheng.com

部署灵活性是另一大优势:支持云原生(如AWS、Azure、Google Cloud)、私有云和边缘设备(如NVIDIA Jetson系列),适用于制造业的智能巡检、金融的风控分析、医疗的影像诊断等场景。通过Kubernetes和Helm Charts,企业可一键式扩展AI工厂,实现从TB到PB级数据处理的弹性伸缩。

行业背景与挑战:企业AI规模化的迫切需求

回顾AI发展史,2023年后生成式AI爆发,企业开始从ChatGPT式工具转向内部AI基础设施。但挑战重重:据Gartner报告,85%的AI项目因数据孤岛和运维复杂而失败。边缘AI需求也在激增,IDC预测到2027年,75%的数据将在边缘产生,企业需低延迟、高安全的解决方案。

NTT DATA与NVIDIA的合作正切中要害。相比开源方案,该平台提供企业级支持,包括安全合规(FedRAMP认证)、24/7技术援助和优化基准测试。例如,在基准测试中,NIM微服务推理速度比通用框架快5-10倍,显著降低TCO(总拥有成本)。

编者按:AI生产化开启企业智能新时代

这一举措不仅是技术合作,更是AI范式转变的信号。过去,AI是'黑箱艺术';如今,它正工业化成'生产工厂'。对企业而言,这意味着ROI更快见效:从数月开发周期缩短至周级,助力数字化转型。展望未来,随着NVIDIA Blackwell架构和NTT DATA全球数据中心的结合,更多行业将迎来AI民主化浪潮。但挑战犹存,如能源消耗和人才缺口,企业需平衡创新与可持续性。

总体而言,NTT DATA与NVIDIA的AI工厂平台,将加速企业AI从'可能'到'现实'的跨越,值得行业关注。

本文编译自AI News,作者:Dashveenjit Kaur,日期:2026-03-16。