【深铭易购】资讯:作为国家级权威技术验证平台,中国信息通信研究院(简称“中国信通院”)依托“人工智能芯片测试评估公共服务平台”,建立了AI芯片与大模型协同适配的标准化体系,为人工智能产业上下游的深度协作提供了坚实支撑,并持续推进AI芯片与大模型的适配验证工作,助力推动行业协同发展。
在最新一轮AI芯片与大模型适配验证项目中,经中国信通院检测,摩尔线程自主研发的训推一体计算卡——MTT S4000,与杭州深度求索人工智能基础技术研究有限公司研发的DeepSeek-R1 671B大模型在推理场景下的适配效果良好,符合《AI芯片和大模型通过性适配要求》。双方顺利通过中国信通院《AI芯片和大模型适配能力通过性评测软硬件环境及测试细则》的推理验证测试。测试结果表明,MTT S4000运行稳定,完全满足大模型推理需求,成功通过适配验证并获得官方检测证书。目前,摩尔线程系列训推一体计算卡正在进行优化性适配验证,相关结果将在检测流程完成后另行公布。
MTT S4000是一款基于摩尔线程全功能GPU架构打造的高性能训推一体通用计算卡,专为大模型应用设计。产品支持FP64、FP32、TF32、FP16、BF16、INT8等多种计算精度,并配备48GB高性能显存。借助摩尔线程自研的MTLink 1.0互联技术,MTT S4000具备强大的多卡互联能力和千卡级集群部署能力,为超大规模模型的训练、微调与推理提供澎湃算力支持。同时,该产品还支持图形渲染、视频编解码及8K HDR超高清显示,能够满足人工智能、科学计算与多媒体处理等多场景需求。
MTT S4000此次能够快速完成DeepSeek-R1 671B大模型的适配验证,离不开其完备的软件生态支持。包括vLLM-MUSA推理框架、MUTLASS优化库、Triton-MUSA推理服务等在内的MUSA生态软件栈,为开发者提供高效的开发与部署体验,不仅大幅提升适配效率,也确保整体性能达到行业主流水准,充分展现了摩尔线程在国产GPU生态构建与技术创新方面的综合实力。
近期,摩尔线程还推出了集成MTT S4000的MCCX DeepSeek大模型一体机,深度融合国产全功能GPU、优化后的高性能推理引擎以及MUSA软件栈。该一体机全面支持从蒸馏版到671B参数规模的DeepSeek大模型部署,灵活适配多行业、多场景、多应用的需求。凭借摩尔线程完整、自主可控的软硬件技术链,该产品可实现即插即用、安全可信、性能强劲的一站式国产化AI大模型服务平台,助力政企客户高效构建本地化AI基础设施,有效降低大模型应用门槛,推动国产AI生态快速落地发展。
深圳市深铭易购商务有限公司
©粤ICP备17023760号-2