武汉云上线“满血版”DeepSeek-R1模型,江城智能政务应用再升级

 发布时间:2025-02-20 14:07:07
来源:城市在线
 字体:

  2月18日,武汉云基于华为昇腾 910B,成功部署上线参数规模高达6710亿的完整最大型号的DeepSeekR1大模型——DeepSeek-R1“满血版”,为武汉市市区两级政务用户提供快速访问服务。

微信图片_20250220114431.jpg

  本次部署基于两台华为Atlas800服务器,共计使用16块910B显卡(5p算力),集成CANN、FrameworkPTAdapter、MindIE等组件,实现了DeepSeek大模型高效落地应用,搭建了安全的私域环境,全面保障了模型完整、知识安全和应用合规,为开发者和客户提供澎湃、弹性、充足的算力。同时,针对大模型场景提供多维并行优化技术,实现性能端到端提升,加速智能业务快速部署落地。

  与此同时,配套华为云昇腾云化部署,可提供20+开发工具集成,覆盖推理迁移全流程,云化工具免配置,一键打开,集成最佳实践模板;兼容Mind-IE、vLLM双框架,支持框架持续演进,支持昇腾量化算子,在保障精度的情况下降低模型训练和推理的算力消耗,支持DeepSeek不同形态部署,保障用户能够顺利接入并高效利用DeepSeek技术。

  武汉云作为武汉与华为云共建的全国第一朵“城市云”,采用“313”架构,建成“政务域、根技术域、产业域”3个资源池,打造全市统一的云运营管理平台,构建信息安全、标准规范、运营运维三大服务保障体系。因此在安全保障方面,武汉云满足国内数据安全合规要求,特别适用于对数据安全性要求极高的场景,全面保障数据的隐私与安全。针对DeepSeek核心训练、推理数据均驻留在武汉本地,进一步保障了数据的安全性。

  值得一提的是,武汉云基于DeepSeek构建了AIGC应用开发平台,具备知识库管理、定制化应用、高便捷开发等功能。该平台支持用户快速搭建不同行业、不同场景的大模型应用,同时引入AI AGENT与Workflow高效工作流编排技术,进一步提高工作效率,降低运营成本。基于此平台,已开发上线智能公文写作、问答助手等场景应用。

  未来,华为云将继续携手武汉云,秉持数据驱动、AI赋能的核心理念,基于DeepSeek及其他商业大模型,开展语料采集、清洗、整合与训练,致力于打造一个自主创新、开放且具有武汉特色的“江豚大模型”。


>更多相关文章
关于本站 - 广告服务 - 免责申明 - 招聘信息 - 联系我们
CopyRight(C)2020 All Rights Reserved 鲁ICP备1201319号 版权所有
网站所刊载信息部分转载自互联网,不表示本网赞同其观点|新协联盟中心