武汉云上线“满血版”DeepSeek-R1模型,江城智能政务应用再升级
2月18日,武汉云基于华为昇腾 910B,成功部署上线参数规模高达6710亿的完整最大型号的DeepSeekR1大模型——DeepSeek-R1“满血版”,为武汉市市区两级政务用户提供快速访问服务。
本次部署基于两台华为Atlas800服务器,共计使用16块910B显卡(5p算力),集成CANN、FrameworkPTAdapter、MindIE等组件,实现了DeepSeek大模型高效落地应用,搭建了安全的私域环境,全面保障了模型完整、知识安全和应用合规,为开发者和客户提供澎湃、弹性、充足的算力。同时,针对大模型场景提供多维并行优化技术,实现性能端到端提升,加速智能业务快速部署落地。
与此同时,配套华为云昇腾云化部署,可提供20+开发工具集成,覆盖推理迁移全流程,云化工具免配置,一键打开,集成最佳实践模板;兼容Mind-IE、vLLM双框架,支持框架持续演进,支持昇腾量化算子,在保障精度的情况下降低模型训练和推理的算力消耗,支持DeepSeek不同形态部署,保障用户能够顺利接入并高效利用DeepSeek技术。
武汉云作为武汉与华为云共建的全国第一朵“城市云”,采用“313”架构,建成“政务域、根技术域、产业域”3个资源池,打造全市统一的云运营管理平台,构建信息安全、标准规范、运营运维三大服务保障体系。因此在安全保障方面,武汉云满足国内数据安全合规要求,特别适用于对数据安全性要求极高的场景,全面保障数据的隐私与安全。针对DeepSeek核心训练、推理数据均驻留在武汉本地,进一步保障了数据的安全性。
值得一提的是,武汉云基于DeepSeek构建了AIGC应用开发平台,具备知识库管理、定制化应用、高便捷开发等功能。该平台支持用户快速搭建不同行业、不同场景的大模型应用,同时引入AI AGENT与Workflow高效工作流编排技术,进一步提高工作效率,降低运营成本。基于此平台,已开发上线智能公文写作、问答助手等场景应用。
未来,华为云将继续携手武汉云,秉持数据驱动、AI赋能的核心理念,基于DeepSeek及其他商业大模型,开展语料采集、清洗、整合与训练,致力于打造一个自主创新、开放且具有武汉特色的“江豚大模型”。
- 武汉云上线“满血版”DeepSeek-R1模型,江城智能政务应用再升级2025-02-20 02:02:07
- 养老不离家,服务一键达,趣链科技用技术点亮“银发生活”2025-02-18 02:02:49
- 聚焦首发经济,探寻消费新动力|中南财经政法大学经济学院鄂都首发2025-02-18 11:02:31
- 科技赋能,传统元宵焕发新活力2025-02-16 07:02:59
- 湖北交投随岳运营公司马良管理所:收费站里的“别样”元宵2025-02-13 02:02:23
- 泰康在线连续五年登榜“2024武汉民营企业100强”2025-02-11 05:02:45
- 一镇一品|京东钟祥 石牌豆腐:岁月沉淀,豆香臻品2025-02-10 10:02:48