京东云发布言犀智能体平台、云海AI存储等八大智算产品

京东云发布言犀智能体平台、云海AI存储等八大智算产品

有事您说话 2025-02-27 财经报 27 次浏览 0个评论

在2025京东云城市大会深圳站上,京东云展示了其在大模型技术领域的最新进展,并发布了包括言犀智能体平台、言犀AI开发计算平台、超智一体化算力集群、云海AI存储在内的八大智算产品。同时推出“开发训练+场景应用”双引擎一站式平台,助力企业实现DeepSeek等大模型开箱即用、智能体深度开发与应用,全面打通从模型落地到产业智能升级的最后一公里。 

京东集团技术委员会主席、京东云事业部总裁曹鹏表示,当下,全国企业都在加速部署DeepSeek,让员工零时差用上大模型。基于京东集团复杂场景实践,京东云构建了一站式大模型产品矩阵,从底层的智算基础设施,到中间层的模型服务和工具,再到上层的Agent应用开发,支持企业快速部署大模型及应用。

京东云发布言犀智能体平台、云海AI存储等八大智算产品

面向大模型的开发部署,京东云持续升级言犀AI开发计算平台,进一步简化了模型开发流程。平台不仅支持京东自身的言犀大模型,支持各类模型的调优开发,内置20余种开源模型和丰富的数据集,并提供100余种算法和工具链,帮助客户根据自身业务特征,快速开发专属大模型。此外,京东云DeepSeek大模型一体机,通过自研的算力池化能力、智能推理加速引擎,充分融合软硬件,实现了性能的全面提升,推理速度提升50%,企业可以根据自己的需求灵活选择不同版本,开箱即用。

在算力方面,京东云通过打造超智算一体化算力集群,满足大模型对大算力的需求。具备单集群2000卡调度能力和全局超10万卡调度能力,支持跨智算中心横向扩展,通过软硬件协同优化,将大模型算力利用率MFU提升至75%。

随着更多性能的GPU都可以支持大模型,异构算力将成为主流,京东云vGPU AI算力平台,针对DeepSeek大模型技术特点,通过推理加速与内核驱动级优化,提升单台服务器推理性能50%。通过集群算力池化调度提升集群利用率70%。全面适配十余家国产化算力资源。同时借助AI全密态机密容器能力,确保模型参数与训练数据双域零泄露,为用户提供金融级安全防护。

在存储方面,云海AI存储可支持千亿级参数AI大模型,4K随机写IOPS达到1000万级,平均延迟在100微秒级,支持百GB级超大带宽,性能提升30%的同时,通过存算分离技术实现成本下降30%,极致性能和极致性价比,更好地支持大模型落地应用。

在网络方面,基于京东集团万卡集群大规模实践,京东云沉淀不同网络部署的调优方案,推出高性能云网络,RDMA带宽速率达到3.2Tbps,全面支持高阶GPU对于高带宽的要求;通信延迟降低至2us。

京东云发布言犀智能体平台、云海AI存储等八大智算产品

智算中心往往功率密度更高,是传统数据中心的5倍以上,对供电、散热的要求也呈几何级增长。京东云基于10多年数据中心建设运营实践,积累了丰富智算中心建设运维经验。我们自研的阿尔法智能算力模块,支持液冷系统一体化交付,PUE控制在1.15以内,可实现同等规模下投资成本下降15%。当前,京东云已服务于超20家智算中心,打造高等级新型智算中心。

大模型安全是智能时代的终极防火墙。京东云大模型安全可信平台,超200种自研红蓝对抗攻击手法,覆盖全部31类合规风险,全流程AI检测精准狙击,风险识别率95%+,硬核护航千亿参数模型业务零漏洞。

在行业实践中,京东云成功支持某新能源汽车头部厂商、某全球新能源科技领导企业,打造覆盖全集团的智能计算底座,实现千卡级AI算力集群的精细化管理。技术上一方面创新多元算力调度,显著提升GPU利用率,另一方面创建全生命周期AI开发环境,实现开箱即用,大幅提升研发效率。目前,该平台已支撑起企业智能驾驶研发、人形机器人等20余个核心场景,成为集团的"数智发动机"。

AI生产力澎湃,智能生长正当时。京东云将以行业领先的智算基础设施,为企业用户提供极致性能、极致性价比的服务,持续降低大模型应用门槛,助力每个企业找到AI转型的最优路径。

转载请注明来自个人学习使用0830,本文标题:《京东云发布言犀智能体平台、云海AI存储等八大智算产品》

每一天,每一秒,你所做的决定都会改变你的人生!
Top
网站统计代码