百度百舸AI计算平台4.0发布:模型训练有效时长达99.5%
时间:2024-09-25 21:37:03|栏目:网络新闻|点击: 次
9月25日,在2024百度云智大会上,百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。升级后的百舸,围绕落地大模型全旅程的算力需求,在集群创建、开发实验、模型训练、模型推理四大方面,为企业提供“多、快、稳、省”的AI基础设施。
为了解决算力资源短缺的问题,百舸4.0对“多芯混训”能力进行了重点升级,实现了在万卡规模集群上95%的多芯混合训练效能,达到业务最领先水平。
在集群部署环节,升级后的百舸能够实现工具层面的秒级部署,将万卡集群运行准备时间从数周最快缩减至1小时,极大地提升部署效率,缩短业务上线周期。
针对大模型训练过程中故障频发的问题,百舸4.0全面升级了故障检测手段和自动容错机制,可以有效降低故障发生频次,大幅减少集群故障处置时间,在万卡集群上实现了超过99.5%的有效训练时长。
在模型推理上,最重要的是速度和成本。现在长文本推理逐渐成为主流,百舸4.0整体上做了推理速度和成本优化,长文本推理效率提升了1倍以上。(李记)
栏 目:网络新闻
下一篇:数实共生 智连未来:中国移动信息无障碍与双碳成果“京”彩纷呈
本文标题:百度百舸AI计算平台4.0发布:模型训练有效时长达99.5%
本文地址:http://tg.thcms.cn/wangluoxinwen/1684.html
您可能感兴趣的文章
- 12-01CAAI AI前沿讲习班推动AI驱动的芯片设计发展
- 12-01内蒙古移动赋能三十一号村数智发展幸福路
- 11-29华为徐直军:鸿蒙生态就是基于开源鸿蒙共建共享的生态
- 11-29探索未来之路 激发AI创新
- 11-29向“网”未来 中国电科新质引领数智赋能
- 11-29“晶”选品牌 移动爱家用AI得人心
- 11-20浙江联通:多项黑科技护航乌镇世界互联网大会
- 11-20聚焦AI驱动的芯片设计 AI前沿讲习班(CAAI-AIDL)第十四期举办
- 11-20算网筑基 智领未来 2024人工智能与智算应用发展研讨会召开
- 11-20AI前沿讲习班(CAAI-AIDL)第十三期举办 助力生成式人工智能与数字创意发展
阅读排行
推荐教程
- 10-05新疆联通:安全管家以科技筑牢网络“安全堤”
- 10-05《文化遗产智能计算:全球进展与中国方案》发布
- 10-02新疆联通国际畅游卡解锁精彩世界
- 09-30同济大学联合腾讯发布大设计大模型
- 09-27期待山花烂漫时 原生鸿蒙与生态伙伴共生共赢
- 09-27赛力斯张兴海:问界用户在哪里 服务就要跟到哪里
- 09-26百度投资大模型创业公司 鼓励创业者坚持长期主义
- 10-22天津联通:“云尚蓟州”为智慧文旅发展注入澎湃新活力
- 10-16融智赋能 创新未来 第四届RPA+AI开发者大赛举行
- 10-15新生态、新服务、新模式 中国移动泛全联盟3.0再升级