百度云智大会2024:大模型的产业落地实践经验分享
BIDUBIDU(BIDU) 海通国际·2024-09-26 19:10

报告公司投资评级 - 报告给予百度公司"优于大市"的投资评级 [46] 报告的核心观点 - 百度发布百舸 AI 异构计算平台 4.0,助力解决大模型时代的算力挑战,支持百度自身核心业务发展以及前沿领域的探索,同时也支持外部客户开发产业大模型 [4] - 百度认为目前尺度定律仍将继续,将重点发力高密算力集群管理和运维能力的建设,目标构建 10 万卡训练算力集群 [5] - 百度发布千帆大模型平台 3.0,全面升级了企业级 RAG 和 Agent 开发,并已打磨出 8 大行业的方案,帮助客户提升产品效率 [5] - 尽管商业化前景尚不明确,但随着宏观经济好转,大模型大规模商用的时间节点到达,百度有望凭借先发优势在广告、Agent、模型训练推理、智能云部署方面率先获得增量收入 [5] 报告分类总结 百舸 AI 异构计算平台 4.0 - 百度发布百舸 4.0,提升了万卡集训的稳定性和鲁棒性,并囊括了行业常见通用的模型和工具,联合、支持各行业伙伴和客户开发产业大模型 [4] - 百舸 4.0 在万卡集群下将两种不同芯片混合训练的效率折损控制在 5%以内,并大幅降低模型迭代速度 [5] - 百舸 4.0 具备了成熟的 10 万卡集群的部署和管理能力,具备 10ms 级别超高精度网络监控,支持 10 万卡分钟级故障恢复 [5] 千帆大模型平台 3.0 - 百度发布千帆大模型平台 3.0,全面升级了企业级 RAG 和 Agent 开发,支持无限容量的知识库存储和建设,并已打磨出 8 大行业的方案 [5] - 千帆平台已帮助客户如猎聘、高途等提升产品效率,如招聘全流程提效 50%,数学判卷准确率提升至 95%+ [5]