mputeX深度洞察互联创启
未来财务人研究院·2024-06-17 20:14
会议主要讨论的核心内容 算力硬件的发展趋势 - 算力持续提升,单芯片算力可达到1000倍增长 [4][5] - 数据类型优化和低精度计算可以释放更多有效算力 [4][5] - 算力产品迭代速度加快,从2年一次到1年一次 [5] - 算力需求持续增长,驱动硬件厂商加速迭代 [5][6] 通信和存储的重要性 - 通信带宽提升是算力硬件发展的另一个关键 [6][7] - 存储容量和带宽的提升也是重点,与计算单元的协同很关键 [6][7] 成本降低是当前最大诉求 - 硬件厂商正在通过各种方式降低算力成本 [3][4][5] - 成本下降有利于AI模型迭代和应用落地 [3][10] 问答环节重要的提问和回答 问题1:英伟达新推出的Blackwall芯片有什么特点? - 满足8年内1000倍AI运算能力提升 [4] - 芯片价格只增加2-3倍,通过软件优化和低精度计算实现 [4][5] 问题2:英伟达为什么要加快算力产品的迭代速度? - 下游对算力需求持续增长,驱动硬件厂商加快迭代 [5][6] - 成本下降有利于AI模型迭代和应用落地 [3][10] 问题3:AMD在云端AI加速芯片方面有什么新动作? - 推出下一代MI325X芯片,内存带宽提升到6TB/s [8] - 计划在2025年推出支持FP4和FP6低精度格式的新品 [8] - 通过数据格式优化释放更多低成本有效算力 [8]