文章核心观点 - 铜缆已经无法以经济的方式支持人工智能工作负载,光学互连将成为未来的主流 [1][2] - Ayar Labs 开发了光学 I/O 芯片 TeraPHY 和激光光源 SuperNova,认为光学互连可以大幅提升 AI 系统的性能和盈利能力 [2][4][5] - Ayar Labs 构建了一个 AI 系统架构模拟器,评估不同互连技术对吞吐量、交互性和盈利能力的影响 [3][4][5] 根据目录分别总结 1. 铜缆的局限性 - 铜缆已经无法以经济的方式支持人工智能工作负载,是技术已经失败的困境 [1][2] - 铜缆无法支持高效、经济、高性能的人工智能工作负载系统 [2] - 即使 Nvidia 等公司大量使用电气互连和铜线,也是由于光学元件的可靠性和成本问题 [6] 2. Ayar Labs 的光学互连方案 - Ayar Labs 开发了光学 I/O 芯片 TeraPHY 和激光光源 SuperNova,可以取代电气互连 [2] - Ayar Labs 认为 AI 系统的所有关键元素都应该使用光学互连 [5] - Ayar Labs 的光学互连方案可以与 2026 年及以后的 Nvidia GPU 一代相交叉 [7] 3. 系统架构模拟器的分析 - Ayar Labs 构建了一个 AI 系统架构模拟器,评估不同互连技术对吞吐量、交互性和盈利能力的影响 [3][4][5] - 模拟器将 CPU、GPU、扩展 DRAM 内存以及节点内扩展交换等关键元素都设置为光学互连 [5][9] - 模拟结果显示,采用光学互连的 Nvidia GPU 系统在吞吐量和盈利能力方面明显优于电气互连 [9][10][11] 4. 未来 GPU 系统的发展 - Nvidia 未来的 Rubin GPU 可能会采用光学互连,而不是电气 NVLink 和 NVSwitch [7][8][9] - 采用光学互连的 Rubin GPU 系统在吞吐量和盈利能力方面将大幅优于电气互连的 Blackwell 和 Hopper GPU 系统 [9][10][11][12] - 光学互连可以让 Nvidia 构建出可以扩展到人机交互和机器对机器领域的推理机 [12][13]