AI需求-存储-设计-散热如何联动变化？20240612_导读 2024年06月13日 00:43 关键词 AI 存储 内存 带宽 计算 处理器 封装 设计 散热 容量 技术 模型 数据 硬盘 服务器 PC 手机 M1芯片 A16芯 片 HBM 全文摘要 随着人工智能需求的增长，手机端的存储和散热技术面临重大挑战。AI对高性能内存和闪存的需求显著 增加，目前内存是AI运行的主要瓶颈。高精度模型需大量内存空间，例如7B参数模型运行需约4GB内 存。苹果公司强调AI支持设备需8GB LPDDR5内存及足够的带宽。此外，AI的发展推动了新型封装设计 和技术革新，对整机设计、散热方案及其他组件产生深远影响。随着大模型在终端设备上部署的增 加，对存储器的容量和速度提出更高要求。AI应用对高性能计算的需求增加，特别是内存容量和传输速 率方面的要求日益提高，存储带宽面临重大挑战。传统冯诺依曼架构导致数据传输频繁，消耗大量时间 和功耗。业界正在探索各种解决方案，如进程计算和Memory on Package技术，旨在减少数据搬运的开 销，提升性能并降低功耗。这些技术通过使数据更接近计算单元，大幅缩短数据传输路径，提高数据传 ...