icon
搜索文档
算力中心液冷电话会
AIGC人工智能· 2024-06-14 15:12
分组1 - 国内对于能评的标准,核心以PoE作为能评的最明确标准,北方1.2,南方1.25,其他地区不高于1.3 [1] - 一些地区会有差异化的标准,如北京要求PoE不高于1.15,并要求5年内实现100%碳中和 [1] - 一些资源紧缺地区对WUE也有明确要求,如内蒙乌兰察布要求无水前两年WUE为0.5-0.6 [2] - 服务器内部的风扇等耗功耗设备算在PoE的计算范围内 [2] 分组2 - 从风冷到静默相变夜冷的选择取决于功率密度和空间限制,小空间高密度需要采用夜冷 [3][4] - 综合考虑集群算效、网络带宽、线缆成本等因素,40kW以上单柜热密度推荐使用冷板式液冷 [4] - 静默式夜冷的上限目前在120-150kW,超过这个范围需要采用其他替代方案 [4] 分组3 - 基础设施成本在IT成本中占比较小,不是决定因素,更多看IT解决方案的需求 [5][6] - 夜冷相比风冷会增加20-30%的成本,主要来自于夜冷末端设备的增加 [7] - 单向式浸没式夜冷相比冷板式会便宜20%左右,但存在失冷性问题成本较高 [7] - 相变式冷板和静默式融合液冷可以解决150kW以上的高热密度需求 [11][12] 分组4 - 国内主要有三类企业参与夜冷产业:IT厂商延伸部门、专业供应商、上游零部件供应商 [23][24][25] - 专业供应商如英威克在技术储备、验证规模等方面具有优势,是主要玩家 [26][27] - 国内市场和国际市场价格存在较大差异,需要分开考虑 [35][36] - 国内市场未来可能会更多采用自主研发的新型夜冷方案,国际市场则更倾向于与头部企业合作 [41][42][43][44]
德意志银行:人工智能最新动态:反垄断调查;筹码在电脑展; Tesla、Open 的领导地位
AIGC人工智能· 2024-06-14 14:01
德意志银行:人工智能最新动态:反垄断调查;筹码在电脑展; Tesla、Open 的领导地位 ...
算力中心液冷产业交流
AIGC人工智能· 2024-06-14 00:08
财务数据和关键指标变化 无相关内容 各条业务线数据和关键指标变化 无相关内容 各个市场数据和关键指标变化 无相关内容 公司战略和发展方向及行业竞争 - 国内液冷产业链分为IT厂商(如曙光、浪潮)、专业制冷供应商(如英维克、依米康)和上游零部件供应商(如高栏、中航光电)[5] - 曙光在液冷领域经验丰富,但市场化能力和综合技术相对较弱[5] - 英维克在研发能力和产品成熟度上有优势[5] - 台湾供应链主要服务于英伟达等IT厂商,提供服务器级别的零部件,而国内厂商则提供数据中心层面的整体解决方案[5] - 英伟达的整机柜方案(如NVL72)采用冷板式液冷,单柜价值约4万美金,列部CDU等设备成本约30万美金[5] - 国家队(如运营商和地方政府的计算中心)主要使用国产液冷解决方案,如华为和曙光,而商业化组织(如BAT)则倾向于使用英伟达的解决方案[6] 管理层对经营环境和未来前景的评论 无相关内容 其他重要信息 - 液冷技术标准与能效要求[1] - 服务器散热方式与功耗管理[2] - 液冷与风冷的经济性比较[3][14] - 液冷技术的应用场景与发展趋势[4][13][16] - 液冷产业链与主要厂商[5][26][27][28][29] - 全球液冷市场与竞争格局[5][28] - 液冷技术的成本构成与价值量[7][18][23][26][30][32][35] - 其他技术细节[8][24][25] 问答环节重要的提问和回答 问题1 **提问** 产业界对于IDC的能效是如何定义的[10] **回答** 国内对于能效的评估标准主要以PUE(Power Usage Effectiveness)作为核心标准,并有差异化的地区要求[10] 问题2 **提问** 服务器内部的风扇等耗能设备的能耗是如何计入预算的[10][11][12] **回答** 服务器内部的风扇等耗能设备的能耗通常会计入整体能耗预算中,作为IT功耗的一部分[11][12] 问题3 **提问** 在什么情况下需要从风冷升级到液冷[13] **回答** 如果芯片的PDP很高,但服务器空间较大,可以继续使用风冷散热,但在高密度计算环境下(如单柜热密度超过40kW),推荐使用冷板式液冷[13]
全面复盘台股电子产业链,看好+需求复苏
AIGC人工智能· 2024-06-13 23:59
会议主要讨论的核心内容 - 5月份台股各个产业链的营收情况及展望,整体呈现稳步复苏态势 [1][2] - 晶圆代工环节先进制程需求火热,成熟制程小幅改善 [3][4] - 封测环节设备需求复苏,封测厂产能利用率提升 [14][15] - 存储芯片价格有短期波动,但整体呈现涨价趋势 [15][16][17] - PC和消费电子需求复苏,带动相关产业链表现良好 [18] - AI产业链整体保持强劲复苏态势,服务器、芯片设计等环节表现突出 [19][20] 问答环节重要的提问和回答 问题1 **分析师提问** 联电对后续展望如何判断? [3] **分析师回答** 联电认为Q2营收略优于Q1,认为整体需求正在走出谷底,下半年会更好 [3] 问题2 **分析师提问** 大陆晶圆代工厂的产能利用情况如何? [4] **分析师回答** 大陆晶圆代工厂如华虹、中芯等12英寸产线产能利用率很高,下半年有望进一步提价 [4] 问题3 **分析师提问** MCU行业的复苏情况如何? [13] **分析师回答** MCU行业已经看到拐点,新台和盛群等厂商营收已经开始改善,大陆MCU厂商产能也在逐步提升 [13]
苹果WWDC2024召开,升级是重心
AIGC人工智能· 2024-06-13 21:51
本次电话会议仅服务于长江证券研究所白名单客户未经长江证券事先书面许可任何机构或个人不得以任何形式对外公布、复制、刊载、转载、转发、引用本次会议相关内容否则由此造成的一切后果及法律责任由该机构或个人承担长江证券保留追究其法律责任的权利 尊敬的各位投资者大家晚上好我是长江证券基层第一行业贝鲁鲁中非常感谢各位领导接受到我们今天晚上的专题汇报我们今天的汇报主要是就最近苹果的W2WTC大会做一个从基层第一行业需要的解读 那首先的话呢就是这个事件背景是在于说呃应该是6月11号晚上明天1点苹果的这个2024年全球开幕招待会啊这是开幕啊在这个会里面啊从我们学生机行业视角来看最重要的就是苹果是发布了他的这个Apple Intelligence他的这个苹果智能啊嗯这块的话呢就是从市场的气概来看啊他应该是 终于带来了预期比较久的最新人工智能战略 因为过往在其他的手机或者是包括说之前的微软在这种电脑上面都是实现了AI的一些升级苹果这边的话大家一直是期待比较高所以它的AI进展一直受到社团关注从出来以后 在昨天晚间 今天凌晨的时候苹果股价应该是涨了大概7.26左右 创下了一个新高市值是达到了3.18万亿 也是获得了市场认可 从整个的发布 ...
终端革命,半导体行业新引擎?
AIGC人工智能· 2024-06-13 21:08
Hello everyone, good afternoon. Welcome to Xinhua's live broadcast room. XIN, can you check if our sound and screen are normal? Let's check if our sound and screen are normal. Yes, I just checked if our sound and screen are normal. Today, we are very happy to invite our industry researcher, Mr. He Ye Lin, to our Xinhua S1 live stream. Welcome, Mr. He Ye Lin. Mr. He Ye Lin, please say hello to our viewers in the live stream. Good afternoon, everyone in the live stream. Thank you for participating in our shar ...
需求存储设计散热如何联动变化?
AIGC人工智能· 2024-06-13 21:04
AI需求-存储-设计-散热如何联动变化?20240612_导读 2024年06月13日 00:43 关键词 AI 存储 内存 带宽 计算 处理器 封装 设计 散热 容量 技术 模型 数据 硬盘 服务器 PC 手机 M1芯片 A16芯 片 HBM 全文摘要 随着人工智能需求的增长,手机端的存储和散热技术面临重大挑战。AI对高性能内存和闪存的需求显著 增加,目前内存是AI运行的主要瓶颈。高精度模型需大量内存空间,例如7B参数模型运行需约4GB内 存。苹果公司强调AI支持设备需8GB LPDDR5内存及足够的带宽。此外,AI的发展推动了新型封装设计 和技术革新,对整机设计、散热方案及其他组件产生深远影响。随着大模型在终端设备上部署的增 加,对存储器的容量和速度提出更高要求。AI应用对高性能计算的需求增加,特别是内存容量和传输速 率方面的要求日益提高,存储带宽面临重大挑战。传统冯诺依曼架构导致数据传输频繁,消耗大量时间 和功耗。业界正在探索各种解决方案,如进程计算和Memory on Package技术,旨在减少数据搬运的开 销,提升性能并降低功耗。这些技术通过使数据更接近计算单元,大幅缩短数据传输路径,提高数据传 ...
美国调研纪要
AIGC人工智能· 2024-06-13 19:53
财务数据和关键指标变化 - 公司财务数据和关键指标未提及 [无] 各条业务线数据和关键指标变化 - 各条业务线数据和关键指标未提及 [无] 各个市场数据和关键指标变化 - 各个市场数据和关键指标未提及 [无] 公司战略和发展方向及行业竞争 - 大模型的能力持续进步,但进步速度有所放缓,主要体现在用户感知不明显的数学能力等方面 [2][3][4] - 数据的枯竭可能是限制大模型扩张的一个重要问题,多模态训练数据还没有遇到这个问题 [5][6][7] - 算力的需求仍然旺盛,相比模型进展,算力供需紧缺更加明显 [7] - 行业竞争格局上,OpenAI、Google、Meta等公司领先,Anthropic等新兴公司也有背书 [8][9] - 国内模型研发与硅谷差距较大,但考虑到硅谷模型迭代放缓,国内模型应该能够保持不被拉开 [9] 管理层对经营环境和未来前景的评论 - 管理层对经营环境和未来前景的评论未提及 [无] 其他重要信息 - 应用创新方面,大模型目前的功能对用户而言仅仅是"nice to have",未能解决用户的核心需求 [10][11][12][13] - 应用创新更多集中在B端需求,以及依赖手机、电脑等终端厂商的产品形态调整 [13] 问答环节重要的提问和回答 无
美国调纪要202406
AIGC人工智能· 2024-06-13 15:34
会议主要讨论的核心内容 大模型的发展 1. Scaling law的可持续性 [1][2][3] - OpenAI认为Scaling law确定可持续,但模型能力难以预判 - Anthropic认为算力可持续,但数据面临瓶颈 - Meta认为不跟进Scaling law存在风险 - Amazon和Google认为Scaling law仍有效,但工程创新也很重要 2. 大模型的格局和发展 [2][3][4] - 模型差距可能在缩小,但格局将收敛,OpenAI、Anthropic、Google有望领先 - 国内AI人才与美国同等,但在投入和决心上存在差距 3. 大模型发展的关键点 [5] - 算力约束转向集群能力和电力,数据质量和自动化清洗是瓶颈 - 参数问题,工程能力的决定性将提升 4. 大模型的发展方向 [5] - 推理能力提升可能是下一个重点 - 工程优化对模型能力提升效果较好 - 多模态融合是发展趋势 AI大模型应用 1. 应用现状 [6] - 各公司应用仍处于探索阶段,缺乏杀手级应用 - 企业应用进展低于预期,效率和粘性不足 2. 应用格局和打法 [6] - OpenAI主攻C端,Anthropic主攻B端 - 云平台和移动操作系统是重要应用平台 算力产业链及生态 1. 算力需求与格局 [7][8] - 短期内算力需求持续,但格局逐渐发散 - 自研ASIC和芯片系统化是发展趋势 2. 产业链挑战 [7][9] - 软硬件层面的挑战,如NVDA生态被挑战 - 中美关系下,国内有机遇跟上全球产业链
北美产业链调研
AIGC人工智能· 2024-06-13 15:33
财务数据和关键指标变化 - 无相关内容 各条业务线数据和关键指标变化 - 无相关内容 各个市场数据和关键指标变化 - 无相关内容 公司战略和发展方向及行业竞争 - 当前大模型的能力仍在持续进步,但进步速度有所放缓,未来能力的上限还存在不确定性[1] - 大模型的能力提升主要依赖于模型架构、模型规模和训练数据质量,其中训练数据的枯竭可能成为限制模型扩展的瓶颈[2][3] - 算力的持续扩展仍是大模型发展的重要支撑,大厂正在采取多数据中心协同计算等措施应对电力供给问题[4] - 目前openai、google、meta等公司在大模型领域处于领先地位,anthropic等新兴公司也有一定背景[4] - 国内模型研发与硅谷存在一定差距,但考虑到硅谷模型进展放缓,国内模型应该能够保持不被拉开[5] 管理层对经营环境和未来前景的评论 - 无相关内容 其他重要信息 - 应用创新方面,大模型目前在企业应用中的表现还不太理想,主要存在以下问题: 1) 大模型从0到1的创作过程难以满足用户预期[5] 2) 大模型生成内容的误差会累积,影响最终产品质量[5] 3) 大模型目前提供的功能对用户而言只是"nice to have",并不是刚需[5] - 未来应用创新可能更多集中在B端需求以及基于AIpc和AIphone等系统级创新的C端应用[5] 问答环节重要的提问和回答 无相关内容