华泰计算机英伟达COMPUTEX2024公布下一代Rubin系列新品
未知机构·2024-06-03 09:50

要点①:AI工厂。 类比电力的工业化生产,带来工业革命。 未来AI工厂通过生产智能(Token),带来下一轮的工业革命。 英伟达通过GPU+组网+软件的紧耦合方式大大降低了AI工厂的建设门槛,配合cuLITHO等 垂类加速库,实现对下游行业的赋能。 要点②:NI【华泰计算机】英伟达COMPUTEX 2024:公布下一代Rubin系列新品 要点①:AI工厂。 类比电力的工业化生产,带来工业革命。 未来AI工厂通过生产智能(Token),带来下一轮的工业革命。 英伟达通过GPU+组网+软件的紧耦合方式大大降低了AI工厂的建设门槛,配合cuLITHO等 垂类加速库,实现对下游行业的赋能。 要点②:NIM及Agent。 英伟达再次强调NIM的推理微服务,在AI工厂的基础上,进一步集成自身的大模型及模型微调能力 ,有望实现加速数字护士、客服、导师等数字人的应用。 要点③:下一代网络规划。 目前Spectrum-X800可以支持万卡集群,预计25年发布Spectrum-X800 Ultra可以支持10万卡集群,26年发布Spectrum-X1600可以支持百万卡集群。 此外,预计26年NVLink也将升级至6.0版本,支 ...