主题方向说明
AI 基础设施竞争正在从单芯片性能,转向机架、网络、内存、供电、封装、协议、软件栈和部署经济性的系统级竞争。
下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。
locsic.com
AI 基础设施竞争正在从单芯片性能转向系统级竞争。
AI 基础设施竞争正在从单芯片性能,转向机架、网络、内存、供电、封装、协议、软件栈和部署经济性的系统级竞争。
下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。
向右滑动查看更早事件
HPE 把计算、存储、网络、Cray 和软件放进同一套 AI Factory 栈。
4 个来源 4 个来源 继续观察基础设施厂商能否整合栈,同时不掩盖经济性。HPE Discover 把 AI Factory、网络、Agent 工作负载和战略放进同一个系统赌局。
公司 公司 HPE、MaaS、KV Cache、光互联和智算网络协议正在合并成同一条基础设施判断线。推理经济性开始把 KV cache、batch、调度和 token 分发暴露为同一个栈。
2 个来源 2 个来源 继续观察利润会被哪一层捕获。MaaS 系列让成本栈变得可见:KV cache、batch、路由、利用率和 token 分发。
市场 市场 HPE、MaaS、KV Cache、光互联和智算网络协议正在合并成同一条基础设施判断线。KV Cache 与 SSD-as-memory 指向推理场景的新存储层级。
2 个来源 2 个来源 继续把内存经济性连接到加速器和云部署决策。推理迫使基础设施把内存、SSD 和调度看成一个层级。
技术 技术 HPE、MaaS、KV Cache、光互联和智算网络协议正在合并成同一条基础设施判断线。SpaceX Colossus 出租信号说明 GPU 数量不等于可用 AI 能力。
operation operation HPE、MaaS、KV Cache、光互联和智算网络协议正在合并成同一条基础设施判断线。CPO/NPO 争论说明光互联已经成为投资与部署时间点问题。
技术 技术 HPE、MaaS、KV Cache、光互联和智算网络协议正在合并成同一条基础设施判断线。MRC、ZCube、RailFly、灵衢和 Optical Shuffle 说明网络不再只是管道。
4 个来源 4 个来源 继续把拓扑、传输和芯片设计聚合到同一条基础设施线。MRC、ZCube、RailFly 和灵衢把传输、拓扑、网卡、交换机与 AI 工作负载形态连接起来。
技术 技术 HPE、MaaS、KV Cache、光互联和智算网络协议正在合并成同一条基础设施判断线。800V 配电、3D 堆叠、Rubin BOM 和 CPU 回归都指向非 GPU 约束。
技术 技术 HPE、MaaS、KV Cache、光互联和智算网络协议正在合并成同一条基础设施判断线。