AI 基础设施竞争正在从单芯片性能,转向机架、网络、内存、供电、封装、协议、软件栈和部署经济性的系统级竞争。
下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。
locsic.com
超节点、Rubin 机架、灵衢、CPO、内存与供电正在成为同一个系统问题。
AI 基础设施竞争正在从单芯片性能,转向机架、网络、内存、供电、封装、协议、软件栈和部署经济性的系统级竞争。
下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。
向右滑动查看更早事件
循环深度把模型深度从架构常量变成运行时变量。本文梳理这条路线七年的谱系与工艺边界:Huginn 完成立论,Nanbeige 完成量产验证,Astra 与智谱把它带进前沿叙事;收益的边界与可监控性的代价同样清楚。
1 篇已发布观点 1 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/looped-transformer-recurrent-depth/MetaRoCE 是 Meta 为通用以太网上的 AI 负载从零设计的 RDMA 传输协议,与内置网卡的 MTIA 300 训练芯片同日发布,规范、参考实现与一致性套件经 OCP 开放。本文按六个问题拆解:它为什么出现、是什么、为什么开源、怎么工作、值多少,以及…
1 篇已发布观点 1 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/metaroce-nic-intelligence-open-transport/2025 年收入 5533 万(+653%)、毛利率 -24%、净亏 3.45 亿、估值 77.4 亿。硅基流动带着「Token 工厂」的故事递表港交所。本文拆它的账本:公有云亏着卖、本地部署赚着卖,算力成本吃掉 86.9% 收入,免费 token 代金券烧掉全…
2 篇已发布观点 2 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/token-factory-siliconflow/Hot Chips 2026 六场 CPU 演讲拆成四道题:串行瓶颈(Vera 宽体对 IBM 高频)、内存功耗预算(SOCAMM2 满载 30-40W vs 传统 RDIMM 百瓦级)、封装三路线(先进制程面积 30% 以内的成本权衡)、生态交付(Arm 参考…
1 篇已发布观点 1 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/hotchips-2026-agent-cpu/Spectrum-X 多平面把 AI 工厂网络拆成五张专用网,规模以 8 平面×4 rail 扩展 64 倍到 512K GPU。CPO 量产落地:激光器数量减 4×、功耗降 5×、MTBI 升 10×。Thor Ultra 的 MRC++(eRoCE)数据通路…
5 篇已发布观点 5 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/hotchips-2026-ai-factory-network/Hot Chips 上 OpenAI 交出 Jalapeño 首份实测:三模型每瓦吞吐 1.5-1.9 倍于 Blackwell 系统,延迟低 1.7-3.6 倍。两个月前的推算表现已对账:制程、架构、算力兑现,功耗判断出错。胜负手在数据搬运而非算力密度,AI…
1 篇已发布观点 1 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/jalapeno-first-results-audit/SemiAnalysis 花三百万美元采集真实 Claude Code 轨迹、开源 393 条会话、用 1000+ 芯片实测 agentic 推理。本文逐层拆解 AgentX 1.0:数据集管线、cache-bust 反作弊回放、投机解码公平性工程、度量体系,以…
2 篇已发布观点 2 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/agentx-1-cuda-moat/单端口迈向 1.6Tbps,协议栈 CPU 税成为与带宽同量级的成本科目。七篇论文四条路线:Presto 把完整 TCP 状态机搬进交换机流水线(Best Student Paper,省 16 核)、SMC-R 阿里四年透明替换教训、Flow.ZIP 头压缩、P…
7 篇已发布观点 7 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/sigcomm2026-terabit-host-stack/Stripe 以 75 亿美元收购 OpenRouter:82 天估值 5.8 倍。路由层用 5.5% take rate 证明了中间层价值可以捕获,随即被支付层整体收编。收费亭三部曲收束篇。
1 篇已发布观点 1 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/stripe-openrouter-token-toll/GLM-5.3 与 GLM-5.2 完全同一基座,所有提升来自后训练:Terminal-Bench 涨六倍、编程逼近 Fable 5、CyberGym 压过 Mythos 5 成为开源第一。本文拆解环境工厂机制(research/judge agent 自动造环…
1 篇已发布观点 1 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/glm53-post-training-scaling/一个月前的四阶段框架用 FMS 2026 实际产品验证和修正。阶段三和阶段四在同时发生。总线维度深度推演:CPU 主导→GPU+DPU 主导的三条新路径对 Agent 部署的影响。ICMSP/Mooncake/DualPath 多路线并列。NAND 物理推演链从…
2 篇已发布观点 2 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/agent-storage-paradigm-reassessment/V4 Flash CSA+HCA 架构级冷热分级,策略对比基准,端到端案例 8×H100,差分编码前瞻。FMS 2026 硬件层验证已加入。
3 篇已发布观点 3 篇已发布观点 下一轮基础设施边界,会由加速器、网卡、交换机、协议、内存局部性、运行时、供电、存储和运营模型共同决定。 /zh/thinking/kv-cache-scheduling-7-percent/HPE Discover 把 AI Factory、网络、Agent 工作负载和战略放进同一个系统赌局。
4 篇关联观点 HPE 系列把 Agent 工作负载、AI Factory、网络和战略连接起来。这使 HPE 成为一个观察标记:企业 AI 基础设施会不会从 GPU 采购项目变成整合栈。 预测:企业 AI 基础设施厂商会在整合证明上竞争,而不只是 benchmark 数字。 /zh/thinking/hpe-discover-2026-strategy/MaaS 系列让成本栈变得可见:KV cache、batch、路由、利用率和 token 分发。
2 篇关联观点 MaaS 系列暴露出分层成本结构:模型服务、KV cache、batch、利用率、token 分发和获客互相影响。 预测:推理赢家需要成本可观测性和路由智能,重要性不亚于模型质量。 /zh/thinking/maas-inference-tech-stack/推理迫使基础设施把内存、SSD 和调度看成一个层级。
3 篇关联观点 长上下文和智能体工作负载让 cache 大小、内存带宽、存储分层和调度策略进入产品经济性。 预测:内存/存储厂商会直接参与推理架构决策。 /zh/thinking/kv-cache-deep-dive/SpaceX Colossus 出租信号说明 GPU 数量不等于可用 AI 能力。
1 篇关联观点 Colossus 信号说明 AI 基础设施价值取决于能否把容量变成可用服务。闲置、不匹配或难以整合的算力会变成成本问题。 预测:利用率和工作负载匹配会成为 AI 基建的一等尽调指标。 /zh/thinking/spacex-colossus-compute-reality/CPO/NPO 争论说明光互联已经成为投资与部署时间点问题。
2 篇关联观点 CPO/NPO 争论与 Optical Shuffle 补充文章都指向同一个问题:铜缆在什么规模下不再经济? 预测:光互联采用会不均匀,取决于集群规模、封装风险和运营信心。 /zh/thinking/cpo-vs-npo-semianalysis-optics-debate/MRC、ZCube、RailFly 和灵衢把传输、拓扑、网卡、交换机与 AI 工作负载形态连接起来。
5 篇关联观点 MRC、ZCube、RailFly、灵衢和 RNG 文章共同说明同一变化:拓扑、传输和端侧智能正在进入 AI 架构决策。 预测:下一轮集群设计会把网卡、交换机、路由和协议作为一个架构包评估。 /zh/thinking/mrc-protocol-when-nic-becomes-the-brain/800V 配电、3D 堆叠、Rubin BOM 和 CPU 回归都指向非 GPU 约束。
5 篇关联观点 800V、3D 堆叠、Rubin BOM、CPU 回归和超节点文章都把注意力推向供电、封装、主机处理、内存和机架成本。 预测:下一轮基础设施优势会来自跨层瓶颈解决,而不只是购买更快 GPU。 /zh/thinking/analog-chip-800v-datacenter-power-revolution/