locsic.com
观点
用长文记录技术变化的方向。
这里收纳较完整的判断、分析和复盘。它不是快速新闻流,而是把观察、论证、来源和观点沉淀为可回看的专业长文。
文章
26 篇文章没有匹配的文章
2026年10月
26 篇CMX 与分布式内存:上下文该放在哪一层
长上下文推理正把 KV Cache 管理从单机显存问题变成集群容量规划问题。本文以 NVIDIA CMX 共享闪存层与分布式 DRAM 缓存的对比为主线,提出三层判断。第一,恢复能否在剩余时限内快过重算。第二,新增命中能否覆盖搬运与排队成本。第三,省下的算力能否真正兑现,以及 2026 年的内存涨价如何改写这笔容量账。文中四组算例均可复算,引用信源 34 条。
DeepInfer 深度解析:DeepSeek 如何把模型、缓存与调度一起设计成 Token 工厂
从 DeepSeek 开源代码与官方技术报告出发,拆解 CED、CSA2、SWA 有界回放、Wide-EP、DSSpark 和异步调度,核查性能口径与推理经济性,并给出构建生产级服务的扩展接口、验证门槛及选型建议。
没有新芯片的 GTC:黄仁勋在柏林讲了什么
黄仁勋在柏林没有靠新芯片制造悬念,发布集中在工厂交付、智能体运行与企业数据训练。英伟达正在把客户采用 AI 的工程难题逐项做成产品:DSX POD 场地就绪时部署最快 14 天,OpenShell 管住智能体的权限与隔离,六个开放模型家族通向「主权智能」。客户获得速度与便利,也要重新计算对这套平台的依赖。
特斯拉 Roadster 如何飞起来?吸附、喷气与空中翻身的技术拆解
特斯拉把轮胎载荷、电能输出、车底抽吸与短时气体推力放进同一个车辆运动控制问题。本文按实物、专利、工程推演与待核四级证据,核对风扇吸附、冷气推进与主动尾翼的物理依据与工程代价,并给出从原型到产品的验证清单。
OCP 2026 Helion 与 Vera CPU 机架:Agent 执行与模型推理应分别规划容量
截至 2026 年 10 月 17 日
OCP 2026 AI 网络开放继续深入:从交换芯片适配扩展到端点协同与平台管理
开放网络过去的一项重要进展,是让同一套软件适配不同交换芯片。OCP 2026把这条路线推进了两步:主机端点开始更深地参与网络流量分配,交换机的平台管理也开始寻求共同接口。带宽提高仍然重要,但本届更值得追踪的问题是,硬件选择增加之后,哪些协同和管理工作也能随之复用。
OCP 2026 USFP 与 CPO 并行推进:光互连选型取决于链路瓶颈与维护边界
2026年OCP大会上的光互连进展,正在形成三条面向不同瓶颈的路线。可插拔USFP希望在有限的交换机面板空间中继续增加连接能力;交换机CPO把光电转换移近交换芯片,缩短高速电路径;计算光学I/O则把光连接带到计算封装附近,服务加速器之间及计算系统内部的互连。对于建设Token工厂的企业,选择应从受限的链路开始,再看哪种产品边界适合自己的部署和维护体系。
OCP 2026 液冷接口标准化:维护范围与恢复时间决定算力损失
同样更换一个计算托盘,为什么有的方案损失4 GPU小时,有的损失128 GPU小时,还有的达到2048 GPU小时?假设托盘含8张GPU,半小时完成隔离和恢复,损失就是4 GPU小时;停掉64张GPU的整柜两小时,是128 GPU小时;停掉512张GPU的冷却区四小时,则是2048 GPU小时。这些数量、拓扑和时长均为假设,用来比较维护边界,不是任何MGX产品承诺。
OCP 2026 AI 工厂供电标准化:供电设计必须衔接扰动响应与服务恢复
建设AI工厂,供电团队与计算团队必须先回答三个问题:设施能够容纳什么设备,电怎样送到机架,电网发生扰动后计算负载又该怎样恢复。它们分别决定建筑能否接住下一代系统、供电链能否承受更高密度,以及平台能否在异常中保持可预测的行为。
OCP 2026 Tahan 与 ESUN:以太网 Scale-up 产品先行,开放互通仍待验证
2026年OCP大会上,开放Scale-up有三项不同性质的进展:Tahan正在出货,服务Meta MTIA 300系统;下一代72加速器机架进入公开预览;ESUN在年内发布1.0基础规范之后,继续推进后续版本。它们让以太网进入加速器紧耦合互联的路线更加具体,但还没有合并为一套已经采用ESUN、可任意混搭加速器的产品。[1]
OCP 2026 KV 缓存池化进入验证:收益取决于复用与搬运成本
截至 2026 年 10 月 17 日
OCP 2026 Run:ai 全平台开源:AI 平台自研应聚焦交付与运营
截至 2026 年 10 月 17 日
OCP 2026 机架越来越开放:平台为何仍难替换
芯片供应与部署能力正在共同约束 AI 基建。NVIDIA 扩大机架、设施和运维软件的开放范围,AMD 用 Helion 组织 agent 的执行与推理资源,Intel 则强调既有风冷设施里的扩容机会。三种路线争夺的都是更快上线的能力;但图纸可得、部件可换与平台可迁移,仍是三回事。
OCP 2026 全景分析:AI 基础设施的系统边界与产业机会
OCP Global Summit 2026 全景分析:系统边界从芯片扩大到设施与电网,开放程度在机架、网络、供电、液冷、内存与安全各层分化。10 章拆解公开信号的成熟度边界,附录汇总重点对象与使用边界。
一座万卡 Token 工厂的完整测算:投资、经营与退出
以 1,250 台八卡 B300、建设一年和经营五年为条件,拆解长租、短租与多模型 Token 服务,连接现金成本、税、融资和退出。参照项目 IRR 约 7.3%,并复算采购价格与缓存计价怎样改变投资门槛。
Token 工厂投资:高租金,不等于好生意
高租金可以解释今天的紧缺,却不能保证设备交付后的回报。以万卡 B300 的参照项目为例,讨论采购时点、客户兑现、Token 计费与融资责任,说明怎样在不可逆投入之前验证一门生意。
Token 工厂的账本:需求暴涨的另一面
2026 年的算力市场同时在涨价和降价。本文把算力当作生产 token 的工厂查账:token 不是稳定的记账单位;价格分旧档通缩与前沿坚挺两层;存量大头是摊销,中国高端 GPU 走存量残值近原值、增量现货溢价的双轨;利润沉在芯片层与稀缺存量,中间层负毛利;定价权锚在模型厂;风险押在融资结构与 2027 年交付潮的利用率上。
网络成为背板:Arista 把以太网打进机架
10 月 7 日 Arista 发布 scale-up 架构 SU-144:单跳最多 144 个、跨机架 1024 个加速器,用以太网做背板、配套液冷机架参考设计。两层选择:协议上,ESUN 以 4 字节头和链路级可靠改造以太网,同内存语义的 UALink、NVLink 竞争;芯片上不自研,7060XE7 采用博通 Tomahawk 6。scale-up 的收入兑现,仍取决于开放阵营的实际部署。
怎样判断跨平台生态真的成熟了?
判断跨平台生态是否成熟,可检验的问法是:迁移第二个模型、升级一次框架、更换一代硬件时,能复用多少已有成果。本文把复用拆成四层:接口形状(API 对齐有据,能力有缺口)、实现代码(全部公开)、测试与验证方法(可继承,验的是组件非组合)、运行环境(HDK 未公开发行)。维护对象是多组组合;把各自验证结果整理成可交换的清单,是从发布走向积累的途径。
吞吐提高 20%,为什么成本反而可能上升?
比较性能的单位,不是设备每秒处理多少 Token,而是相同业务约束下每单位成本完成的有效工作。内核吞吐不等于服务容量:同一配置下 token 数 64→256,MegaMoE 吞吐 266→659 TFLOPS。本文构造的算例中,资源成本低 20%、原始吞吐高 20% 的方案,按有效产出算单位成本反而高约 5.6%,打平线约在达标占比 63.3%;一次性投入与周期性维护进入回收期计算。
为什么「能运行」仍可能是错误的?
迁移后的程序持续输出、延迟正常,不代表语义正确。本文讨论两类盲区:结构错误——张量形状相同、函数正常返回,仍可能配错每一对分量(RoPE 公开案例);运行身份——你以为在跑的代码和实际在跑的可能不是同一份(编译缓存签名链)。验收先分清正常误差与语义错误:数值比较带容差,语义不变量精确检查;再做三层检查与五步路径,把「看起来正常」变成「验证过正确」。
FlashMLA 为什么快?
FlashMLA 官方公布的 410/360 TFLOPS,是各自声明负载条件下测得的稀疏注意力成绩。成绩背后是三类性质不同的安排:少算——稀疏选择减少每个查询要计算的注意力项;少搬——片上分块与累加,减少中间结果的显存往返;排紧——执行流水(64 头分组、1C2V、经 UB 中转的供给线)决定这些工作完成得多快。三类安排各有适用条件;换输入形状后,性能不能凭峰值利用率推断。
MoE 为什么容易卡在通信上?
衡量 MoE 通信,只看 GB/s 不够,四件事要分开测:带宽——官方五档从 EP8 到 EP128 单调下降;填充——本文构造算例中,对齐填充让处理槽位达到有效数据的三倍;负载——同步执行时,一个阶段的耗时取决于最晚完成的设备;重叠——收益取决于依赖结构与资源争用,要把设备执行流、通信流与主机侧发起等待放到同一条时间线上。四件事各自测清,同样的带宽才对应解释得通的端到端结果。
同样的 API,为什么还不能直接替换?
API 兼容减少的是调用层的改造量。接入成本由数据布局决定,性能收益由真实的矩阵形状决定,这三件事要分开评估。昇腾上的 UE8M0 缩放因子两两打包进 int16,数学等价的计算因此要换一种存放方式。同一组 N、K 下,M=128 和 M=4096 的吞吐分别是 549 和 861 TFLOPS。本文还构造了一个反例:内核耗时降低 30%,整段路径反而慢了 5%。评估应该比较能直接交给下游的结果。
DeepSeek 迁移昇腾,究竟在迁移什么?
把迁移理解为「加载权重、跑通生成」,解释不了这批开源为什么存在。一次推理先组批,再逐层计算:层内先由索引器挑出上下文位置、稀疏注意力按索引读取 KV,再经路由、dispatch、分组 GEMM 和 combine 完成专家计算;API 兼容之外,缩放因子排布、内核流水与同步仍要针对昇腾重新适配。本文先算清两本账(每 token 激活 37B,全服务常驻 671B),划出可复用与必须重做的边界。
万卡集群配多大的训练场?先算有效样本,再算服务器
从一周交付约 410 万条可训练轨迹倒推一万卡集群的沙盒规模:推理侧门槛约 74 token/s/卡,平均在途环境 7,100 到 1.3 万个,按 DSec 披露的单节点峰值折算约 7 到 13 台服务器,计入 80% 入批率约 16 台,若改用 500 秒节拍约 19 台,留出余量按 25 台上下规划。这些数字成立的前提是:推理吞吐、环境并发和训练节拍在同一组运行条件下同时满足。