引子:谁在管理 Agent 的 RAM?
Andrej Karpathy 在 2023 年提出过一个精妙的类比:LLM 是 CPU,context window 是 RAM,prompt 是程序。这个比喻迅速成为行业共识,但很少有人追问下一步:谁管理这块 RAM?谁决定什么进出?当程序执行完毕,状态保存在哪里?
在真实的计算机里,答案是操作系统。操作系统管理进程调度、内存分配、文件系统、设备驱动。CPU 和 RAM 只是执行层,OS 才是让一切有序运转的底座。
那么 Agent 的"操作系统"在哪里?
2025 年下半年开始,几个信号表明行业在认真对待这个问题。
LlamaIndex 创始人 Jerry Liu 公开表示,Agent 架构正在"从数百种工具转向文件系统加 5-10 种工具"。LlamaIndex 打出的口号更直白,"Files Are All You Need"。差不多同一时间,LangChain 也在做类似转向:用文件系统做上下文工程,而不是在框架层堆砌越来越多的抽象。
这不是两个框架公司的产品策略。推导链是这样的:Agent 框架最初把所有状态塞在 context window 里,但窗口很快不够用。框架开始在应用层做状态管理,每个框架发明自己的方案,代码复杂度急剧上升。当 LlamaIndex 和 LangChain 同时转向文件系统,背后的判断是:与其在每个框架里重复实现状态管理,不如依赖一个已有的、被验证过的抽象层。但文件系统的设计假设(人类用户、4KB 块、树状目录)和 Agent 的实际需求之间存在系统性矛盾。框架选择文件系统是因为它是"现有的最接近的抽象",不是因为文件系统真的合适。这意味着矛盾会很快暴露,底层存储架构需要适配 Agent 的工作模式。
从信息管理的视角看,正在发生的是一次范式迁移:从"一切皆文件"(everything is a file),走向"一切皆上下文"(everything is context)。
这不是预测。FMS 2026(Future of Memory and Storage,8 月 4-7 日,圣克拉拉)官方议程里,IBM 在讲 Cognitive File System,NVIDIA 在讲 Storage-Next 架构,Anthropic 的 Managed Agents 已在生产环境运行一种全新的状态持久化模式。这些方案的共同点:重新定义 Agent 和数据之间的接口。
一、为什么 POSIX 文件系统不够用
1.1 上下文窗口 ≠ 记忆
Karpathy 的 CPU/RAM 类比藏着一个陷阱:RAM 是易失性的。断电即丢失。
Agent 的 context window 也是如此。一个 Agent 在一次会话中处理了 50 个工具调用、读了 20 份文档、写了 3 段代码,全部在 context window 里。会话结束,window 清空,一切消失。
Agent 因此面临一个经典的计算机科学问题:工作内存(context window)和持久存储之间存在一道鸿沟。 工作内存快但小且易失,持久存储慢但大且可靠。中间需要一层管理系统来决定什么放在哪里、什么时候搬运、什么时候丢弃。
在传统计算中,这层管理是操作系统内核做的事,虚拟内存、页面调度、mmap、swap。在 Agent 计算中,这层管理目前几乎不存在。多数 Agent 框架的做法是:要么全塞进 context window(直到超长),要么写一个 JSON 文件到磁盘(下次启动时读回来)。没有中间层。
1.2 Agent vs 传统文件系统设计假设
Unix "一切皆文件"诞生于 1969 年,针对人类用户和批处理工作负载。具体来看这些设计假设在 Agent 场景下怎么失效:
树状目录路径:人类靠目录层级组织文件,是因为人类靠"在哪里"来记忆和检索。Agent 的检索方式完全不同,它靠语义相关性找信息("我上一步调用 search API 返回的结果"),不靠路径。给 Agent 一个 /home/user/agents/instance-42/step-23/tool-output.json 的路径,它并不"理解"这个路径,它需要的是内容本身和内容与其他状态片段的关联。
4KB 块粒度:OS 页大小和 HDD 扇区的产物。Agent 状态片段典型大小 512B-1KB,远小于一个块。写一个 512B 片段,SSD 要读出整个 4KB 块、修改其中 512B、重新编码纠错码、写回去,相当于为了改一个字擦写整页纸。
POSIX 语义:open/read/write/close 是为人类编程模型设计的接口。Agent 的状态访问模式是 append(追加新事件)、snapshot(周期性快照)、replay(从某点重放),和 open/read/write 并不对应。
强一致性:多进程协同需要所有进程同一时刻看到同一状态。但 100 个并发 Agent 各自更新自己的独立状态,强一致性引入的全局排序开销是不必要的。
| 设计假设 | 针对的问题 | Agent 场景的矛盾 |
|---|---|---|
| 树状目录路径 | 人类需要理解文件位置 | Agent 不需要路径,需要内容寻址 |
| 4KB 块粒度 | 匹配 OS 页大小和 HDD 扇区 | Agent 状态片段通常 512B-1KB |
| POSIX 语义(open/read/write/close) | 编程接口标准化 | Agent 需要的是 append、snapshot、replay |
| 强一致性 | 多进程协同 | Agent 需要因果一致性 |
| 文件名作为必需寻址 | 人类记忆和检索 | Agent 更适合模式识别和内容 hash |
1.3 IO 粒度翻转:4KB → 512B
传统 AI 推理的 IO 模式单一:启动时加载模型权重(大块顺序读),推理时偶尔读取输入。存储行业优化方向一直是带宽(GB/s)。
Agent 打破了这个模式。一个 Agent 循环(观察环境 → 推理决策 → 调用工具 → 获取结果 → 更新状态),每一步都产生与传统推理不同的 IO:
| Agent 操作 | IO 特征 | 数据大小 |
|---|---|---|
| RAG 向量检索 | 随机读 | KB-MB |
| 工具调用结果写入 | 小文件写 | KB-MB |
| 状态片段读写 | 随机读写 | bytes-KB |
| 执行快照 | 顺序写 | MB |
| 多 Agent 消息传递 | 并发小消息读写 | KB |
| KV Cache 读写 | 随机与顺序混合 | MB-GB |
多 Agent 并发执行时,这些操作叠加成大量细粒度随机 IO。
FMS 2026 上,Microchip 技术 Fellow Peter Graumann 给出精确量化:
当前 SSD 按 4KB 块边界操作,但 AI 工作负载在 512B 或 1KB 粒度操作。
这个数字来自 FMS 2026 Microchip 演讲。从第一性原理也可以验证:Agent 的典型状态片段是一个工具调用的返回值或一个推理中间结果,JSON 序列化后通常在 200-800 字节范围。这与 4KB 的存储块之间形成了 4-8 倍的粒度差。
SSD 的 FEC(前向纠错)以 4KB 为最小单元,NAND 闪存物理页大小和纠错算法的设计基线。Agent 要写一个 512 字节状态片段,SSD 实际需要读出整个 4KB 块、修改其中 512 字节、重新编码纠错码、再写回去。写放大在 Agent 工作负载下急剧恶化。
跨越这个 8 倍的粒度差,需要重新设计 SSD 块结构。
二、四条技术路线
路线 1:POSIX 文件系统直接给 Agent 用
设计哲学:不重新发明轮子。Agent 就是一个程序,程序用文件系统天经地义。
代表实践:Claude Code、Cursor、OpenClaw、大多数 Agent 开发框架。
目前最主流的模式。Agent 运行在标准操作系统环境里,通过 read/write/exec 系统调用操作文件。Agent 框架在文件系统之上叠加自己的抽象,但底层完全依赖 POSIX。
优势:零基础设施成本;生态兼容(git、grep、make 都能用);开发者熟悉。
劣势:状态管理完全依赖应用层,每个框架做法不同,没有标准;高频小文件写对 SSD 的 WAF(写放大因子)不友好;多 Agent 协作时无隔离或一致性保障。
判断:务实的短期方案,但把所有复杂性推给应用层。具体会在哪里 break:当 Agent 从单机走向分布式——两个节点上的 Agent 实例需要共享状态文件,POSIX 的 NFS locking 机制(fcntl/lockf)在广域网下的延迟和可靠性都不足以支撑 Agent 的交互频率(每秒数十次状态读写)。当 Agent 从短时走向长时运行,单个 Agent 产生数万个状态文件,文件系统的目录项索引在大规模小文件场景下的查找性能急剧下降(ext4 的 htree 在单目录超过 10 万文件后查找延迟非线性增长)。这些都是实际部署中已经碰到的墙。
路线 2:"一切皆上下文"文件系统
设计哲学:文件系统不被替代,而是被抽象掉。Agent 直接消费的是上下文,文件形态被隐藏在抽象之下。
代表实践:arXiv 论文《Everything is Context》;LlamaIndex 的实践方向。
Agent 消费信息的方式不是"打开文件、读取内容",而是"获取一段上下文、纳入推理"。Agent 不关心信息来自文件、数据库还是 API,它关心的是这段信息和当前任务的相关性。
| 传统文件系统 | 上下文存储 |
|---|---|
| 文件(bytes 的有序集合) | 上下文片段(带元数据的信息块) |
| 路径寻址 | 相关性寻址(基于当前任务动态匹配) |
| 手动打开/关闭 | 自动注入 |
| 静态存储 | 动态组装(运行时按需拼接) |
技术要点:内容寻址存储(数据块用 hash 标识);自动版本化(每个 Agent step 是一个 commit);上下文组装器(Context Assembler),根据推理需求从存储池检索相关片段,动态组装成 context window 内容。
优势:最贴合 Agent 信息消费模式。
劣势:纯学术概念,缺少生产级实现;上下文组装延迟可能不可接受;退出 POSIX 兼容意味着现有工具链失效。
判断:最激进的路线,正确指出 Agent 需要的不是"文件"而是"上下文"。更可能的情况是核心思想被其他路线吸收。
路线 3:Cognitive File System
设计哲学:改造文件系统本身,让它具有"认知"能力。
代表实践:IBM Cognitive File System(FMS 2026 正式提案)。作者 Viacheslav Dubeyko,IBM 员工、Linux 内核开发者。
Dubeyko 2019 年在 arXiv 发表前作《File System in Data-Centric Computing》。FMS 2026 提案是这个思路在 Agent 时代的延伸。
IBM 在 FMS 2026 议程中的关键表述:
"AI agents become a new customer of digital data."
"completely new technological foundation for computation offloading in storage space, adopting ML models for data analysis/processing, and provide a flexible interface for more efficient interaction among AI agents and data."
其余设计要点:用户可以照存原始数据流,不需要给文件起名字。认知子系统自动检测数据流中的重复模式,建立关系字典,让不同数据流之间像关系数据库一样互相关联。这些能力被放在 Computational Storage Track,说明 IBM 认为认知文件系统与计算型存储是一体的。
核心技术主张:
-
去掉文件名作为必需寻址方式。Agent 可存储数据流而不必分配名字。系统通过模式识别组织和检索数据。直接挑战 Unix 文件系统五十年来的基本假设。
-
认知子系统自动发现重复模式。系统持续分析流入数据,检测重复模式,建立"关系字典"。模式成为连接不同数据流的关键词。文件系统自己做特征工程和关联分析。
-
存储空间内做计算卸载。不只存数据,还在数据所在位置执行计算,用 ML 模型分析、提取特征、返回结果。
-
为 AI Agent 和数据之间提供新接口。不同于 POSIX 的 open/read/write,提供 AI-native 的数据访问接口。
优势:内核级方案,对 Agent 透明;文件系统自己做数据分析,减少数据搬运。
劣势:改造文件系统内核是最慢路径,从提案到生产可能 3-5 年;认知子系统本身的计算开销是否可接受尚不清楚;目前处于概念验证阶段。
判断:长期路径。价值在于指出正确方向,文件系统应该理解它存储的数据。短期内更可能启发其他方案的架构设计。
路线 4:绕过文件系统,日志、沙箱、microVM
设计哲学:放弃改造文件系统,直接绕过它。Agent 状态管理需要的是事件日志、快照、隔离。
代表实践:Anthropic Managed Agents(已在生产环境运行)。
由三层组成:
Session 作为 Append-Only Durable Log:Agent 的每次操作,每个 tool call、每次推理结果、每次状态变更,被 append 到持久化事件日志。这是持久化存储上的 append-only log。
和传统文件系统的根本差异:传统 FS 支持随机读写,append-only log 只能尾部追加。听起来是限制,实际上是好处:
- 不可变性:已写入事件不会被修改,天然支持回放(replay)。出错时可从日志任意位置重新开始。
- 因果顺序:日志顺序即事件发生顺序,天然满足因果一致性。
- 简化崩溃恢复:不需要 fsync、journal、fsck,崩溃后从最后一个 checkpoint 重放日志。
Harness , 无状态执行器:完全无状态。每次执行:接收 sessionId → 从日志 replay 到最近 checkpoint → 加载到 context window → 执行 → 结果 append 到日志。任何 Harness 实例可执行任何 Agent 会话,不存在状态亲和性。调度灵活性等于无状态微服务。
Sandbox , 每次工具调用一个全新 microVM:用完即焚。无状态泄漏,无跨调用文件系统污染,无权限残留。沙箱只有只读磁盘,工具调用结果被序列化后写回 Session 日志。
效果:据 Anthropic 2026 年 4 月 Claude Managed Agents 发布博客,相比自建 Agent 基础设施(无 Session 日志、无沙箱隔离的裸调用模式),p50 首 token 延迟降低 60%,p95 降低 90%。Anthropic 将改善归因于 runtime 层的优化(Session 日志避免了重复加载历史状态,microVM 沙箱避免了冷启动中的依赖初始化),而非模型本身变快。这些数字是 Anthropic 自己的 A/B 对比,不是第三方独立测试。
判断:目前最接近生产级 Agent 存储架构的方案。核心洞察是 Agent 状态本质是事件流而非文件,可能成为未来 Agent Runtime 的设计基线。
四条路线对比
| 维度 | POSIX FS | Context FS | Cognitive FS | Log+Sandbox |
|---|---|---|---|---|
| 设计原点 | 复用现有系统 | 理论框架 | 内核改造 | 全新架构 |
| 成熟度 | 生产级 | 论文阶段 | 概念验证 | 生产级 |
| POSIX 兼容 | ✅ | ❌ | 部分 | ❌ |
| 状态管理 | 应用层负责 | 系统自动 | FS 负责 | Session 日志 |
| 隔离性 | 弱 | 中 | 中 | 极强 |
| 代表 | Claude Code/Cursor | arXiv | IBM | Anthropic |
三、NVIDIA 的存储野心:Storage-Next 与 ICMS
前面四条路线还是技术社区的探索。NVIDIA 的动作说明 GPU 厂商不再只做 GPU,开始定义存储架构。
3.1 Storage-Next:新存储层规范
FMS 2026 议程中,群联演讲标题"Enabling Ultra-High-IOPS Storage-Next SSDs with AI-Enhanced LDPC"透露关键信号:NVIDIA 已正式定义 "Storage-Next" 存储架构规范。
| 指标 | 传统 NVMe SSD | NVIDIA Storage-Next |
|---|---|---|
| IO 粒度 | 4KB | 512 byte |
| 目标 IOPS | ~1-3M/drive | ~200M/GPU(按每 GPU 连接 8-16 块 NVMe SSD 估算,单盘需 12-25M IOPS) |
| I/O 发起方 | CPU | GPU-initiated I/O |
| 软件栈 | 标准 NVMe 驱动 | NVIDIA SCADA™ |
| 核心目标 | 通用存储 | 突破 HBM 容量与成本瓶颈 |
GPU-initiated I/O:传统架构中 GPU 需要数据时,CPU 先发 read 请求,数据从 SSD 经 PCIe 到 CPU 内存,CPU 再通过 GPU 驱动把数据拷贝到 GPU 显存。这条路径有两次跳转:SSD → CPU 内存(受 PCIe 带宽限制,PCIe 5.0 x16 约 63 GB/s),CPU 内存 → GPU 显存(受 NVLink/C2C 带宽限制)。每次跳转增加 1-5μs 的桥接延迟,CPU 还要消耗算力做 buffer 管理。
Storage-Next 让 GPU 通过 SCADA 协议直接发起 NVMe 读请求,数据从 SSD 直达 GPU 显存,跳过 CPU 内存中转。对于 KV Cache offload 场景(GPU 需要从 SSD 取回一段 10-50MB 的 KV Cache),减少一次跳转可以节省数十微秒。在高并发推理中,每秒数千次这样的读取,累计节省的延迟直接转化为 Token 吞吐提升。
SCADA™ 软件栈:NVIDIA 为 Storage-Next 定义的存储软件栈名称(NVIDIA 官方商标,非工业领域的 SCADA 通用术语)。GPU 厂商定义存储软件栈,意味着 NVIDIA 在试图掌控从 GPU 到存储介质的完整垂直栈。
3.2 CMX / ICMS:KV Cache 的专用存储平台
来源:NVIDIA 官方页面(nvidia.cn/data-center/ai-storage/cmx/)+ NVIDIA 新闻稿 2026-03-16
ICMS(Inference Context Memory Storage Platform)在 2026 GTC 上正式升级为 NVIDIA CMX™ 上下文记忆存储品牌,面向长上下文、多轮次和代理式 AI 推理的 AI 原生上下文层。
核心架构由三个组件构成:
| 组件 | 角色 | 关键规格 |
|---|---|---|
| BlueField-4 DPU | 存储处理器 | 双 die 封装:64 核 Grace CPU + 集成 ConnectX-9 网络芯片。管理 NVMe SSD,卸载 KV Cache 数据完整性和加密 |
| DOCA Memos SDK | KV Cache 管理软件 | 提供简单键值 API,将以太网连接的闪存转变为 Pod 级缓存层。硬件加速完整性验证和加密 |
| Spectrum-X 以太网 | RDMA 网络 | 先进拥塞控制、动态路由、无损 RoCE,尾延迟波动 <5μs |
STX 参考架构(Storage-Next 的产品化)性能目标:Token 吞吐最高 5x、能效最高 4x、数据摄入 2x。早期采用者:CoreWeave、Crusoe、Lambda、Mistral AI、Oracle Cloud、Vultr。存储合作伙伴已扩展到 17+ 家。
Micron 在 FMS 2026 明确提到:"sessions become multi-turn or agentic, KV cache size expands rapidly"。KV Cache 已是有独立生命周期的持久化对象,会话结束后可能被保留用于 prefix 复用,多个 Agent 可能共享同一段 KV Cache,读写模式是随机与顺序混合。
NVIDIA 为 ICMS 拉入的存储厂商阵营:
AIC、Cloudian、DDN、Dell、HPE、Hitachi Vantara、IBM、Nutanix、Pure Storage、Supermicro、VAST Data、WEKA
12 家以上,几乎所有一线企业级存储公司。
3.3 铠侠三条产品线
| 产品线 | 定位 | 关键技术 | 时间线 |
|---|---|---|---|
| GP Series | Storage-Next | XL-FLASH Gen2、PCIe 6.0、10M IOPS @ <25W | 2026 评估样品 |
| GP Series 演进 | Storage-Next 下一代 | XL-FLASH Gen3、PCIe 7.0、~100M IOPS | 2027 |
| CM Series | ICMS / KV Cache-Reuse | 面向 KV Cache 低延迟 SSD | 2026-2027 |
| LC Series | RAG 向量检索 | 向量数据库工作负载优化 | 2026-2027 |
XL-FLASH 是什么?铠侠基于 BiCS FLASH 3D 技术的存储级内存(SCM),填补 DRAM 和传统 NAND 之间的性能缺口。关键规格:16-plane 架构(传统 NAND 通常 4-8 plane),裸介质读取延迟 <5μs,SLC/MLC 模式,第二代已量产。已产品化为 FL6 系列 SSD:1.5M random read IOPS,SSD 端到端读取 29μs(含控制器、FTL 和 PCIe 协议栈开销,裸介质延迟 <5μs),写入 8μs,60 DWPD,800GB-3.2TB(数据来源:铠侠官网 FL6 产品规格页)。
XL-FLASH Gen2 的 10M IOPS @ <25W:不显著增加功耗前提下,单盘 IOPS 提升一个数量级。Emulator 进展:Phase 1(2025年8月)在 GH200 上生成 140M IOPS;Phase 3 运行在 SCADA 上(需 GH/GB 系统;x86 平台受限于 PCIe TLP 处理吞吐和中断处理开销,单 host IOPS 上限约 10-15M,无法达到 100M)。Gen3 的 100M IOPS 直接对标 Storage-Next 的 200M IOPS/GPU 目标(指每 GPU 连接的存储子系统聚合 IOPS,不是单盘数字,需多条 NVMe SSD 聚合)。
3.4 判断:GPU 厂商在定义存储层
对存储厂商:NVIDIA 的 AI 工厂采购模式是"参考架构"驱动的。它定义好从 GPU 到网络到存储的完整 BOM,客户按参考架构采购。如果不跟进 Storage-Next/ICMS 规范,意味着不在 NVIDIA 的参考架构供应商名单上。CoreWeave、Crusoe、Lambda 这些 NVIDIA 的大客户会优先从名单内采购。这不是理论推断。NVIDIA 过去在 GPU 网络领域用同样的模式把 Mellanox/InfiniBand 做成了 AI 集群的事实标准,存储领域的 ICMS 阵营已经有 Dell、HPE、IBM、Pure Storage 等 12+ 家厂商加入,说明市场判断跟进的收益大于独立的风险。
对 SSD 控制器厂商:512B 粒度和 200M IOPS 要求控制器从架构层面重新设计——这不是换一个更大的 DRAM buffer 或调高 GC 线程优先级能解决的,需要 FTL 的映射粒度从 4KB 改到 512B,FEC 从 4KB 块改为分层纠错。芯片流片周期 12-18 个月,现在不开始就赶不上 2027 的采购窗口。
对用户:Agent 基础设施采购决策可能进一步向 NVIDIA 生态靠拢。
更深层:GPU 厂商定义存储规范,意味着存储行业话语权正在转移。过去是 SNIA 定义标准,各厂商跟进。现在 NVIDIA 用 GPU 生态影响力直接绕过传统标准化组织,拉着自己的存储厂商阵营走。传统存储巨头不加入,就可能被边缘化。
四、SSD 控制器的 Agent 时刻
IO 粒度从 4KB 到 512B,对 SSD 主控厂商来说,是 NAND 物理架构和纠错算法层面的根本改变。
4.1 FEC 架构的挑战
SSD 的 FEC(前向纠错)通过冗余编码(通常是 LDPC 码)纠正 NAND 读写过程中的比特错误。传统 FEC 最小处理单元是 4KB,匹配 NAND 物理页大小。
FMS 2026 上 Microchip 指出:AI 工作负载的 512B-1KB 粒度与 4KB FEC 块之间存在根本矛盾。Microchip 提出的方案是 novel block structure + 多层解码:
- Fast small block reads:高信噪比页面用轻量级硬判决解码(hard-decision),只检查奇偶校验位,延迟极低。
- Hard-decision fallback:硬判决失败时升级到软判决解码(soft-decision),多次读取和迭代。
- Multi-read soft decoding:极端情况做多次读取 + 软信息融合 + LDPC 迭代解码。
核心思想:不是每个 512B 块都需要完整的 4KB 级纠错,分层解码让大部分小块读取走快速路径,只有少部分触发重量级纠错。
4.2 群联 NN-LDPC:神经网络辅助纠错
群联在 FMS 2026 的演讲中展示了更激进的方案:用神经网络辅助 LDPC 纠错。
传统 LDPC 解码使用固定的迭代算法和固定的置信度传播规则。但这些规则是在"通用错误模式"下优化的,不是针对特定 NAND 闪存的错误特征。群联的思路:用 DNN 学习特定 NAND 芯片的错误分布,动态调整解码策略,在 512 字节小块场景下实现极低延迟纠错。
这是 NVIDIA Storage-Next-ready 的控制器方案,群联明确将其定位为面向 Storage-Next 架构的产品。
4.3 铠侠 DNN-based Read Flow
铠侠在 FMS 2026 的另一场演讲(Ballroom F,Flash Technology Track)中展示了 DNN-based Read Flow:用深度神经网络逐行动态调整 NAND Flash 读取阈值。
传统方案:全局统一的读取阈值电压(reference voltage)。但不同区域、不同磨损程度、不同温度下的最优阈值是不同的。铠侠用 DNN 逐行学习最优阈值,替代全局统一参数。
信号:AI 不只是存储的"消费者",AI 正在改造存储控制器本身的固件设计。SSD 主控的差异化竞争维度正在从"谁容量大、谁带宽高"转向"谁在 512B 小块场景下 IOPS 更稳、纠错更强、p99 更低"。
4.4 Agent 工作负载下的 SSD 新约束
Agent 场景对 SSD 主控提出了几个新的优化约束:
| SSD 组件 | 传统优化方向 | Agent 场景的新要求 |
|---|---|---|
| FTL(Flash Translation Layer) | 顺序写优化 | 随机写场景的 WAF(写放大因子)控制 |
| DRAM Buffer | 大块预取 | 小文件缓存和热点识别 |
| GC(垃圾回收) | 后台批量 GC | 低延迟前台 GC(Agent 不能容忍 GC 引起的延迟尖峰) |
| OP(预留空间) | 固定比例 | Agent 场景可能需要更大 OP 来控制 WAF |
| FEC | 4KB 块统一纠错 | 512B 分层纠错 + NN 辅助 |
这些不是调参能解决的,需要控制器架构的重新设计。原因在于:FTL 的映射表(LBA → PBA)以 4KB page 为最小粒度,改成 512B 意味着映射表条目增加 8 倍,DRAM 占用从典型 1GB/1TB 涨到 8GB/1TB。这要么需要更大的 FTL DRAM,要么需要改用多级映射(增加查找延迟)。FEC 的奇偶校验矩阵也是按 4KB 设计的,512B 纠错需要新的编码方案。这些都是芯片和固件层面的结构性改动。
当前成熟度判断:上述三项技术(Microchip 512B FEC、群联 NN-LDPC、铠侠 DNN Read Flow)都处于工程验证阶段。群联的 NN-LDPC 已有 silicon 演示(基于 FMS 演讲内容推断),Microchip 的分层 FEC 架构有仿真数据,铠侠的 DNN Read Flow 仍在实验阶段。距离量产可能还需要 12-18 个月,但方向已经明确:SSD 控制器正在从"通用信号处理器"变成"AI 辅助的专用信号处理器"。
五、KV Cache:从数据结构到存储对象
KV Cache 的演进是理解 Agent 存储架构变革的最佳切入点。它的角色变化折射出整个行业对"推理状态管理"认知的根本转变。
5.1 三个阶段
阶段一:KV Cache = 推理引擎内部数据结构(2023-2024)
vLLM 的 PagedAttention 把 KV Cache 当作"GPU 显存内的虚拟内存"来管理,消除碎片化、提升并发。此时 KV Cache 100% 在 HBM 里,存储行业完全不关心。FMS 2024:零提及。
阶段二:KV Cache 溢出压力(2024H2-2025H1)
上下文窗口从 32K 膨胀到 128K 甚至 1M。以 Llama 2 70B 为例(GQA,8 KV heads,head_dim=128),FP16 下每 token KV Cache 约 320KB;128K 上下文单请求约 40GB,1M 上下文达 320GB(FP8 量化后约 160GB)。GPU HBM 80-192GB 容量远远不够。
第一反应:量化压缩(FP8 KV Cache)。第二反应:CPU offload。第三反应:往 SSD 推。这些还都在"引擎内部"解决。
阶段三:KV Cache 变成系统级存储对象(2025H2-2026),转折点
当 Prefix Cache 出现,系统发现多个请求共享相同前缀(system prompt、长文档)时,KV Cache 变成了可复用资产。这立刻引出三个存储系统级问题:
- 命名:怎么标识一段 prefix KV Cache?
- 寻址:它在 HBM、DRAM 还是 SSD 上?怎么在需要前搬运?
- 生命周期:什么时候驱逐?跨节点怎么共享?
KV Cache 在这一刻从数据结构变成了存储对象。FMS 2026 用 7 场主题演讲讨论 KV Cache,不是空谈。
5.2 SanDisk:KV Cache 复用的真正复杂度
FMS 2026 上 SanDisk 的演讲揭示了 KV Cache 复用远比"前缀匹配"复杂。现有系统只支持最长前缀匹配(longest prefix match),但实际工作负载中大量存在:
- Partial overlap:两段 KV Cache 中间有部分相同
- Shifted overlap:相同内容出现在不同偏移量位置
- Suffix overlap:结尾部分相同
- Mid-span overlap:中间某一段相同,首尾不同
这些场景在 conversational AI、RAG、templated prompts 中非常普遍。
SanDisk 提出三层索引架构来解决任意复用检测。先理解为什么传统最长前缀匹配不够:在对话 AI 中,用户 A 和用户 B 的 system prompt 相同(前缀复用),但各自的对话历史不同。在 RAG 场景中,不同请求可能引用同一份文档但提问不同(中间一段 KV Cache 相同)。在模板化 prompt 中,few-shot examples 可能只是顺序不同(shifted overlap)。这些场景的共同点是:可复用的 KV Cache 片段不在头部。
三层架构的推理过程:
| 层 | 技术 | 作用 |
|---|---|---|
| 第一层 Segment tree | 将 KV Cache 切成固定大小的段,按段的 hash 建树 | O(log n) 快速定位"这段 KV Cache 是否有已知重复" |
| 第二层 Rolling hashes + Prefix/Suffix tries | 滑动窗口 hash 可以检测任意偏移量的重复;前缀/后缀 trie 分别匹配头部和尾部重叠 | 精确匹配 partial/shifted/suffix/mid-span overlaps |
| 第三层 Coarse block hash | 对大块 KV Cache 做粗粒度 hash 校验 | 验证候选复用区间的数据完整性,防止 hash 碰撞 |
三层过滤的设计逻辑是"先粗筛再精匹配":第一层 segment tree 在 O(log n) 时间内排除大部分不可能有复用的段;第二层做精确的位置匹配,只对第一层筛出的候选段做操作;第三层做最终校验。效果:30% 降低 prefill 延迟,2× KV 复用——这个数字意味着三分之一的新请求可以从已有 KV Cache 池中找到可复用片段,避免重复计算。
5.3 Micron:实测数据
Micron 在 FMS 2026 分享了 KV Cache offload 的实测数据(measured evidence,不是 PPT):
- KV Cache 定义为"attention memory LLMs build during prefill"
- 明确提到 "agentic sessions" 导致 KV Cache 膨胀
- KV Cache IO 模式是"随机和顺序混合"
- 分层内存系统 + 低成本快速持久存储层可以实质性改善性能和 CapEx 回报
这是少数几场有实测数据的演讲。Micron 的措辞值得注意,drive-level 优化针对 KV Cache IO 的混合访问模式,说明 SSD 厂商已经开始在固件层面适配 Agent 工作负载。
六、长时运行 Agent 的五种架构模式
Agent 从"单次问答"走向"长时运行"(long-running),状态持久化成为核心挑战。以下五种模式代表了当前的解决方案空间。
模式 1:Checkpoint-and-Resume
核心思路:定期将 Agent 状态写入持久存储,崩溃后从最近 checkpoint 恢复。
实践:例如每处理 30 份文档落一次盘。Agent 执行 1000 步任务时,最多丢失 30 步的进度。
状态持久化策略:周期性全量快照。每次 checkpoint 是 Agent 完整状态的序列化(context + plan + intermediate results)。
优劣势:简单直接;但 checkpoint 间隔是性能和安全性的 trade-off,太频繁影响吞吐,太稀疏丢失进度多。全量快照在高频场景下产生大量写入。
模式 2:Delegated Approval(Human-in-the-Loop)
核心思路:Agent 在关键决策点暂停,等待人类审批后继续。
状态持久化策略:在暂停点冻结状态,持久化到外部存储。人类审批通过后解冻。
优劣势:安全性高,适合高风险场景(金融交易、代码部署);但人类审批是同步阻塞,会显著拉长 Agent 任务执行时间。需要状态在冻结期间不失效。
模式 3:Session-as-Event-Log
核心思路:见路线 4(Anthropic 模式)。Agent 状态即"历史事件序列"。当前状态 = 从起始点重放所有事件的结果。
状态持久化策略:Append-only event log + 周期性 checkpoint(用于快速恢复,不是唯一真源)。
优劣势:崩溃恢复简单(重放日志);天然审计(日志即记录);但长会话的日志体积会线性增长,replay 时间也会增长。
模式 4:Sandbox Isolation
核心思路:Agent 的每次工具调用在独立沙箱中执行。
代表实践:E2B(开源 Agent 沙箱平台,冷启动数据来自 E2B 官方文档)、腾讯 Agent Runtime(60ms 冷启动沙箱,数据来自腾讯云 2026 年技术分享)、Anthropic Managed Agents(每次 tool call 一个全新 microVM)。
状态持久化策略:沙箱本身无持久化。执行结果被序列化后写回外部存储(通常是 event log 或 checkpoint)。沙箱只负责计算隔离,不负责状态保持。
优劣势:安全性极高(沙箱用完即焚);弹性好(无状态实例可任意调度);但沙箱启动开销是关键约束。腾讯做到 60ms 冷启动,E2B 也在百毫秒级别,Anthropic 的 microVM 方案延迟数据未公开但 p50/p95 首 token 延迟改善显著。
模式 5:Google Agent Runtime(7 天状态保持)
核心思路:Agent Runtime 在服务器端保持 Agent 进程持续运行最长 7 天,状态在内存中保持,不需要每次从头恢复。(7 天上限来自 Google Cloud 2026 年 Agent Engine 文档。)
状态持久化策略:运行时内存保持 + 后台定期持久化。介于纯内存和纯日志之间。
优劣势:延迟最低(不需要 checkpoint 恢复)。但 7 天内存占用是实打实的成本。Google 必然有调度策略来处理空闲 Agent(推测是后台自动持久化后释放内存),不会让资源真的空等 7 天。适合高价值长时 Agent,不适合大规模低成本场景。
五种模式对比
| 模式 | 状态存储 | 崩溃恢复速度 | 隔离性 | 适合场景 |
|---|---|---|---|---|
| Checkpoint-Resume | 周期性全量快照 | 中(从最近 checkpoint) | 弱 | 批处理 Agent |
| Delegated Approval | 冻结点持久化 | 快(解冻即恢复) | 中 | 高风险决策 Agent |
| Session-as-Event-Log | Append-only log | 中(重放日志) | 中 | 通用 Agent |
| Sandbox Isolation | 外部存储 | 快(无状态恢复) | 极强 | 代码执行 Agent |
| Google Agent Runtime | 内存 + 后台持久化 | 极快(内存未丢) | 中 | 高价值长时 Agent |
七、AIOS:Agent 操作系统的学术探索
如果 Agent 需要一个操作系统,那这个 OS 长什么样?AIOS(Agent IO System)论文给出了一个概念架构。
7.1 核心架构
AIOS 的设计直接类比传统操作系统,但每一个组件都针对 Agent 工作模式重新设计:
| 传统 OS 组件 | AIOS 对应 | 核心差异 |
|---|---|---|
| 进程调度器(Scheduler) | Agent Scheduler | 调度对象是 Agent 的推理步骤 |
| 内存管理(Memory Manager) | Context Manager + Memory Manager | 管理的不只是 RAM,还有 context window 和外部记忆 |
| 文件系统(File System) | Storage Manager | 管理的不只是文件,是 Agent 状态和数据 |
| CPU | LLMCore | 推理引擎是新的"处理器" |
| 设备驱动(Device Driver) | Tool Manager | 工具是 Agent 的"外设" |
核心组件:
- LLMCore:管理底层 LLM 推理引擎的调度和资源分配。类似传统 OS 对 CPU 的管理,上下文切换、时间片分配、优先级调度。
- Agent Scheduler:决定哪个 Agent 在什么时候获得推理资源。多 Agent 并发时,调度器需要平衡延迟、公平性和吞吐。
- Context Manager:管理 Agent 的 context window,什么内容在窗口内、什么在窗口外、什么时候做什么内容进入或离开。这本质上就是虚拟内存管理。
- Memory Manager:管理 Agent 的长期记忆,超出 context window 的历史信息如何存储、索引和检索。
- Storage Manager:管理 Agent 的持久化状态,checkpoint、event log、工具调用结果。
- Tool Manager:管理 Agent 可用的工具,注册、发现、权限控制、调用执行。
7.2 与传统 OS 的根本差异
AIOS 的类比很有启发性,但也有几个根本差异需要注意:
调度粒度不同:传统 OS 调度的是指令流(微秒级时间片),AIOS 调度的是推理步骤(秒到分钟级)。调度开销本身可能不可忽略:如果推理本身只需约 500 毫秒(70B 级别模型、4K token 输入的参考量级),而 Agent 切换调度需要 50-100 毫秒(Agent 状态保存、context window 重载、工具连接重置),开销比就达到了 10-20%。
"内存"语义不同:传统 OS 的内存管理基于固定大小的页(4KB),AIOS 的 context 管理面对的是变长的语义片段。不能简单套用页面调度算法。
"文件"的生命周期不同:传统文件一旦创建就持久存在直到被删除。Agent 的很多状态是中间产物,有效期内有用,过期后就是垃圾。AIOS 需要内置的状态生命周期管理,不能依赖用户手动清理。
7.3 局限性
AIOS 目前是概念验证阶段,开源在 github.com/agiresearch/AIOS。它的价值不在产品级实现,在于提供了一个系统性的框架来思考"Agent OS 应该长什么样"。这个框架对后续的技术发展有参考意义,即使最终的工业实现可能和论文完全不同。
八、产业格局:谁在做什么
Agent 存储架构的变革正在重塑存储产业的价值链。不同类型的玩家从不同角度切入,每类的动机和能力边界不同。
8.1 存储系统巨头
代表:Dell、Pure Storage、NetApp、VAST Data、IBM
核心动机:从"训练时代的盒子"升级为"Agent 工作流平台"。
动作:Dell 和 Pure Storage 已加入 NVIDIA ICMS 阵营。VAST Data 在做数据治理一体化方案,不只是存数据,还要管理数据的生命周期、血缘、权限。IBM 除了加入 ICMS,还在推 Cognitive File System。
真实进度:数据治理一体化方案已交付,但 Agent 场景部分偏早期。这些巨头的优势是渠道和客户关系,劣势是软件迭代速度。
8.2 SSD / 主控厂商
代表:Samsung、Kioxia、Phison(群联)、Micron、SanDisk、Microchip
核心动机:Agent 随机 IO = IOPS 新卖点。从带宽竞争转向延迟和 IOPS 竞争。
动作一览:
| 厂商 | FMS 2026 关键动作 | 方向 |
|---|---|---|
| 群联 | NN-LDPC + Storage-Next 控制器 | 神经网络辅助纠错 |
| 铠侠 | 三条产品线 + DNN Read Flow | 介质 + 主控双线 |
| Micron | KV Cache offload 实测数据 | 系统级 KV Cache 优化 |
| SanDisk | KV Cache 通用复用索引 | 精细复用算法 |
| Microchip | 512B 级 FEC 架构 | 底层块结构重新设计 |
判断:SSD 主控厂商的差异化竞争维度正在转移。过去比谁容量大、带宽高,现在开始比谁在 512B 小块场景下 IOPS 更稳、纠错更强、p99 更低。这给了群联这样的主控专业公司弯道超车的机会。
8.3 GPU 厂商
代表:NVIDIA
核心动机:存储生态主导权。把存储拉进自己的推理全栈。
动作:Storage-Next + ICMS + SCADA 软件栈。NVIDIA 在做的不只是定义存储规范,是在定义"AI 推理时代的数据中心架构"。GPU、DPU、网络、存储,全栈。
8.4 Agent 平台
代表:Anthropic、Google
核心动机:Runtime 级状态管理。Agent 的状态管理不应该由应用层负责,应该是 Runtime 的内置能力。
动作:Anthropic 的 Managed Agents(Session-as-Event-Log + microVM Sandbox)已在生产环境运行。Google 的 Agent Runtime 支持 7 天状态保持。
判断:Agent 平台公司在做存储系统公司该做的事:状态管理。传统存储公司没有能力也不应该去做 Agent 级别的状态管理。最终形态可能是 Agent 平台做状态管理抽象,底层调用存储系统厂商提供的基础设施。
8.5 中国
代表:腾讯 Agent Runtime
动作:60ms 冷启动沙箱。这个数字值得注意,如果 Agent 的每次 tool call 都需要启动沙箱,60ms 的冷启动意味着单次 tool call 的沙箱开销可以接受(对比 Anthropic 的 microVM 方案,延迟改善数据间接印证了类似的量级)。
中国存储厂商的位置:在 FMS 2026 的 ICMS 阵营中没有看到中国存储厂商的名字。这不意味着中国厂商没有参与 Agent 存储的机会——中国市场有全球规模最大的开源模型推理部署(DeepSeek、Qwen、GLM 等的推理服务覆盖数亿用户),这些推理服务正在快速演化出 Agent 化的工作负载,市场需求是实打实的。但在标准定义和生态主导权层面,中国厂商目前是跟随者。
九、判断与风险
9.1 已经在发生的
KV Cache 从引擎内数据结构变成跨层级存储对象。Prefix Cache 的出现是分水岭。NVIDIA 的 ICMS、Micron 的实测数据、SanDisk 的复用索引,这些都通过了产品级验证。FMS 2026 用 7 场演讲讨论 KV Cache 不是空谈。
SSD IO 粒度正在改变。Microchip 的 512B FEC 提案、群联的 NN-LDPC、铠侠的 DNN Read Flow,这些都是芯片和固件级别的工程实现。
Agent Runtime 的状态管理模式正在收敛。Anthropic 的 Session-as-Event-Log + Sandbox 模式已经在生产环境运行,Google 的 7 天状态保持也在运行。腾讯做到 60ms 冷启动沙箱。模式在收敛,不是发散。
9.2 正在被讲述但尚未完全发生的
Cognitive File System。IBM 的提案方向正确,但从 FMS 议程到生产部署有很远的距离。目前放在 Computational Storage Track,说明行业关注度还有限。
NVIDIA Storage-Next 全面落地。规范已定义,合作伙伴已就位,铠侠的 GP Series 2026 年才出评估样品。从规范到大规模部署通常需要 2-3 年。
CXL 在 Agent 场景的大规模部署。技术逻辑成立,CXL 2.0 协议层事务延迟约 20-40ns(对比 PCIe 5.0 约 100ns),含 root complex 开销的端到端延迟约 170-250ns。字节寻址,load/store 语义。NVIDIA Vera CPU 已原生支持 PCIe Gen6 / CXL 3.1(88 核 Olympus,1.5TB LPDDR5X,NVLink-C2C 1.8TB/s),CPU 端成熟这个前提正在被满足。但 Agent 框架的 CXL-aware 数据放置策略仍然缺失,仍需 1-2 年验证。
9.3 风险
Capex 回调风险。分析师 Jim Handy 在 FMS 2025 上对超大规模数据中心资本支出不可持续的警告仍然有效。如果 AI 基础设施投资在 2026 下半年进入回调期,Agent 存储叙事可能经历"PPT 先行、部署滞后"的尴尬窗口。
Agent 部署的实际节奏。目前 Agent 在生产环境的部署规模远小于推理(inference),大量 Agent 还在 POC 阶段。存储行业的 Agent 叙事热度可能领先于实际部署需求 1-2 年。
标准化碎片。NVIDIA 用 Storage-Next + ICMS + SCADA 定义自己的标准。IBM 推 Cognitive File System。SNIA 在推 Computational Storage 标准。如果没有统一标准,存储厂商可能面临"选哪个阵营"的困境,增加市场碎片化。
NVIDIA 生态锁定。如果 NVIDIA 成功定义了从 GPU 到存储介质的完整栈,用户的选择空间会被压缩。今天选择 NVIDIA 存储生态,明天退出成本可能极高。
十、结尾:从"一切皆文件"到"一切皆上下文"
Unix 在 1969 年提出"一切皆文件"。这个设计哲学极为成功,它提供了一个统一的接口来访问文件、设备、网络、进程信息。半个世纪以来,几乎所有操作系统都采用了某种形式的"一切皆文件"。
但 Agent 不是 Unix 的用户。
Agent 不需要路径,需要内容。不需要文件名,需要模式。不需要目录,需要相关性。Agent 的工作模式,持续观察、多步推理、工具调用、状态追踪,和人类用户的信息消费方式根本不同。
从"一切皆文件"到"一切皆上下文",这是信息管理范式的迁移。
这个迁移正在以多条路线并行推进:Anthropic 用事件日志和 microVM 绕过了文件系统;IBM 试图从内核改造文件系统本身;NVIDIA 用 GPU 的生态影响力定义新存储层;学术研究者提出了"一切皆上下文"的理论框架。
这些努力的方向是同一个:让存储系统理解它存储的数据,让 Agent 高效地消费它需要的信息。
当 Karpathy 说 LLM 是 CPU、context window 是 RAM 时,他少说了一句:每个 CPU 都需要一个操作系统来管理它的 RAM。Agent 的操作系统正在被发明。它可能不叫"操作系统",不长得像 Linux,甚至不是今天任何一家公司的产品。但它会出现。
因为问题就在那里。谁管理 Agent 的 RAM?谁决定什么进出?当 Agent 停止运行,它的记忆保存在哪里?
它会出现,而且可能比预期更快,因为 GPU 厂商、存储厂商和 Agent 平台已经在分头建造它的不同部件。
信息来源
一手来源(FMS 2026 官方议程):
- Session: "Hierarchical Span Indexing for Generalized KV Cache Reuse" — SanDisk (Vishwas Saxena, Mukesh Kumar)
- Session: "Optimizing KV Cache Offload for Scalable, Cost-Efficient AI Inference" — Micron (Rohan Mehta)
- Session: "SSD Error Correction Optimization for AI Workloads" — Microchip (Peter Graumann)
- Session: "Enabling Ultra-High-IOPS Storage-Next SSDs with AI-Enhanced LDPC" — Phison (Sean Lin)
- Session: "Cognitive File System" — IBM (Viacheslav Dubeyko)
- Session: "DNN-based Read Flow for NAND Flash Controllers" — KIOXIA (Eyal Nitzan)
- Session: "Fixed Function Compute Standardization" — KIOXIA (Devesh Rai)
- Session: "Enhancing Enterprise Drive Reliability by Joint LDPC & XOR Decoding" — SanDisk (Alex Bazarsky)
- Session: "High-Density SSD Design in Supply-Constrained Deployments" — Solidigm (Tahmid Rahman)
- FMS 2026 官方议程:https://www.terrapinn.com/conference/future-memory-storage/agenda.stm
企业公开信息:
- NVIDIA Storage-Next / ICMS / SCADA:铠侠 FMS 演讲材料
- Anthropic Managed Agents:Anthropic 官方技术文档
- 铠侠 GP Series / CM Series / LC Series:铠侠产品路线图
- IBM Cognitive File System:Viacheslav Dubeyko, "File System in Data-Centric Computing," arXiv 2019;FMS 2026 提案
行业信号:
- LlamaIndex: "Files Are All You Need"(Jerry Liu 公开演讲)
- LangChain Agent 架构转向
- arXiv: "Everything is Context"
- AIOS: github.com/agiresearch/AIOS
分析参考:
- Jim Handy (Objective Analysis), "11 Key Changes Coming," FMS 2025
- 铠侠, "Optimizing AI Infrastructure Investments with Flash Memory," FMS 2025
- deephub: "Long-Running Agent Architecture Patterns"
趋势综述见姊妹篇《当存储变成 Agent 的工作记忆:FMS 三年风向迁移》。
不构成投资建议。数据截至 2026 年 7 月 17 日。FMS 2026 尚未召开(8 月 4-7 日),议程分析基于官方预览信息。NVIDIA CMX/STX 数据来自 NVIDIA 官方页面和 2026-03-16 新闻稿。铠侠 XL-FLASH/FL6 数据来自铠侠官网产品规格页。CXL 延迟数据来自 CXL 联盟规范及公开技术分析。Vera CPU 数据来自 NVIDIA developer blog(2026-01-05)。
