LLM新技术中的CS原型（零）
LLM新技术中的CS原型（零）：专题介绍
副标题：今天的 AI 系统问题，可能是昨天的计算机科学问题。
参考图：
0 前言
该专题由陈劲铧/杨万宏共同策划编写。该作品使用了AI工具编排与润色，但核心内容与理念都由两人共同分析总结。如对作品内容有疑问，联系方式如下：
陈劲铧：深圳大学24届计算机技术研究生。
杨万宏：深圳大学25届计算机技术研究生。
- 博客：
- 邮箱：
1 专题介绍
今天的 AI 系统问题，可能是昨天的计算机科学问题。
随着大模型逐渐从一个“生成模型”演变为完整的软件系统，Memory、RAG、Tool Calling、Agent、Workflow、Model Serving、Context Engineering 等问题接踵而来。与此同时，一个非常有意思的现象也越来越明显：当我们拆开这些系统的实现，会不断遇到一些熟悉的身影——文件系统、虚拟内存、数据库索引、查询优化器、编译器、调度器、缓存、RPC、类型系统、分布式一致性、回归、分类、Bandit、贝叶斯优化……这些原本属于计算机科学不同领域的经典思想，正在以新的形式进入 LLM 系统。
例如，Agent Memory 开始借鉴文件系统的层级组织方式；有限的 Context Window 可以用虚拟内存和缓存层级的视角重新理解；Tool Calling 与系统调用、RPC、ABI 等经典接口机制存在明显的结构对应；RAG 中的索引、检索、排序和查询规划，可以从数据库与信息检索的几十年积累中找到大量对应思想；Agent Workflow 又会重新遇到编译器中的中间表示、优化 Pass 和 Runtime；而模型路由、工具选择和 Agent 优化，则可能重新使用分类、回归、Bandit、贝叶斯优化等经典机器学习方法。
「LLM 新技术中的 CS 原型」关注的，正是这些“从经典 CS 到 LLM 系统”的技术迁移。
这里的“CS 原型”并不特指 Operating System。CS 本身就是一个庞大的知识体系：操作系统、数据库、编译原理、计算机网络、分布式系统、计算机体系结构、程序语言、信息检索、机器学习、算法与数据结构、优化理论、安全等，都可能成为 LLM 系统设计时可以借鉴的“原型”。我们关注的不是某一个具体领域，而是一个更普遍的现象：当 LLM 遇到一个新的系统问题时，过去几十年甚至更久的计算机科学知识中，是否已经存在一个可以迁移、改造或重新组合的解决思路？
因此，这个专题不会停留在“某个 AI 技术像某个 CS 技术”的概念类比，而是更侧重于具体的工具、框架、论文和工程实践。我们会寻找那些真正把经典 CS 思想带进 LLM 系统的案例，拆解它们究竟借用了什么原型、解决了什么问题、进行了哪些针对 LLM 的改造，以及这种迁移为什么有效。
更重要的是，我们希望从这些案例中反过来寻找新的技术启发路径。
如果 Agent Memory 可以借鉴文件系统，那么还有哪些操作系统机制值得重新审视？如果 RAG 可以借鉴数据库，那么 Query Optimizer、Transaction、Index、Cache、Execution Plan 是否还能为 Agent 提供新的架构思路？如果 Tool Calling 可以从系统调用和 RPC 中获得启发，那么 Capability、ABI、Sandbox、Fault Tolerance 又能否进一步迁移？如果 Agent Planning 与编译器存在相似之处，那么 IR、Optimization Pass、Runtime 和 JIT 是否能够成为下一代 Agent Infrastructure 的设计原型？同样，当一个 LLM 问题表现出“分类”“预测”“搜索”“调度”或“资源分配”的特征时，我们是否应该重新打开经典算法与机器学习的工具箱，而不是从零开始设计？
这也是本专题最核心的观察方式：
不要只问“LLM 还能发明什么”，也要问“过去的 CS 已经解决过什么，而这些解决方案还能不能被重新组合到 LLM 中”。
在这里，经典 CS 不是一套需要复习的历史知识，而是一座巨大的技术原型库（Prototype Library）。每一个成熟的抽象、数据结构、算法、系统机制和工程范式，都可能成为解决 LLM 新问题的一条候选路径。LLM 带来的真正变化，也许并不是让过去的知识失效，而是让我们第一次有机会把这些知识重新组合到一个具有语言理解、概率推理和自主行为的新型计算系统中。
因此，「LLM 新技术中的 CS 原型」会持续记录这样的技术迁移：从一个 LLM 问题出发，向经典 CS 寻找原型；从原型出发，观察它如何被重新实现；再从重新实现的过程中，寻找下一步可能的技术方向。
我们希望最终得到的，不只是一个“LLM 技术与 CS 技术的对应表”，而是一张可以不断扩展的知识迁移地图：
经典 CS → 问题抽象 → LLM 新问题 → 原型迁移 → LLM 特化 → 新的系统设计。
也许下一项值得研究的 LLM 技术，就藏在一个我们已经用了几十年的 CS 原型里。
2 编写规则与方法
首先界定本专题的写作边界。
它不采用「AI 系统与 CS 系统相似」这一类论点文章的形式。此类文章存在一个共同缺陷：类比本身具有天然的说服力，因而容易掩盖论证的缺失。任意两个足够复杂的系统之间都可以找出相似之处，而相似性本身不产生工程价值。
类比是一件趁手却危险的工具：它让读者感到顺畅，却不要求作者承担任何可被检验的主张。
自下一篇起，每一篇都以一个具体工具或具体技术为对象。对象须为可安装、可调用、可压测的实体，例如 vLLM、SGLang、MemGPT、MCP、DSPy、Outlines、LangGraph、GraphRAG 等。对每一个对象，提出同一组结构化问题：
它解决了什么问题？它从计算机科学的哪一部分取用了既有机制？取用的是一个名称、一套结构，还是一整套解法？为适配 LLM，该机制被改造成了什么形态，代价是什么？
以及最关键的一问：这一部分中尚未被取用的机制，还剩下哪些？
前若干问构成分析，最后一问构成联想。本专题的取向是：每篇文章不终止于「它是如何实现的」，而应推进到「据此还可以实现什么」。
2.1 选题范围
选题存在若干偏好，但不构成准入条件：
- 具备公开实现者优先。存在开源代码或公开工程设计，讨论可落到具体机制，而非停留于架构示意与宣传材料。
- 原型来源清晰者优先。能指认明确的经典来源，优于泛化的「受到启发」。
- 效果可度量者优先。迁移带来的收益可被测量，或至少可作严格的定性对比。
三项均不满足者亦未必无价值。部分工具的分析价值恰在于其「具备迁移条件而未发生迁移」，此类情形同样构成一篇完整的报告。
2.2 分析线索及其非强制性
下述线索是目前较为有效的组织方式：
1 | flowchart LR |
| 环节 | 所回答的问题 | 主要内容 |
|---|---|---|
| 工具现场 | 对象为何物，解决何种问题，效果如何 | 具体场景、失败表现与量级数据，避免仅作概念陈述 |
| 原型溯源 | 所取用的 CS 原型为何 | 回到原型的原始动机：其提出背景、所解决的问题及其代价 |
| 迁移解剖 | 具体取用了哪些内容 | 逐项对应，并判定此次迁移的深度（见第 3 节） |
| 特化与代价 | 为 LLM 作了哪些改造 | 对照阻抗失配清单，说明哪些条目被处理、哪些被绕过 |
| 联想推广 | 据此还可推进什么 | 沿三个方向展开的候选，尽可能附可被证伪的验证设计（见第 4 节） |
需要说明的是，上表是一条线索，而非必须填满的模板。不同对象的重心差异显著：部分工具的价值集中于原型溯源，其所取用的机制远比通常认知的更为古老；部分工具的全部张力集中于特化环节，原型所依赖的前提在 LLM 场景中并不成立，其补救方式即是核心贡献；另有一些对象自身设计平常，但沿其线索可推导出大片空白区域。遇此情形，本专题将依对象自身的重心组织行文，不强行补齐全部环节。
本专题更希望传递的是这一提问方式本身，而非上述段落结构。
判断一个专题是否达成目的，标准可以很简单：读者在遇到下一个新工具时，是否会自发地追问一句——它取用了什么，又还剩什么未被取用。
3 分析方法
在「迁移解剖」与「特化与代价」两个环节中，有两项判据反复适用：一项用于衡量迁移的深度，一项用于核对迁移的前提。二者均不复杂，亦不要求每篇全部使用。
3.1 迁移深度的判定：三类迁移
同一表述「Agent 的记忆类似文件系统」，其含义可能仅限于一种便于理解的说法，也可能意味着目录树、路径解析、索引节点、权限控制乃至一致性检查均可一并迁移。区分二者的判据如下：
若将原型抽离，该工具会失去什么？
1 | ┌─────────────────────────────────────────────┐ |
| 维度 | 概念迁移 | 架构迁移 | 问题迁移 |
|---|---|---|---|
| 取用内容 | 名词与思维框架 | 数据结构、模块划分、控制流 | 问题的形式化与整套解法集 |
| 判定问句 | 抽离类比后结论是否改变 | 能否写出逐项对应表 | 是否产生可证伪的指标 |
| 典型形态 | 「某某即操作系统」式表述 | 页表、基数树被原样移植 | 问题被重写为分类、控制图、文法识别 |
| 主要产出 | 研究议程与命名体系 | 可实现的系统设计 | 可验证的评价体系 |
| 常见失败 | 止于修辞，无法证伪 | 对应关系仅部分成立，不变量不再保持 | 形式化过度简化，丢失 LLM 的关键约束 |
三者并非互斥标签，而是同一次迁移可抵达的三种深度。多数技术自最外层起步：先形成一个便于理解的类比，类比促成结构，结构进一步促成形式化。
概念层并非没有价值。 将「上下文窗口容量不足」重述为「内存容量不足」之后，一组术语随即进入可考察范围：分页、换入换出、局部性、工作集、缺页中断、分级存储。命名在相当程度上决定了后续的问题空间。MemGPT 的早期贡献有相当部分在于此：它并未提出新的注意力机制，而是替换了问题的表述方式，并沿该表述系统检索了操作系统领域的既有机制。
重新命名一个问题，等同于为它换一间资料室。
问题层的效力最强，因其带来的不仅是设计方案，还包括可证伪的评价标准——后者恰为当前 LLM 工程中较为稀缺的部分。一个可供参照的实例：将「模型是否发生了未经披露的退化」重述为统计过程控制问题后，其形式即为一张休哈特控制图，控制限的取法、误报率的推导、是否要求连续两轮越界方可告警，均有成熟结论可用。据此以 μ − 2σ 为控制限并要求连续两轮越界才告警，可将年误报次数由约 9 次降至约 0.2 次。该结论并非试错所得，而是自原型推导所得。
关于标注，本专题采用如下区分：若原作在论文标题或官方文档中直接点明所取用的原型，注明为原作自述；若原作未作说明、但实现可逐项对应，说明该对应关系系由源码或公开设计推得；若属本专题提出且尚待验证的推断，明确标注为推断。
「作者声明取用了某原型」与「我们认为它取用了某原型」是两类不同的陈述，二者混用会使其后的全部联想失去分量。
3.2 迁移前提的核对：阻抗失配清单
经典原型建立在一组与 LLM 场景显著不同的假设之上。评估一次迁移的完成度，很大程度上即是考察下列条目中哪些得到了处理。
| # | 失配项 | 经典系统 | LLM 系统 | 迁移时通常需补充的机制 |
|---|---|---|---|---|
| 1 | 确定性 | 命中或缺页，信号精确 | 语义检索仅给出相似度排序，且模型通常无法判定自身知识的缺失 | 显式的失败检测机制 |
| 2 | 寻址方式 | 按地址寻址，代价恒定 | 按语义匹配，且位置影响效果，长上下文中部信息易被忽略 | 区分「容量可容纳」与「实际可利用」 |
| 3 | 成本结构 | 计算成本低，I/O 成本高 | 单次模型调用的成本可达单次向量检索的数百倍 | 重新核算预取、推测、冗余计算的收益代价比 |
| 4 | 接口契约 | ABI 为强契约，违约立即失败 | 工具契约以自然语言描述，模型仅以较高概率遵循 | 将编译期保证降级为运行期校验 |
| 5 | 状态可见性 | 进程状态可完整转储与恢复 | 内部状态无法完整序列化 | 接受原子性可迁移、可重复性不可迁移 |
| 6 | 隔离基础 | 由硬件特权级区分指令与数据 | 输入中不存在「指令位」 | 在架构层模拟本应由硬件提供的边界 |
| 7 | 测量噪声 | 同一输入下结果稳定 | 输出具随机性，任何指标均为带方差的估计 | 给出样本量与波动范围，否则无法区分「优化有效」与「单次波动」 |
该表无须逐条核对，其作用在于提供一组容易被忽略的考察角度。一次迁移的技术含量，通常正比于其所处理的失配条目数量。以 vLLM 为例，其面临的主要失配与第 6 条同源：GPU 上不存在可直接调用的内存管理单元，因此它在注意力算子内部自行实现了一套地址转换。
迁移的难点从不在于想到类比，而在于补上原型所依赖、而新场景并不提供的那个前提。
4 联想推广：由既有迁移推导未发生的迁移
若分析止于「特化与代价」，本专题即等同于一组较为细致的源码解读。其后的环节才是主要目的：将一次已完成的迁移作为样本，反推尚未发生的迁移。
推广沿三个方向展开。三者无须同时成立，单篇之中有一个方向可推进，即具备成立条件。
1 | ① 纵向推广 |
4.1 纵向推广：原型中尚未被取用的机制
一次成功的迁移通常不会完整移植整个原型，而只取用其中最核心的一至数项机制，其余部分并非无用，而是在当时尚不具备取用条件。
拆解一个货架通常只取走最趁手的那几件零件，其余仍整齐地留在原处。
以 vLLM 为例，它取用了分页、页表、写时复制三项机制。虚拟内存体系中尚未被此次迁移使用的机制至少包括：
| 未被取用的机制 | 在操作系统中的作用 | 在 LLM 系统中的可能对应 |
|---|---|---|
| TLB | 缓存地址转换结果，避免每次访存均查页表 | 块表查找自身的加速，在超长序列下尤为显著 |
| 大页 / 多级页大小 | 以碎片换取查表开销的下降，按负载分层选择 | 依序列长度分层选择块大小 |
| 按需调页与预取 | 预测即将访问的页并提前调入 | 预测下一段将被复用的前缀并提前物化 |
| 交换策略（CLOCK、二次机会） | 决定内存紧张时的换出对象 | KV 卸载至主存或 SSD 时的换出算法 |
| NUMA 与亲和性 | 依拓扑放置页，减少远端访问 | 多卡拓扑感知的块放置 |
| mmap 与共享映射 | 多进程共享同一份只读页 | 跨请求、跨实例共享只读的长前缀 |
上表每一行均构成一条候选路径。更重要的是，这些机制的设计权衡在操作系统文献中已有数十年的讨论积累，无须从零开始试错。
纵向推广的操作方式并不复杂：取原型所属领域的教材目录，逐节对照，逐节追问该节内容在新系统中的对应物；若暂无对应，则需判断是因其不必要，还是因其尚未被实现。该方式对读者同样适用，且成本极低。
一本操作系统或数据库教材的目录，本身就是一份现成的待办清单。
4.2 横向推广：同一机制在其他问题上的适用性
纵向推广沿原型纵深展开，横向推广则将同一机制移至其他问题。
其关键动作是将机制抽象为它所解决的问题形态。分页的问题形态可表述为「以一层间接索引，解决变长对象在定容空间中的分配」。抽象至该层面后，LLM 系统中符合此形态的问题不止 KV Cache：工具与技能定义占用上下文预算、长期记忆占用检索预算、多 Agent 共享工作区的容量分配，其形态均可对应。
分页机制能否适用，可由四个角色问题加以检验：
何者为页？何者为页表？由何触发换页？由何决定换出？
| 候选问题 | 何者为页 | 何者为页表 | 由何触发换页 | 由何决定换出 |
|---|---|---|---|---|
| 技能与工具加载 | 单个技能的正文 | 技能名与摘要构成的索引 | 模型读取摘要后的显式请求 | 近期未使用程度与调用频次 |
| 长期记忆 | 一条记忆或一个记忆簇 | 主题索引与向量索引 | 检索命中率低于阈值时 | 时间衰减与访问频次（待定） |
| 多 Agent 工作区 | 子任务的上下文切片 | 任务树 | 子 Agent 调度切换 | 由调度器决定（待定） |
第一行四个角色均可指认，因此「渐进式披露」一类机制实际上已构成一次成立的横向迁移；后两行存在空缺，而空缺所在的位置即为研究点所在的位置。这是横向推广较为实用的特性：它不仅指出方向，且能定位缺口的具体位置。
不同原型对应的角色问题各异。以缓存为原型时，对应问题为「何者为缓存行、何时失效、一致性由谁保证」；以事务为原型时，对应问题为「何为一次提交、回滚需撤销什么、并发冲突如何判定」。但方法一致：先将原型分解为若干必须有承担者的角色，再考察新问题中这些角色是否均有承担者。
4.3 反向推广：LLM 特化能否回流经典系统
该方向成立的概率最低，但一旦成立，价值最大。
仍以 vLLM 为例。由于缺少可直接调用的内存管理单元，它只能在应用层自行实现地址转换，其实质为一种用户态自管分页。而 LLM 推理的访问模式具有显著特殊性：以顺序追加为主，随机写极少，前缀重复率高。针对该模式设计的分配与共享策略，是否可回流至其他以追加为主的负载（日志系统、列式存储、流式计算），构成一个可独立考察的问题。
反向推广的自检标准较为明确：须指明 LLM 场景中的特殊约束具体为何，并判定该约束在经典场景中是否同样成立。 未能指明特殊约束的推断不构成反向推广。
4.4 联想有效性的自检
推广环节易滑向缺乏约束的设想。以下三项自问可用于排除此类情形：
- 角色是否可逐一指认。 能写出类似「何者为页、何者为页表」的逐项对应，表明该联想已具备可实现的形态；仅能给出「可以借鉴」的表述，则表明尚未成形。
- 在何种条件下该联想不成立。 尽可能给出三项内容：指标（须与动机直接对应——若动机为显存浪费，则应测量浪费率，而非仅测吞吐）、基线（迁移前方案在同一任务上的表现）、以及失效条件。缺少失效条件的技术论述，通常只是一次有效的宣传。
- 是否已被失配清单否决。 若被 3.2 节中的某一条目阻断，则需补充相应机制，或直接说明该路径不可行。
明确说明一条路径为何不可行，与走通一条路径具有同等价值：前者标定了类比的边界，而边界通常比中心更难获得。
上述三项既是本专题的自我约束，亦推荐读者采用。它们并非格式要求，而是防止作者被一个表述优美的类比所说服的最低成本手段。
5 结语
LLM 带来的真正变化，或许并不在于使既有知识失效，而在于首次提供了一种可能：将数十年积累的系统抽象，重新组合进一个具备语言理解、概率推理与自主行为能力的新型计算系统。
在该系统中，分页、索引、协议、类型、事务、调度、沙箱等机制均依然存在。变化的只是其外在形态、成本结构，以及一个不再具备确定性的执行主体。
本专题后续将逐一拆解这些工具，但期望留下的并非某一篇的具体结论，而是一种提问方式：面对一个新工具，先考察它取用了什么，再考察尚有什么未被取用。 该方式不依赖于本专题已拆解过哪些对象，读者手中正在使用的库、正在阅读的论文，均可立即作为对象试用一次。
下一项值得研究的 LLM 技术，可能并不在最新的论文列表之中，而在某个已被拆解、却仅取走了一半机制的货架上。
关于本专题
- 若你手中的某一工具明显取用了某项经典 CS 原型，欢迎点题；
- 若发现事实性错误、类比标注不当，或对文中某条尚未验证的推断已有实验结果，欢迎通过文首邮箱联系，勘误将直接更新至对应文章。
