AI 让软件性能优化不再昂贵

引言：AI 颠覆性能优化范式

过去，软件性能优化是一项高度专业化的昂贵工作，往往需要顶尖工程师花费大量时间进行微调。但如今，这种局面正在被 AI 彻底改变。文章作者 Dan Luu 指出，得益于大语言模型（LLM）和智能体技术，过去需要特殊团队才能完成的优化工作，现在任何人都能通过短短几句话的提示实现。这种转变不仅降低了成本，更让“为特定工作负载定制软件”成为可能。

从正则引擎到 JIT 编译器：FRE 的实践

作者以自己构建的 regex 引擎 FRE 为例，展示了 AI 如何快速实现针对性优化。FRE 通过一个智能体循环运行一个月，利用 rebar 基准测试套件不断改进性能。虽然初期对 rebar 过度拟合，但在加入保留基准后，智能体学会了泛化。最终，FRE 在长搜索任务上表现优异，其 AOT（提前编译）版本在复杂查询中取得了约 7% 的速度提升。

更令人印象深刻的是，作者仅用几分钟输入提示，就让智能体完成了一个实验：在 ripgrep 运行时，后台线程编译原生代码，然后动态切换，实现了 2 倍到 4 倍的性能提升（针对长查询）。这种“编译+切换”策略过去需要大量代码手术，如今却唾手可得。

索引构建：从“重大项目”到“周末工作”

作者提到，如果真正需要加速文本搜索，最直接的办法是建立索引——这曾经是大型项目（如微软的 BitFunnel 搜索引擎索引）的核心工作。BitFunnel 的 Bing 版本包含多个 JIT 编译器，其优化程度曾是重大工程。但现在，作者认为类似工作已经可以用“一个周末”完成。虽然对于个人用户来说，一个更快的 ripgrep 加上现成索引就足够了，但对于 AI 实验室来说，构建针对整个磁盘的快速索引已成为可行的“读者练习”。

游戏 AI：优化成本降低带来的碾压性优势

作者亲身体验了 AI 在游戏 AI 优化上的威力。他尝试构建 Azul 游戏 AI，结果在几乎没有领域知识的情况下，仅用一台笔记本电脑，通过多轮 LLM 驱动的重写，就获得了世界最强 AI——比第二名强出一大截。关键因素在于优化：多线程化、不同搜索架构（minimax 和 MCTS）、以及大量的调试重放日志。

过去，实现一个多线程算法需要数天到一周的手工调试，而智能体可以自动循环重放日志、插入非确定性日志记录，直到完美复现。这种“枯燥但必须”的验证工作，如今完全由 AI 代劳。作者强调，在游戏 AI 中，每翻倍速度就能获得约 100 Elo 分（比国际象棋更多，因为平局极少）。叠加十几项过去“太麻烦”的优化，最终 AI 的强度远超手工编写。

性能优化成本的骤降：从“是否值得”到“放手去试”

作者基于自身经验，对比了过去和现在做优化决策的方式。过去，面对一个可能带来 2% 提升的优化，工程师需要评估“N 人天”的验证成本；现在，这个成本降低了 1000 倍甚至更多（在人类时间维度上，如果考虑美元成本，从 Bing 工程师的 JIT 编译器到 token 计费，也是千倍级）。这使得大量过去“不值得”的优化变得合理。

同样，对于不确定能否成功的优化，过去需要“M 小时”来实现并测量，现在也可以轻松尝试。作者引用 Jamie Brandon 的案例：在 Anthropic 的性能面试题中，Claude 的优化结果远好于人类——“有些优化疯狂到除非你花几周时间，否则绝不会尝试”。

结论：为特定工作负载定制的软件时代

文章最后呼应 Marc Brooker 的评论：动态定制软件，针对特定工作负载而非一类工作负载，是必然趋势。作者认为，随着 AI 极大地降低了优化成本，这种趋势几乎不可避免。无论是正则引擎、游戏 AI 还是其他复杂系统，过去需要大量人力物力的针对性优化，现在可以快速实现。

当然，这种能力也带来新的风险：过度拟合特定基准、缺少泛化性、以及实验结果设计仍需要人类框架。但核心命题已经成立：软件变慢没有理由——因为优化现在太便宜了。

原标题：There's no reason for software to be slow anymore。 HN 原始发布时间：2026年8月22日星期六。当前记录为 648 分、489 条评论。

阅读原文 · 查看 HN 讨论