Mitchell Hashimoto:AI 工程 MTTR 陷阱

Mitchell Hashimoto 警告:AI 软件工程中的 MTTR 陷阱

HashiCorp 联合创始人 Mitchell Hashimoto 本周发表了一条在 AI 工程师圈引起强烈共鸣的长推文。他警告称,整个行业正深陷一种 "AI 精神病"——许多公司正在完全用 AI 驱动软件开发,而理性的技术对话已经变得不可能。

@mitchellh: "I strongly believe there are entire companies right now under heavy AI psychosis and its impossible to have rational conversations about it with them. I can't name any specific people because they include personal friends I deeply respect, but I worry about how this plays out."

Mitchell 将自己经历过的基础设施管理方式变迁——从 MTBF(平均故障间隔)到 MTTR(平均恢复时间)的思维转换——与当前的 AI 软件工程文化做了直接类比。云计算时代的教训是:当自动化让恢复变得容易时,人们开始容忍更高的故障频率,最终可能导致系统可理解性的丧失。他在 AI 代理编程领域看到了同样的模式在重演:公司可能正滑向 "MTTR 就是一切" 的心态——只要代理能快速修 bug,就敢于让代理快速产 bug——本地指标看起来很好,但全局系统的可理解性在持续退化。

另一位研究者 @random_walker 则从用户端补充了一个相关观点:AI 公司越想把产品包装成 "魔法精灵",用户的学习曲线反而越陡峭。隐藏推理轨迹、工具使用过程、中间输出和记忆状态,让用户更难建立准确的心智模型来判断什么任务适合委托给 AI。

@random_walker: "A big irony: The harder AI companies try to make their products feel like magic genies, the steeper the learning curve gets. Hiding the internals (reasoning traces, tool uses, intermediate outputs, memory, ...) makes it harder for users to build an accurate mental model."

Mitchell 的推文在该时段内是互动量最高的技术性帖子之一,它触及了当前 AI 工程文化的一个深层焦虑:在追求 "代理自主性" 的道路上,系统可观测性和长期可维护性是否正在被系统性地牺牲。

分类:🛠️ 工具/产品

本作品采用《CC 协议》,转载必须注明作者和本文链接
讨论数量: 0
(= ̄ω ̄=)··· 暂无内容!

讨论应以学习和精进为目的。请勿发布不友善或者负能量的内容,与人为善,比聪明更重要!