生成式 AI 是一场工程灾难
原文：Generative AI Is an Engineering Disaster 作者：Alex Reisner 日期：2026-07-14
编者按：本文是《大西洋月刊》AI Watchdog 系列调查的一部分，该系列持续追踪生成式 AI 行业。
当 AI 公司忙于维持系统运转时，它们正在让其他人的日子变得昂贵。像 ChatGPT 和 Claude 这样的大语言模型对资源的消耗如此之大，以至于科技公司可能正在买走全球 70% 的高端计算机内存，导致了短缺。结果，内存和存储价格飞涨：我两年前为报道买的硬盘每块 350 美元，两周前再看已经是 800 美元，现在直接断货了。一些笔记本电脑的价格上涨了 50%，低价电脑受到的影响最为严重。据一项预测，买得起的入门级电脑可能在「2028 年消失」。而且内存短缺预计将持续多年。
这些内存被装进了数据中心，而科技公司正在以惊人的速度扩建数据中心。他们计划在未来几年内将美国数据中心的总容量扩大八倍。这些设施的电力需求已经大到一些公司开始将喷气发动机改造为电源。
问题不仅仅是 AI 被部署得太广或太快。其他计算机技术也经历过类似的大规模增长，但并未引发如此剧烈的电力飙升或元器件短缺：视频和音乐在全球流媒体播放，每天产生数 TB 的互联网流量；智能手机的爆发需要制造数十亿台设备，如今这些设备在传输海量数据；数十亿家用设备也已成为物联网的一部分；整个行业都将业务迁移到了云软件上——这些云软件不真的在天上，而还是在数据中心里。
用行业的行话来说，生成式 AI 的问题在于它无法规模扩展（does not scale）。当风投评估初创公司时，从一千个用户增长到一百万个用户的成本是一个关键指标。他们希望看到的是：每增加一个新用户的成本随时间递减，这样公司才能支撑数百万用户并持续盈利。这需要经过精心的系统工程设计，让系统能高效处理更多用户——无论是发照片、叫 Uber 还是流媒体音乐。
但在生成式 AI 领域，构建高效、可扩展系统的工作还没做。而且问题因模型越做越大而雪上加霜——据独立机构的估算，AI 模型的参数量已从 2020 年的 1750 亿增长到今天的超过 1 万亿（驱动 Claude 和 ChatGPT 等产品的模型实际大小是保密的）。大语言模型中的「大」不该是什么卖点。但行业观察到更大的模型往往表现更好，这催生了一种对「扩展定律」（scaling laws）的图腾式信仰——认为只要把模型做得更大，任何问题都能解决。OpenAI CEO Sam Altman 去年 9 月在博客中写道：「也许有 10 吉瓦的算力，AI 就能想出怎么治愈癌症。」
然而，回报正在递减。AI 模型越大，每增加一个参数带来的改进就越少，因此必须以更快的速度把模型做得更大，才能维持稳定的进步。我问了几位 AI 研究员，能不能说出任何其他扩展性如此之差的实际软件。没人想得出来。即使跳出软件世界，也很难找到可比的例子——毕竟规模经济是让灯泡、汽车和服装变得如此便宜的原理。从经济学和工程学的角度看，生成式 AI 可能是有史以来部署过的最糟糕的技术。
但有了当前这种臃肿路线背后的巨额投资，改变的意愿恐怕不多。OpenAI 联合创始人、前首席科学家 Ilya Sutskever 在 11 月的一次采访中说，公司采用暴力方法「是因为它给你一种非常低风险的投资资源方式」。他认为，投资于能重新设计一个目前估值数万亿美元的产品的研究要困难得多。那些怀疑我们正处于AI 驱动的泡沫经济中的人指出，这些公司的盈利能力仍然是一个悬而未决的问题——很大程度上正是因为该技术的高成本和低效率。
效率是计算机科学的核心原则。 本科生最先学到的事情之一是：写一个给 50 个单词排序的程序很容易，但如果给那个程序 5000 万个单词，它大概率会耗尽内存或花几小时才跑完。计算机科学的很大一部分就是在学习巧妙的编程技巧来避免这种情况。许多技巧利用了数据中的重复模式，使得程序接收的输入越多，处理每个额外比特所需的时间或内存反而越少。正是这种效率，让现代智能手机和计算机如此强大且便宜。这被称为对数级扩展（logarithmic scaling）。
而大语言模型并非对数级扩展。当它们需要处理更多单词时，速度变慢且消耗更多内存——时间和资源的消耗随输入增大而加速增长。用技术术语来说，LLM 是平方级扩展（quadratic scaling）。任何计算机科学的学生都知道这非常糟糕。
Epoch AI 是一家致力于计算 AI 模型运行成本的组织，去年发布了一张图表（经授权在此转载），展示了几个公开 AI 模型在服务更多 token（用户输入给聊天机器人的文字）时成本的指数级增长。
AI 不必非得这样构建。传统上，AI 的目标是以模拟人类思维过程的方式来解决问题。研究者通过观察自己的思考，尝试用代码实现思维习惯。这条路基本已被抛弃，部分原因是很难辨别和表述人类思维的规则，但它确实有一个好处：消耗的资源少得多，数据需求也小得多。
当今的 AI 方法不去描述人类思维规则，而是给计算机数百万个例子去模仿。海量的例子是大模型在生成语言、图像和音乐时能优于小模型的原因之一——它们有更多素材可参考。一些研究者希望重新拾起旧的、更高效的方法，将其与现代方法结合，但到目前为止，这些项目吸引的关注和资金远不如驱动聊天机器人的那些大模型。
聊天机器人公司清楚自己的产品效率低下。有些公司找到了一些改进性能的技术，但并未带来显著提升。偶尔会有公司声称取得突破——比如 Anthropic CEO Dario Amodei 称之为「算力倍增器」——但这些通常都是模糊描述，并没有证据表明平方级扩展和模型规模爆炸的根本问题已被克服。（Anthropic 在我联系求证时拒绝公开发表评论。）
一些研究者正在研发极小型模型，所需数据和算力都少得多。我采访了微软的 AI 研究员 Alexia Jolicoeur-Martineau，她独立设计了一个这样的模型。当被问及行业的暴力路线时，她说：「这有点疯狂。到了某个时点，你得学会更高效一点。」
去年，Jolicoeur-Martineau 凭借一篇关于「微型递归模型」的论文赢得了 5 万美元的奖金，该模型不消耗海量计算资源。她写道：「认为必须依赖某些大公司花费数百万美元训练的大规模基础模型才能在困难任务上取得成功，这是一种陷阱。」她的模型不能替代 LLM——它的设计目标是解决生物学和电气工程等领域的逻辑问题，而非生成语言——但它能完成目前由大得多的 AI 模型承担的某些任务。
然而，我们似乎被困在了 LLM 的轨道上，也许因为它们被推销得太狠了。现在它们正被添加到一切产品中，无论你想要与否。2024 年到 2025 年间，LLM 被集成进了 Windows 和 MacOS，这意味着运行一台基础的个人电脑现在需要更多的计算能力。智能手机也在以升级硬件的方式销售，因为公司预计新的 AI 功能需要它们。低效的 AI 还被添加到 Adobe Photoshop 和 Microsoft Word 等常用程序中，这意味着运行这些软件需要更强大的电脑。
这一切尤其糟糕，因为计算机的改进速度已大不如前。自 1950 年代以来，制造商一直在让微芯片持续变得更小、更快、更便宜——这一趋势俗称为摩尔定律。但近几年来，元件已经小到了分子级别的极限，无法进一步缩小，这已经显著放缓了进展。
制造商没有继续缩小元件，而是专注于开发专门适配 AI 的新硬件。这偶尔带来了一些性能上的渐进提升，但没有任何一项接近跟上 AI 需求的指数级增长曲线。
归根结底，低效对科技行业内部那些相信自己正在复制智能本身的人来说，可能并不是什么大事。硅谷许多人怀着近乎宗教般的信念，认为某种类似心智的东西可以从 LLM 中涌现——而 LLM 说到底只是统计性的语言生成软件。尽管这些软件无法记住基本事实、缺乏常识，并且与生物大脑完完全全不像。即使是 AI 的「教父」之一 Yann LeCun，最近也对《纽约时报》说：「LLM 不是通往超级智能甚至人类级智能的路径。」但 AI 的神话诱惑如此强大，以至于许多工程师相信任何事情都不该挡路。连编写高效软件这项基本任务也不例外。
译者注：本文是《大西洋月刊》「AI Watchdog」系列调查的一部分，作者 Alex Reisner 从工程经济学的角度审视了生成式 AI 的扩展性问题。核心论点：LLM 的平方级复杂度意味着规模越大越不划算——这与软件工程追求的对数级扩展背道而驰。在摩尔定律放缓的背景下，AI 行业对硬件资源的吞噬已经开始推高普通消费者的硬件成本。文章引用的 Jolicoeur-Martineau 的「微型递归模型」代表了一种可能的替代路径，但目前缺乏资金关注。