AI是糟糕的软件开发工具

在当前的AI热潮中，一个不容忽视的声音正在浮现：AI是糟糕的工具，至少对于软件开发而言。这一观点来自ByteCode.News的一篇投稿文章，作者Hideki Idoru以冷静的视角剖析了AI在编程领域的实际表现，指出其表面光鲜下的深层缺陷。

文章首先承认了AI的正面价值。当AI被视为数据提炼工具时，它确实能提升效率。传统上，我们需要在搜索引擎中输入关键词，点击最相关的链接，然后扫描页面寻找信息并自行处理。而AI能够压缩这些步骤，直接给出精炼的答案。如今，搜索引擎在结果顶部插入AI摘要，正是为了缩短这一信息获取过程。对于信息检索和初步提炼，AI并非一无是处。

然而，当AI被用于其他任务，尤其是代码生成时，问题便暴露无遗。作者认为，用AI生成代码实际上是在浪费时间。核心原因在于AI的“不透明性”。AI生成的代码就像一个黑箱：我们不知道它如何得出最终结果，也无法直观地理解其内部逻辑。这引出了一个关键问题：谁来维护AI构建的应用？如果完全依赖AI，那么维护工作似乎也可以交给AI。但真正的挑战在于，谁来验证AI所构建的内容是正确且可靠的？

近期关于AI发现软件安全漏洞的讨论甚嚣尘上，但作者指出，这些说法往往缺乏实质证据。要验证AI发现的漏洞，需要人工进行同等甚至更多的努力。同样的逻辑适用于AI生成的整个应用。代码看起来可能运行正常，但表象与实质往往存在差距。一个典型的例子是，AI在编写测试用例时，倾向于让测试符合现有实现，而不是从规范出发进行盲测。这导致测试本身存在偏差，无法真正发现潜在问题。AI只是让问题看起来被解决了，而非真正解决。

文章进一步指出，围绕AI的争论往往情绪化。反对者担心失去工作、变得无关紧要。作者认为，这种恐惧是真实的，但原因并非机器变得太聪明，而是因为开发者自身产出的代码质量低下，而AI只是比这些代码稍好一点。换句话说，真正让人变得无关紧要的，不是AI的强大，而是自身能力的不足。

从技术本质上看，AI在软件开发中的局限性根植于其工作原理。大语言模型基于概率生成文本，它擅长模仿模式，但缺乏对代码语义、系统架构和业务逻辑的深层理解。它无法像人类开发者一样进行因果推理、权衡设计决策或预见长期维护成本。因此，AI生成的代码往往在表面语法上正确，但在结构、可维护性和安全性上存在隐患。

对于开发者社区而言，这一观点提供了重要的反思契机。AI不应被盲目崇拜，也不应被全盘否定。在信息提炼、文档生成、代码补全等辅助性任务中，AI可以作为效率工具。但在核心的架构设计、复杂逻辑实现和安全验证环节，人类的判断力、经验和批判性思维仍然是不可替代的。AI是一个糟糕的软件开发工具，但或许是一个不错的“初级助手”。关键在于我们如何界定其角色，并始终保留最终验证的责任。