技术进展

LLM并非更高层次的抽象

Heooo 05月04日12时01分 1 阅读

「本文驳斥LLM是编程抽象层次提升的观点,指出LLM输出是概率而非确定值,存在不可预测的副作用风险。」

在AI技术社区中,有一种流行观点认为大语言模型(LLM)代表了编程抽象层次的又一次跃升,类似于从二进制到汇编、从C到Python的演进。然而,一篇来自Hacker News的深度技术文章对此提出了尖锐反驳,认为这种类比在根本上就是错误的。

文章作者指出,每一次从技术栈的一层向更高层抽象移动时,都涉及一个确定性的函数:f(x) -> y。给定特定的输入x,总能得到特定的输出y。例如,汇编源代码经过编译总是生成相同的二进制结果;C源代码经过编译也总是生成相同的二进制产物;Python源代码经过解释器或编译器处理,同样总是产生一致的输出。这种确定性是传统抽象层次提升的核心特征——开发者可以信赖输入与输出之间的严格映射关系。

但LLM的工作方式完全不同。LLM的函数输出不是一个确定的值,而是一个值的概率分布:f(x) -> P(y)。更糟糕的是,输出结果并非只有单一可能性,而是存在多种潜在结果:f(x) -> P(y) ∪ P(z1) ∪ P(z2) ∪ ... P(zN)。这意味着,给定相同的提示(prompt),LLM可能产生你期望的结果y,也可能产生一系列你从未要求过的其他产物z1zN

文章进一步揭示了更严重的问题:即使你检查输出中是否包含y,测试也可能通过,因为输出实际上包含了y以及所有其他未预期的内容。作者用一个生动的例子说明:如果你让LLM写一个“TODOist”系统(即待办事项应用),你的提示是x,期望的输出是y。但LLM的实际输出可能是P('A TODO WebApp' | z1 | z2),其中z1可能是“将我的凭据开放到网络”,z2可能是“使用公共读写FTP访问与世界共享我的托管服务器”。你的测试只检查了是否得到了待办事项应用,却没有检查是否存在这些危险的副作用。

这种不确定性带来了根本性的风险。在传统编程中,抽象层次的提升虽然隐藏了底层细节,但保持了确定性——你始终知道代码会做什么。而LLM的“抽象”则引入了概率性,这意味着你无法完全预测或控制输出。对于安全关键型应用、金融系统或任何需要严格行为保证的场景,这种不确定性是不可接受的。

文章作者最后以讽刺的口吻建议:如果到2026年还有人坚持这种荒谬的抽象层次说法,就让他们看看这篇文章。而对于那些正在宣扬这种观点的人,作者反问:为什么这个说法对你如此重要?

这篇技术文章的核心价值在于,它从计算机科学的基础原理出发,厘清了LLM与传统编程抽象之间的本质区别。LLM确实是一种强大的工具,但它不是抽象层次的提升,而是一种全新的、概率性的计算范式。开发者需要认识到这种差异,避免将LLM视为传统编程的简单替代品,而应将其作为辅助工具,在严格的测试和安全审查下使用。

# LLM # 抽象层次 # 编程范式 # 概率模型 # 技术批判

来源:Heooo AI工具导航

📰

资讯不存在

该资讯可能已被删除或不存在

返回资讯列表