AI专家证人警告AGI军备竞赛风险
「在OpenAI盈利转型案中,马斯克唯一AI专家证人、UC Berkeley教授Stuart Russell出庭,警告AGI开发存在军备竞赛和安全隐患。」
在近期备受关注的OpenAI盈利转型案中,埃隆·马斯克的法律团队传唤了唯一一位直接针对AI技术作证的专家——加州大学伯克利分校计算机科学教授、人工智能领域资深研究者Stuart Russell。Russell在法庭上阐述了AGI(通用人工智能)开发中存在的多重风险,包括网络安全威胁、对齐问题以及AGI开发的赢家通吃特性,并直言追求AGI与确保安全之间存在根本性矛盾。
马斯克方面试图通过此案证明,OpenAI最初作为专注于AI安全的慈善机构成立,却在追求利润的过程中偏离了初衷。为此,他们引用了创始团队早期关于需要建立公益性力量以制衡Google DeepMind的电子邮件和声明。Russell的证词旨在为陪审团提供AI技术的背景知识,并确立这一技术具有足够危险性、值得高度警惕的立场。
Russell曾参与联署2023年3月呼吁暂停AI研究六个月的公开信,有趣的是,马斯克也在同一封信上签名,尽管他当时已在运营自己的营利性AI实验室xAI。这一矛盾点凸显了AI领域安全倡导与实际商业实践之间的紧张关系。在法庭上,Russell进一步指出,全球前沿实验室竞相率先实现AGI的“军备竞赛”动态,是导致安全风险加剧的关键因素,并呼吁政府对该领域实施更严格的监管。
然而,Russell关于不受约束的AI存在生存威胁的更大担忧,并未在公开法庭上得到充分展示。OpenAI的律师提出反对后,法官限制了Russell证词的范围。在交叉质询环节,OpenAI的律师着重指出,Russell并未直接评估该组织的公司结构或其具体的安全政策,试图削弱其证词与案件核心争议的关联性。
此案折射出AI行业一个深层次的矛盾:几乎所有OpenAI创始人都曾强烈警告过AI的风险,但同时也在强调其益处,并试图以最快速度构建AI,同时策划由其控制的、以AI为重点的营利性企业。从外部观察,一个清晰的问题浮出水面:当AI安全倡导者同时是AI商业化的推动者时,如何评估其言论的可信度与行动的一致性?这不仅是法庭需要权衡的问题,也是整个AI社区需要持续反思的议题。
Russell的证词虽然受到限制,但已成功将AGI开发中的系统性风险——如对齐问题(AI目标与人类价值观不一致)和赢家通吃的竞争结构——带入司法讨论。这些技术概念在法庭上的呈现,可能对未来AI监管政策产生深远影响。无论本案最终判决如何,这场辩论本身已凸显出,在AGI竞赛加速的背景下,如何平衡技术进步与安全考量,已成为全球AI领域必须直面的核心挑战。
来源:Heooo AI工具导航