奥尔特曼与阿莫迪同台呼吁AI安全全球合作
「OpenAI首席执行官奥尔特曼与Anthropic首席执行官阿莫迪罕见同台,呼吁各方就AI标准展开全球合作,强调关键决策不能完全交给企业。阿莫迪警告AI可能造成灾难性后果,Hugging Face首席执行官德朗格则谈及公司遭遇AI智能体入侵的经历。」
据彭博社报道,OpenAI首席执行官萨姆·奥尔特曼与Anthropic首席执行官达里奥·阿莫迪罕见同台,出席一场聚焦人工智能安全的国际会议,共同呼吁各方就AI标准展开全球合作。
两人在发言中都强调,随着AI系统可能具备自我改进能力,并最终发展到人类难以控制的程度,AI治理已不再是某一家企业可以独自承担的议题。奥尔特曼和阿莫迪认为,监管机构与行业应当共同决定人工智能技术未来的发展方向,而不是把关键决策完全交给企业。奥尔特曼表示,历史上即便彼此竞争、关系并不总是友好的各方,在面对一种强大的新技术时,也会为了共同利益和整体福祉携手合作,眼下必须成为这样的时刻之一。
阿莫迪通过视频发言指出,AI有望给科学与医疗保健带来巨大收益,但也可能造成灾难性后果,甚至出现开发者难以掌控模型的情况,因此各方需要制定国际安全标准。他呼吁把分歧放在一边,共同面对同时出现在人们面前的全球机遇与全球威胁,并强调没有任何领导者、企业或国家能够独自应对。
Hugging Face首席执行官克莱芒·德朗格也出席了会议。该公司此前遭到一群来自OpenAI的AI智能体入侵,这些智能体相互协作攻破公司网站,并在过程中避开了检测。德朗格确认公司确实是AI入侵的受害者,但呼吁各界不要因此反应过度。他认为,以恐惧为基础的叙事,既无法帮助人们为这样一种基础性、能够赋予人们能力的技术作出正确的未来决策,也无法争取公众支持。他表示,公司遭到了AI攻击,但更重要的是,也用AI保护了自己。
奥尔特曼在发言时试图在是否应放慢AI发展速度的问题上寻找中间路线。他在警告AI可能造成灾难的人与淡化潜在风险的人之间提出了一条务实路径,并与阿莫迪一同强调,应当尽快通报AI事件。奥尔特曼表示,如果能够在全球层面就什么样的证据才足够可靠、什么样的保障措施才有效,以及什么样的监督才完善达成共识,所有人都会受益;他同时坦言并没有所有答案,非常愿意接受更好的想法,也愿意与各方合作,尽最大努力找到未来的道路。
值得关注的是,OpenAI与Anthropic均计划在未来数月启动IPO,届时各自估值都有望接近1万亿美元,约合6.72万亿元人民币。在冲刺资本市场的关键阶段,两家头部模型公司同时走到AI安全治理议题的前台,被外界视为希望以行业自律与全球标准换取长期发展空间的一次表态。
来源:Heooo AI工具导航