AGI临近,信任不再是核心议题
「媒体大亨Barry Diller在WSJ会议上表示,尽管信任Sam Altman,但随着AGI逼近,未知后果才是更值得关注的问题。」
在《华尔街日报》举办的“未来一切”大会上,媒体大亨Barry Diller就人工智能的未来发展发表了引人深思的见解。作为Fox Broadcasting的联合创始人、IAC和Expedia Group的董事长,Diller对OpenAI首席执行官Sam Altman表达了个人信任,但他同时指出,随着人工通用智能(AGI)的临近,“信任”本身可能已变得无关紧要。
Diller是在回应一个关于是否应信任Altman以确保AI造福人类的问题时做出上述表态的。近期,一些前同事和董事会成员曾指责Altman有时表现出操纵性和欺骗性,但Diller为这位AI高管进行了辩护。他表示,自己与Altman私交甚好,相信Altman是真诚的,并且“是一个有良好价值观的正派人”。然而,Diller强调,公众关注的焦点不应仅仅停留在个人信任层面。
“AI带来的一个大问题是,它远远超出了信任的范畴,”Diller在台上解释道。“信任可能无关紧要,因为正在发生的事情,连制造这些事情的人都会感到惊讶。”他分享了自己与多位AI领域创造者的交流经历,指出这些前沿研究者自身也充满了“惊奇感”。他形容当前AI的发展是一个“巨大的未知数”:“我们不知道,他们也不知道。”
Diller进一步阐述了AGI带来的根本性挑战。他认为,人类已经踏上了一条将改变几乎所有事物的道路,而AGI的临近使得这种不确定性急剧放大。“问题不在于管理者的品格,而在于我们确实在应对未知。一旦实现AGI,他们不知道会发生什么,而我们离它已经很近了。虽然还没到那一步,但我们正以越来越快的速度接近它。我们必须思考设置‘护栏’。”他警告称,如果人类不采取行动,可能会面临意想不到的后果。
尽管对未知风险保持警惕,Diller仍然对AI领域的领导者们持相对乐观的态度。他表示,相信大多数引领AI发展的核心人物都是“好的管理者”。不过,当被问及哪位AI领导者他不信任时,Diller并未具体点名。他补充说,自己并不关心这些巨额投资能否带来回报,因为他并未参与其中,但他承认“进步正在发生”。
Diller的这番言论,实际上将AI治理的讨论从“信任个人”推向了“应对系统不确定性”的更高维度。在AGI逐步成为现实的前夜,如何建立有效的技术护栏和治理框架,确保AI的发展路径可控且有益,已经超越了任何单一个人的信誉问题,成为整个技术社区和公众需要共同面对的紧迫课题。
来源:Heooo AI工具导航