AGI临近时信任已无关紧要
行业资讯

AGI临近时信任已无关紧要

Heooo 05月07日09时04分 1 阅读

「传媒大亨Barry Diller表示信任Sam Altman,但认为随着AGI临近,信任变得无关紧要,未知后果才是关键。」

在《华尔街日报》举办的“未来万物”大会上,传媒巨头Barry Diller就人工智能的未来发表了一系列引人深思的言论。他明确表示信任OpenAI首席执行官Sam Altman,尽管近期有报道对Altman的诚信提出质疑,但Diller认为,随着通用人工智能(AGI)的逼近,信任本身可能已无关紧要。

Diller是Fox Broadcasting的联合创始人、IAC和Expedia Group的董事长,他与Altman私交甚好。当被问及是否应该相信Altman能确保AI造福人类时,Diller给出了一个出人意料的回答。他说道:“AI的问题远远超出了信任的范畴。信任可能无关紧要,因为正在发生的事情,连制造这些事情的人都感到惊讶。”他补充说,自己与许多AI领域的创造者交流过,他们自己都充满了惊奇感,“这是一个巨大的未知。我们不知道,他们也不知道。”

这一观点揭示了当前AI发展中的核心矛盾:即使开发者怀有善意,技术的演进路径和最终影响仍充满不可预测性。Diller强调,人们不应过度关注Altman的个人品质,而应聚焦于AGI可能带来的未知后果。

Diller进一步指出:“我们已经踏上了一条将改变几乎所有事物的道路。这并非报道不足。至于这些巨额投资能否兑现——我毫不在意。我没有投资其中,但进步正在发生。”他认为,大多数引领AI发展的人是称职的“管家”,并相信Altman是真诚的,“是一个有良好价值观的正派人”。但他拒绝透露他认为哪些AI领导者不够真诚。

在谈到AGI时,Diller警告说:“问题不在于他们的管理。问题在于……我们确实在与未知打交道。一旦你拥有了AGI,他们不知道会发生什么,而我们正在接近它。我们还没到那一步,但正在越来越快、越来越近地接近。我们必须考虑护栏。”他的发言呼应了业界对AGI安全性的普遍担忧,即技术突破可能超出人类控制范围。

值得注意的是,Diller的评论并非针对Altman个人,而是指向整个AI生态系统的深层困境。他暗示,即便最负责任的开发者,也无法完全预见AGI的全部影响。这种不确定性使得“信任”这一传统概念在面对AGI时显得苍白无力。

AGI临近时信任已无关紧要

从技术角度看,Diller的观点触及了AI治理的核心难题:如何在未知中建立有效的安全机制。目前,OpenAI等机构正在研究对齐技术,试图确保AI系统与人类意图一致。但Diller的警告暗示,这些努力可能仍不足以应对AGI的突发特性。他呼吁“必须思考护栏”,这实际上是对整个AI社区提出更严格的技术和伦理要求。

尽管Diller的言论带有一定的悲观色彩,但他也承认进步不可避免。他的发言为AI行业提供了一个重要视角:在追求技术突破的同时,必须正视其未知风险,并建立相应的防护体系。这不仅是技术问题,更是关乎人类未来的战略议题。

# AGI # AI安全 # 行业观点

来源:Heooo AI工具导航

📰

资讯不存在

该资讯可能已被删除或不存在

返回资讯列表