AGI临近,信任已无关紧要
行业资讯

AGI临近,信任已无关紧要

Heooo 05月07日12时02分 1 阅读

「媒体大亨Barry Diller表示,信任OpenAI CEO Sam Altman与否已不重要,因为AGI带来的未知后果远超个人诚信问题。」

在近期举办的《华尔街日报》“未来万物”大会上,亿万富翁媒体大亨Barry Diller就人工智能的未来发表了一番引人深思的言论。当被问及是否应该信任OpenAI CEO Sam Altman以确保AI造福人类时,Diller给出了一个出人意料的回答:他个人确实信任Altman,但面对即将到来的人工通用智能(AGI),信任本身已经变得“无关紧要”。

Diller是Fox Broadcasting的联合创始人,也是IAC和Expedia集团的董事长。他首先为Altman进行了辩护,认为这位AI高管并非像一些前同事和董事会成员所指责的那样不可信赖。Diller表示,他与Altman关系友好,并相信Altman在追求AI发展的道路上是真诚的,是一个“有着良好价值观的正派人”。

然而,Diller话锋一转,指出公众关注的焦点不应仅仅停留在对某个领导人的信任上。他认为,AI带来的真正挑战在于其巨大的未知性。“AI的一个大问题是,它远远超出了信任的范畴,”Diller在台上解释道。“信任可能无关紧要,因为正在发生的事情,连那些促成这些事情发生的人自己都感到惊讶。”

Diller透露,他曾与许多投身于AI创造模式的人士进行过深入交流,发现他们自己也充满了“惊奇感”。“这是一个巨大的未知。我们不知道。他们也不知道,”他补充道。

AGI临近,信任已无关紧要

这番言论直指当前AI领域最核心的焦虑:即使开发者怀有善意,AGI的涌现特性也可能带来无法预料的后果。Diller强调,问题不在于领导者的管理能力,而在于人类正在“真正地与未知打交道”。“一旦你拥有了AGI,他们不知道会发生什么,而我们正在接近它。我们还没到那一步,但正越来越快、越来越近地接近它。我们必须考虑护栏,”他警告道。

Diller的评论为围绕AI安全的讨论提供了一个独特的视角。长期以来,公众舆论往往聚焦于个别公司或个人的道德水准,但Diller认为,当技术本身的发展速度超越了所有人的理解时,个人的诚信可能不再是决定性的因素。他进一步指出,无论巨额投资是否能如期获得回报,AI进步的趋势不可逆转。“我们已经踏上了一条将改变几乎所有事情的道路。这不是被低估了。至于这些巨额投资能否成功——我一点也不在乎。我没有投资,但进步终将发生,”Diller说。

尽管Diller对大多数AI领军人物持肯定态度,认为他们是“好的管理者”,但他也暗示并非所有人都如此真诚,不过他拒绝点名批评。这场对话的核心启示在于:随着AGI的临近,技术社区和政策制定者需要将注意力从个人信任转移到对未知风险的系统性应对上,建立更强大的“护栏”机制,以应对可能出现的意外后果。

# AGI # AI安全 # Sam Altman # OpenAI # 行业观点

来源:Heooo AI工具导航

📰

资讯不存在

该资讯可能已被删除或不存在

返回资讯列表