行业资讯

亚马逊:AI模型须经严格测试方可发布

Heooo 09月18日22时34分 35 阅读

「亚马逊就AI模型发布节奏表态,认为模型必须经过严格测试、确认足够安全后才能发布。发言人汤姆·帕内尔表示,进步与安全并非只能二选一,行业应共同制定保护措施。亚马逊既是OpenAI、Anthropic的合作伙伴与投资者,也在自研大语言模型。」

据彭博社报道,亚马逊近日就AI模型的发布节奏问题明确表态:AI模型必须经过严格测试,确认具备足够的安全保障后才能发布。此前,已有多家顶尖AI实验室因安全问题呼吁放缓AI研发速度,亚马逊的这一立场使其加入了这场围绕AI发展节奏的行业讨论。

亚马逊发言人汤姆·帕内尔在邮件中指出,进步与安全并非只能二选一。模型只有在准备充分、能够安全使用时才应该发布,而这离不开严格测试和强有力的安全保障。如果整个行业不能共同做到这一点,就会产生风险。他同时表示,行业应当共同制定适当的保护措施,把这件事做好非常重要。

帕内尔坦言,当下的AI已经能够为客户创造实实在在的价值,因此把安全与发布节奏这件事做好尤为关键。

值得注意的是,亚马逊在AI产业链中扮演着多重角色。它既是OpenAI、Anthropic等领先AI企业的合作伙伴,也是这些公司的投资者。而OpenAI和Anthropic的高管此前都曾主张适度放慢尖端AI的研发速度,以便留出更充分的时间评估技术安全性。亚马逊选择在此时公开表达对安全测试的重视,与这些合作伙伴的立场在方向上是一致的。

与此同时,亚马逊也在开发自己的大语言模型,不过通常不被视为OpenAI、Anthropic以及中国头部AI企业最强产品的直接竞争对手。此外,亚马逊云科技还向AI行业提供算力和基础设施管理工具,是整个AI生态的重要底座。这一身份意味着,亚马逊既是模型能力的供给方,也是大量AI企业训练与推理资源的提供方,其安全主张的影响范围并不局限于自家模型。

从这一表态可以看出,安全测试与发布门槛正在成为大模型行业共同关注的话题。对开发者而言,模型在能力之外,还需要通过严格的安全评估才能走向用户,这既是厂商的责任,也在逐渐成为行业事实上的准入标准。谁能在能力迭代与安全验证之间找到稳定节奏,谁就更有可能在下一阶段的竞争中赢得信任。

# 亚马逊 # AI安全 # 大语言模型

来源:Heooo AI工具导航