美开源AI实验室称中国模型无固有危险

随着中国开源权重AI模型的能力和受欢迎程度不断提升，围绕这些模型是否应被限制的争论再次升温。有消息称，美国政府可能考虑禁止这些模型，但尚未采取实际行动。与此同时，OpenAI和Anthropic等闭源模型厂商对这些来自中国的竞争对手表现出日益增长的担忧。

中国开源权重模型，例如月之暗面的Kimi K3或阿里巴巴的Qwen系列，能够以极低的Token成本提供推理服务，这直接威胁到美国闭源大模型厂商的利润空间。然而，更大的担忧在于：这些模型是否会成为网络攻击的载体？企业在其自有数据中心运行这些模型时，是否应该担心来自中国的潜在威胁？

美国开源AI实验室Arcee的首席技术官Lucas Atkins给出了明确的否定答案。Arcee本身正在构建开源模型，旨在为美国企业提供本土化的替代方案。从商业利益角度看，如果中国模型被禁，Arcee将是潜在的受益者之一。但Atkins坚持认为，中国的开源模型并不比其他任何企业可能使用的开源软件更危险。他甚至表示，这些模型对自己的公司也带来了益处。

“很多人将中国模型视为一种中国软件程序，认为它被编写时带有某种特定意图，可以被恶意行为者轻易操控，”Atkins解释道。“但这从根本上误解了这些模型的训练方式。无论是Arcee还是阿里巴巴，都无法在训练模型后，让用户在本地运行它时还能进行任何形式的远程访问。”他强调，当模型被下载到用户自己的环境中时，开发者便失去了对模型的控制权。

尽管大多数此类模型属于“开放权重”而非完全开源，但其源代码（即实际在服务器上运行的部分）如果从Hugging Face等平台下载，通常是可见且可审查的。不可见的部分主要是训练所用的方法和数据。大型组织在部署任何模型核心之前，都应将其纳入自身的安全测试和审查流程。企业通常会针对特定用途对模型进行后训练，检查偏见、毒性、幻觉以及对特定主题的敏感性。在用户开始向模型发送提示之前，企业已经对其进行了优化和充分理解。