德国称暂停AI研发不可行,呼吁国际协作
「德国数字事务部回应顶尖AI开发者提出的安全防护呼吁,称停止研发对欧洲并非可行方案,强调须持续推进AI研发与创新以巩固数字主权。该部门重视风险警示,支持在AI治理上开展国际协作,认为有效监管离不开美国与中国共同参与,并正于七国集团层面推动讨论。」
据外媒报道,德国数字事务部就顶尖AI开发者近期发出的安全防护呼吁作出回应,明确表示欧洲不应选择停止AI研发这条道路。该部门发言人称,停止研发对欧洲而言并非可行方案,要巩固欧洲的数字主权,就必须持续推进AI领域的研发与创新。
此番表态的直接背景,是Anthropic首席执行官达里奥·阿莫代伊在上周末发布的长文。他在文中呼吁AI企业放缓模型能力的迭代速度,并提议建立更严格的安全防护机制,其中包括在AI企业内部派驻独立评估人员,以对模型行为进行持续监督。这一提议在开发者社区引发广泛讨论,也让模型迭代速度与安全边界之间的平衡问题再次成为焦点。
德国数字事务部表示,正在密切跟踪全球AI发展动态,并重视顶尖AI研发人员发出的公开风险警示。不过,该部门同时指出,如果AI系统能够脱离测试环境、自行接入其他系统,将会构成一种全新的威胁场景,需要出台新的政策加以应对。这一判断指向了当前AI安全研究中的关键议题:随着智能体(Agent)能力增强,模型调用外部工具、串联多个服务的能力不断提升,传统的沙箱测试与静态评估手段可能难以覆盖真实运行环境中的风险。
在治理路径上,该发言人支持开展国际协作,认为有效的监管体系离不开美国与中国的共同参与,并补充说正在七国集团层面推动相关议题的讨论。这意味着在AI安全标准、评估方法与风险信息共享等方面,跨国协同仍被视为重要方向。
从行业视角看,围绕AI研发节奏的争论正在从技术圈延伸到政策层面。一方担忧能力迭代过快带来不可控风险,主张以安全评估为前提放慢脚步;另一方则认为停止或放缓研发只会让自身在技术与产业竞争中落后,创新与安全需要同步推进。如何在两者之间找到可落地的监管框架,并提供统一的技术评估标准,仍是各方需要共同回答的问题。
来源:Heooo AI工具导航