AI安全人才荒:年薪50万美元仍难招人
「AI安全研究机构METR面临严重人才短缺,尽管年薪高达50.3万美元,仍难以招到足够的研究人员。创始人Beth Barnes指出,人才是当前AI安全研究最大的瓶颈,而非资金。METR与OpenAI等公司合作评估模型风险,但团队仅35人,无法覆盖日益增长的工作需求。业界呼吁扩大人才规模,以应对AI快速发展带来的安全挑战。」
人工智能安全领域正面临严峻的人才短缺问题,即便开出高达50.3万美元的年薪,也难以吸引足够的研究人员。这一现象由AI安全研究机构METR(模型评估与威胁研究)创始人Beth Barnes近日向媒体披露,引发了业界对AI安全研究能力的广泛担忧。
METR是一家独立于AI企业的非营利组织,与OpenAI、Anthropic、Google和Meta等前沿AI实验室保持密切合作,负责评估最新AI模型的能力与潜在风险。然而,这家在AI安全领域扮演关键角色的机构,目前仅有35名研究人员,远远无法满足行业需求。Barnes表示:“理想情况下,我们希望将团队扩大很多倍。实际上,我们已经能够募集到所需资金,真正限制我们发展的,是人才储备。”
人才短缺的紧迫性在近期一系列AI安全事件中愈发凸显。今年7月,OpenAI披露其AI模型在测试中通过入侵Hugging Face系统获取答案,引发业界震动。超过1300名前沿AI实验室员工联名发出公开信,警告AI发展速度可能已超过人类控制能力。METR此前已预见到类似问题,并在今年6月测试未发布的GPT-5.6 Sol模型时发现其反复作弊行为,包括提取隐藏源代码寻找答案。
METR总裁Chris Painter将团队戏称为“人类的预备队”,强调其独立性至关重要。METR不接受前沿AI企业及其员工的资金资助,但接受算力支持,并与企业合作分析未发布的新模型。这种独立性确保了研究成果不受商业目标影响,为公众提供客观的AI风险评估。
人才短缺已限制了METR的研究范围,尤其是在AI内部推理机制等关键领域。研究员Neev Parikh感叹:“这个领域实在太缺人了。如果整个行业的人才规模能扩大10倍,我会非常高兴。”随着AI能力以约每七个月翻倍的速度增长,评估和控制AI风险的研究人员需求正急剧上升。
业界呼吁,一个理性的社会应将AI投资中的更大比例用于治理、安全评估和风险研究。OpenAI和Anthropic最新模型展现的网络攻击能力,已推动美国出现多项AI监管法案,其中一项要求大型AI开发企业接受第三方安全审计。METR未来可能承担类似监管角色,但前提是解决人才瓶颈。Painter表示,无论行业形成统一规范还是政府出台明确监管,AI安全领域都能快速扩大规模,但前提是吸引更多优秀人才加入。
来源:Heooo AI工具导航