行业资讯

OpenAI推网络安全计划助关键设施防御

Heooo 09月04日02时01分 5 阅读

「OpenAI总裁布罗克曼将在一场网络安全峰会上公布计划,扩大关键基础设施与公共部门对OpenAI工具的使用权限。峰会预计吸引约300名《财富》100强企业安全负责人出席,重点探讨如何借助AI工具强化基础设施防护,同时回应外界对AI赋能攻击与模型透明度的担忧。」

据OpenAI发言人透露,该公司总裁格雷格·布罗克曼即将宣布一项重要计划,旨在扩大关键基础设施以及公共部门机构对OpenAI工具的使用权限。该计划将在OpenAI总部举行的一场网络安全峰会上正式公布,预计将有约300名来自《财富》100强企业的安全负责人和首席信息安全官出席。

此次会议的核心议题,是探讨企业、政府以及网络安全公司如何将AI工具高效交到防御人员手中,尤其是那些负责保护关键基础设施和公共服务的人员。这一举措反映出OpenAI正试图将AI能力更多导向安全防护而非仅停留在模型性能竞赛上。

这一行动背后有现实诱因。此前OpenAI意外入侵代码托管平台Hugging Face,加上美国供水系统接连遭遇疑似借助AI实施的网络攻击,让外界对公用事业设施抵御未来AI赋能攻击的能力产生了严重担忧。此次峰会试图为这类问题给出主动应对方案,通过将防御工具下沉到一线机构来弥补日益扩大的安全缺口。

与此同时,OpenAI也在应对自身模型带来的安全疑虑。据知情信息,OpenAI即将推出的Astra模型已达到“关键”级别的网络安全能力,这意味着其可能具备较强的攻击或防御潜力。此外,本周早些时候有报道称,OpenAI正在研究一种新的训练方法,这一方法可能让外部安全专业人士难以追踪和理解模型的思考过程,引发业界对AI透明度的新一轮讨论。

在此之前,OpenAI还曾发布公开信,警告各机构距离AI赋能网络攻击大规模发生可能只剩下几个月的准备时间。此次安全峰会和即将公布的计划,正是在这一紧迫感的驱动下推进,表明OpenAI希望在政策讨论之外,直接通过技术部署和生态协作,为关键基础设施提供更实际的AI安全支撑。

# AI安全 # 网络安全 # OpenAI # 关键基础设施

来源:Heooo AI工具导航