政策法规

雷萨警示AI三波浪潮,呼吁尽快立法监管

Heooo 09月16日09时34分 40 阅读

「诺贝尔和平奖得主、记者玛丽亚·雷萨警告,人工智能已经历三波冲击:社交媒体争夺注意力,聊天机器人介入情感与心理,具备自主行动与多智能体协同能力的前沿模型则直接冲击人的自主决定权。她呼吁公众推动立法监管,并强调这是公共安全议题。」

诺贝尔和平奖得主、记者玛丽亚·雷萨近日在一场探讨社会所面临挑战的会议期间接受采访时表示,人工智能正在沿着三波浪潮层层推进,如果我们现在不通过立法加以限制,人类最终将会失去自主选择权。她目前担任国际人工智能科学小组的联合主席,该小组的任务是评估人工智能正在如何改变世界各地民众的生活。

雷萨把人工智能的发展划分为三个阶段。第一波冲击来自社交媒体平台,它们争夺并攫取了人们的注意力,撕裂社会共识,同时让个体陷入孤立。第二波冲击则是聊天机器人。她认为,这类产品利用的是人们对亲密情感联结的本能诉求,直接介入人的心理与生理层面。第三波冲击最为关键,指向具备自主行动能力、能够进行多智能体协同的前沿模型。

“这些前沿模型打造出来的机器不再只是模仿人类,它们还会代替人类做出行动。”雷萨说。在她看来,这一阶段的技术已经越过了模仿与辅助的边界,开始直接冲击人的自主决定权。她还提出一个颇具技术哲学意味的判断:人工智能既谈不上“人工”,也算不上真正的“智能”,这项技术已经存在大约七十年,只是直到最近才以三波相继的形态影响到普通大众。

面对监管议题,雷萨呼吁普通民众主动投身舆论呼吁,向决策者施压,推动相关立法落地。她强调,对人工智能实施监管并不是价值立场之争,而是一项公共安全议题。“我认为我们已经走到这样一个节点:如果再不采取行动,局面就会发生倾覆。倘若我们现在不介入干预,事态终将脱离人类的掌控。”

除了呼吁监管,雷萨还给出了一条技术路径上的实践样本。她所在的媒体机构于2023年推出社区项目Rappler Communities,这是一款手机应用,搭建在开源、安全、去中心化的Matrix协议之上。依托这款应用,编辑部既能与读者沟通,读者彼此之间也可以开展真诚的对话交流。她主张,应当建设由公共利益团体运营、脱离大型科技公司掌控的通信平台,其定位就像城市里的公园这类公共基础设施。

目前,该项目已经邀请当地其他媒体入驻,并计划把这套模式推广到更多新闻机构。雷萨形容,这里可以成为民众的一块数字安全空间,人们能够相互交谈,更为重要的是学会倾听彼此,社会共同体的良性运转才得以在此发生。

从技术演进的角度看,雷萨的担忧指向一个越来越现实的问题:随着智能体开始替人执行操作、多智能体之间彼此协作,决策链条会变得难以追溯,责任归属也随之模糊。也正因如此,开源、去中心化的通信协议被寄予厚望,它让数据与对话不再被单一平台垄断,为技术治理提供了一种自下而上的可能。无论这一路径最终能否跑通,关于人工智能边界与约束的讨论,已经从实验室走向了更广泛的公共议程。

# AI监管 # 智能体 # 聊天机器人 # 开源协议

来源:Heooo AI工具导航