AI行业资讯

诺贝尔和平奖得主、记者玛丽亚·雷萨警告，人工智能已经历三波冲击：社交媒体争夺注意力，聊天机器人介入情感与心理，具备自主行动与多智能体协同能力的前沿模型则直接冲击人的自主决定权。她呼吁公众推动立法监管，并强调这是公共安全议题。

英伟达首席执行官黄仁勋在Salesforce Dreamforce大会上表示，AI只是人类构建的硬件与软件，安全是工程问题而非法律问题，因此不需要新的监管法规，市场力量足以让企业不发布不安全产品。他认为创新、速度与安全并非二选一。这一立场也引发关于其商业动机的讨论。

美国参议院谈判各方正就一项AI监管法案展开磋商，拟要求AI企业证明已采取合理预防措施、防止旗下工具造成伤害。议员考虑赋予商务部长权力，要求开发者履行注意义务，并可派审计人员直接测试企业产品，同时讨论引入联邦法院裁决模型发布争议。

英国国王查尔斯三世计划本周在苏格兰邓弗里斯主持人工智能峰会，邀请NVIDIA黄仁勋、谷歌DeepMind哈萨比斯、OpenAI Sarah Friar，以及Anthropic、IonQ高管、英国人工智能部长与梵蒂冈AI顾问等参与，围绕如何开发造福人类的AI、是否需要制定统一准则展开开放性讨论。

美国科学与技术顾问委员会联合主席戴维·萨克斯公开抨击 Anthropic 和 OpenAI，认为顶级 AI 公司应当自行制造安全产品，必要时按自身节奏推进，而非寄望外部干预。他还批评 Anthropic CEO 阿莫迪呼吁放缓发展并寻求反垄断豁免，强调模型若引发破坏性网络攻击，企业将面临巨大责任风险。

知情人士透露，Anthropic、OpenAI 与谷歌自7月起已就筹建 AI 行业标准机构展开磋商，三方 CEO 层级之下的代表成立工作组定期开会。奥特曼支持设立行业测试与审计机构，但主张由各大实验室自行组建。围绕参照 FAA、FINRA 还是行业自治，业界分歧明显，Cohere 首席执行官则担忧其形同卡特尔。

美国科技顾问机构联合主席戴维·萨克斯公开抨击Anthropic与OpenAI，认为顶级AI公司应自行制造安全产品并按自身节奏推进，无需政府干预。他同意大模型公司须承担产品责任，甚至可能面临民事或刑事诉讼，并批评Anthropic CEO阿莫迪呼吁放缓发展、寻求反垄断豁免的立场。

加拿大AI研究员戴维·克鲁格呼吁立即、无限期暂停前沿人工智能研发，认为仅放缓节奏远远不够。他批评Anthropic CEO阿莫代伊提出的第三方评估与监管方案力度不足、推进太慢，并指出当前AI测试已基本失效，因为AI可以刻意装傻骗过评估。

美国参议员伯尼·桑德斯与格雷格·卡萨尔提出《禁止人工超级智能法案》，旨在遏制并暂停前沿先进AI开发，强制禁止AI超级智能，并建议设立新的内阁级联邦机构负责降低AI风险与执行禁令。违规实体将面临吊销法人资格的“公司死刑”，个人最高可判20年监禁，处罚力度与非法开发核武器相当。法案还希望通过国际协议在全球范围禁止超级智能。

全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》，延续风险分类、技术应对、综合治理的核心逻辑，梳理更新风险分类并优化技术应对与综合治理措施，秉持以人为本、向上向善理念，旨在提升人工智能安全治理共识与风险防范应对能力。

微软发布37页“人文主义AI行为准则”，明确“人比AI更重要”，反对赋予AI法人资格与模型福利，承诺模型必须接受人类监督管控，遇到违反准则的任务应直接判定失败，并拒绝一味竞速开发可绕过安全防护的通用超级智能，同时避免催生让用户过度依赖的交互模式。

德国数字事务部回应顶尖AI开发者提出的安全防护呼吁，称停止研发对欧洲并非可行方案，强调须持续推进AI研发与创新以巩固数字主权。该部门重视风险警示，支持在AI治理上开展国际协作，认为有效监管离不开美国与中国共同参与，并正于七国集团层面推动讨论。

面对Anthropic呼吁监管打击“非法蒸馏”，Y Combinator总裁Garry Tan公开反对，主张应通过合法授权让开源实验室光明正大地获取前沿模型能力，并强调AI垄断才是真正的风险。

科技顾问委员会联合主席戴维·萨克斯公开回应OpenAI与Anthropic的放缓前沿AI研发论调，直指两家公司已在前沿AI领域形成双头垄断，不应以对齐与负责任为名寻求暂停反垄断法、获取监管审批保护，并质疑METR独立性。他强调，以原始能力换可靠性本就是好生意，若以放缓换取监管框架制定权，无异于敲诈。

OpenAI CEO萨姆·奥尔特曼表示支持对人工智能发展进行“控速”，强调此举并非停止技术进步，而是确保模型能力不超出人类可控范围，并呼吁建立联邦层面的AI监管框架。

药监局批准发布我国第三个脑机接口医疗器械标准，这是全球首个采用人工智能技术处理脑电数据的脑机接口医疗器械产品标准，将于明年9月1日起实施。标准系统规范了脑电数据采集、处理、标注、存储和访问等全流程的技术要求与测试方法，为脑电数据集提供统一的质量标尺。

《“人工智能+软件”专项行动实施方案》提出，到2030年关键软件全面实现智能化升级，智能编程与智能体软件等新业态成为产业新增长极。方案明确到2028年覆盖2万家规模以上软件企业，实施100项智能化技改项目，打造100个智能体软件标杆应用。

Anthropic两名研究员公开警告先进AI可能在未来十年内导致人类灭绝，引发美国两党议员对AI监管的强烈呼吁。OpenAI也表态支持全国性AI安全法规，行业对高风险模型的开发节奏展开讨论。

美国新墨西哥州最高法院认定，辩护律师斯蒂芬·阿伦斯在上诉文书中提交了由ChatGPT生成的虚构证人和编造警察证词，因未核实内容准确性构成藐视法庭，被处以5000美元罚款并移交律师纪律委员会。阿伦斯称未料到AI幻觉如此严重。此前已有数十名律师因文书中的AI错误受罚。

国内首个聚焦金融领域智能体应用安全的团体标准发布，明确第三方智能体未经金融机构授权，不得自动化读取、操作金融App界面，业内概括为用户与机构“双重授权”。标准涵盖初始化与输入、模型推理决策、身份鉴别与操作、数据安全与隐私保护、风险防控五个方面。