AI行业资讯

创作者David Revoy在个人网站发布许可更新公告，明确禁止对其全部美术作品、设定资料、故事与漫画进行AI衍生使用。该消息经Hacker News传播后引发对开放创作与AI训练数据边界的讨论，也再次凸显宽松许可协议在生成式AI时代面临的适用困境与数据合规成本。

Anthropic更新使用政策，首次明确禁止用户对模型进行长期辱骂，并将武器软件、监控用途与干扰选举等场景列入禁止范围。政策同时限制利用Claude运营虚假账号、炮制虚假新闻机构等欺骗性行为，但强调条款仅适用于极端情形，不涉及用户常见的沮丧情绪、观点反驳与黑暗主题创作。

OpenID基金会发布了一份题为《Identity Management for Agentic AI》的技术文档，聚焦自主AI代理在数字世界中的身份标识、认证与授权问题。该文档在技术社区引发关注，被视为面向智能体时代身份基础设施的前瞻性探索，涉及代理身份注册、权限委托、跨域信任与可审计性等核心议题。

澳大利亚政界与商界人士指出，民众对AI数据中心的抵制情绪主要受美国社交媒体舆论影响。他们强调澳数据中心规模更小、监管更严，与美国情况不可简单类比，并呼吁建立本土AI生态以避免经济利益外流。

比尔·盖茨公开呼吁通过立法对人工智能开发实施监管，直言仅靠行业自律远远不够。他认为执法部门与决策者必须参与，明确应设置哪些安全措施、由谁监督，且要求必须具备强制性；这会增加行业负担，但不会显著拖慢技术进步。他此前也多次警示AI风险与治理能力的落差。

纽约市议员提出一揽子加强AI监管法案，拟以经济奖励鼓励举报人揭露危险AI做法，奖金来自向违规公司收取的罚款；另有提案要求AI系统部署前通过第三方验证、配备人工控制的紧急关闭开关，聊天机器人需遵守数据隐私与透明度规定。市议会将于10月5日举行AI风险听证会。

据 The Information 消息，谷歌、OpenAI 与 Anthropic 正自行推进组建 AI 安全标准自律组织，暂定名为 Standards Authority for Frontier AI。该组织计划于今年年底或明年年初启动，职能包括支持模型投用前的第三方测试、制定安全与安保事件报告方式、把实验室自愿承诺转化为实践标准，并确定审计人员资质。

微软总裁布拉德·史密斯公开支持引入独立评估方对AI进行安全评估，认为安全不应只由一两家机构负责。他透露微软与OpenAI设有双方共同派员组成的安全委员会，并支持为先进系统设置多重关闭开关，确保系统处于人类控制之下。

OpenAI首席执行官奥尔特曼与Anthropic首席执行官阿莫迪罕见同台，呼吁各方就AI标准展开全球合作，强调关键决策不能完全交给企业。阿莫迪警告AI可能造成灾难性后果，Hugging Face首席执行官德朗格则谈及公司遭遇AI智能体入侵的经历。

蚂蚁 inclusionAI 在 HuggingFace 上线名为 AI-Transparency 的仓库，按欧盟第2024/1689号《人工智能法案》第53条第1款d项的模板，集中公开 Ling、Ring、Ming 全系模型的训练内容摘要。仓库只收录文档，不含模型权重与底层训练数据，每份摘要严格限定自身适用范围。

OpenAI、Anthropic 与 Hugging Face 三家 AI 企业负责人呼吁加强 AI 国际协调，建立可相互比较的能力评估、安全测试与事故报告标准。美国政府则明确反对借此建立新的全球 AI 治理架构，认为风险不足以成为限制技术发展的理由。分歧核心在于如何把前沿风险转化为监管制度。

OpenAI CEO萨姆·奥尔特曼在联合国呼吁制定全球统一的AI安全标准，主张以务实中间派立场平衡创新与监管，避免技术权力过度集中。

OpenAI首席执行官萨姆·奥尔特曼就AI治理公开发声，将AI风险概括为失控与权力集中两条主线，并重申不应训练无法被证明受人类控制的模型。他公布模型数学能力已达国际竞赛水平，内部模型解出纳维斯托克斯方程，并主张建立能力评估与人类监督标准。

网信部门公告新增三款手机端侧生成式人工智能服务备案信息，分别为荣耀YOYO Claw、小米miclaw与阶跃终端AI。三家覆盖终端厂商与模型厂商两条路径，端侧生成式AI正从功能演示走向面向公众的规模化服务。

世界卫生组织发布《人工智能相关健康研究：伦理审查与监管》报告，指出传统伦理审查体系难以应对算法透明度、偏见与隐私等新型风险，将AI健康研究划分为三大类别，并呼吁研究伦理委员会、资助者与监管机构跨部门协作，确保AI医疗创新安全可信。

斯坦福大学教授李飞飞近日表示，AI 安全评估不应完全交给开发这些系统的公司，由独立机构与学术界等公共部门制定基准十分关键。她提醒，随着“世界模型”等系统走向现实应用，如何评估能力日益强大的 AI 并判断其是否按预期运行，是全行业面临的根本问题。

路透社与益普索最新民调显示，73%的受访者认为AI公司为防范AI严重危害社会所采取的措施不够；39%认为AI正给社会带来负面影响，创调查以来新高，仅11%认为其带来积极影响。多数受访者不信任AI企业自我管理，并关注主要AI企业呼吁放缓发展、加强安全标准的表态。

OpenAI 与 Anthropic 向澳大利亚的 AI 法律调查提交材料，呼吁放宽使用当地创意内容训练模型的限制。两家公司承认广泛版权豁免不被支持，转而提出范围有限的有条件批准机制和平衡的版权框架，并把版权政策与悉尼、昆士兰的数据中心投资联系起来。

OpenAI通过官方博客发文，呼吁为最先进AI模型建立相互衔接的国内与国际技术标准，明确模型事故上报机制、协同推进路径与算力获取条件。OpenAI同时提出，在安全性得到确保之前，不应推进完全自主的递归式自我改进，并建议由现有AI安全机构承担标准推进工作。

国际组织下属的人工智能独立国际科学专家小组发布首份专题简报，警示各方应在彻底厘清风险机理之前，就对能力日益强大的AI智能体提前加以管控。报告援引预防原则指出，即便损害发生概率在科学层面尚不确定，潜在灾难性风险也需要尽早防护，并呼吁强化国际层面的安全与追责协作。