AI行业资讯

为应对学生使用AI工具完成书面作业的作弊问题，丹麦教育机构出台新规：学生提交书面作业后，必须参加口头答辩以证明其真实理解。此举旨在平衡技术应用与学术诚信，引发教育界对AI时代考核方式的深入讨论。

小红书官方发布《AI治理规则公告》，明确AI账号治理原则：使用AI虚拟人需主动说明，AI生成内容需披露，反对AI洗稿、合成他人声音、捏造新闻等行为，并针对违规账号采取限制分发、禁言、封禁等梯级处罚措施。

美国政府近期与头部AI企业闭门会议明确，前沿模型网络安全审查机制当前仅针对闭源模型，开放权重模型暂不受影响。该机制要求自愿提交的模型进入最多30天预发布审查期，由多机构联合审查。此举旨在平衡创新与安全，开源社区短期内无需担忧限制。

白宫完成先进AI模型评估框架却秘而不宣，仅向参与企业提供细节，引发外界对AI监管透明度的担忧。该框架涉及AI模型发布前30天政府访问权限、网络安全等要求，并将技术基准测试列为机密。开源议题成为讨论焦点，英伟达、微软等反对限制中国开源模型，OpenAI等则持相反立场。欧盟、英国未回应，全球AI治理面临新挑战。

美国联邦第九巡回上诉法院推翻一审禁令，裁定Perplexity AI智能体访问亚马逊平台不违反黑客法。法院认为访问行为由用户借助Comet浏览器实施，而非Perplexity自身。亚马逊表示异议并评估后续行动，Perplexity则强调继续捍卫用户选择AI工具的权利。此裁决为AI代理合法访问电商平台设立重要先例。

北京首例破坏人工智能模型刑事案件宣判，算法工程师王某因删除公司AI游戏部门全部开发数据，导致模型训练系统瘫痪，被判处有期徒刑五年十个月并赔偿20.4万余元。此案凸显AI数据安全重要性，警示从业者遵守企业数据管理规范，避免因个人行为造成不可挽回的损失。

美国政府按期完成先进AI模型自愿性评估框架制定，但未公开内容或时间表。该框架源于总统行政命令，旨在规范模型发布前30天的政府获取流程，涉及保密、网络安全等要求。OpenAI、Anthropic和谷歌已提供反馈，但白宫未披露框架细节，引发行业对监管透明度的关注。

美国政府按期完成了一项针对先进AI模型评估的自愿性框架制定工作，但白宫未公开具体内容。该框架旨在为AI开发商提供结构化流程，用于与政府合作判断模型是否受监管。框架涵盖保密、网络安全、知识产权等要求，并明确可信合作伙伴的访问权限。政策制定者及AI企业正等待更多细节，白宫计划与企业举行会议讨论下一步计划。

欧盟《人工智能法案》新透明度要求于8月2日生效，强制企业标注AI生成内容及交互，违规者最高罚款1500万欧元或全球年营业额3%。新系统立即适用，存量系统有4个月过渡期，需在12月2日前完成合规调整，以应对深度伪造风险。

四川证监局公布AI造假炒股第一案，95后投资者孙某利用AI工具在两天内批量编造17篇虚假文章，影响纯碱期货价格，获利8.5万元后被没收并罚款40万元，合计罚没48.5万元。此案凸显AI降低造谣成本，监管执法同步加码，警示市场参与者。

慕尼黑法院近日裁定，AI音乐生成器Suno在模型训练及输出中构成版权侵权，驳回其合理使用抗辩。诉讼由德国音乐版权组织GEMA提起，涉及《Atemlos durch die Nacht》和《Rasputin》等歌曲。法院指出Suno模型存在“记忆化”现象，能再现原作品元素，且其绕过技术保护措施抓取数据，需承担直接责任。判决尚未生效，或影响AI行业版权合规。

美国明尼苏达州针对AI“脱衣”应用的禁令在联邦法官驳回xAI的临时限制令申请后，按计划于8月1日生效。法官认为xAI诉讼拖延，损害非迫在眉睫。xAI主张禁令过于宽泛，但案件仍在审理中。此前，xAI的Grok聊天机器人曾被滥用生成色情图片，引发监管关注。

美国明尼苏达州针对“脱衣”应用的禁令获联邦法官支持，可如期生效。xAI虽提起诉讼，但因申请临时限制令时机过晚，法院未予批准。该禁令为美国首例，xAI认为其过于宽泛，但法官指出原告延迟申请表明伤害并非紧迫。此案仍在审理中，禁令生效期间诉讼继续。

环球、索尼、华纳等多家唱片公司联合提议，将低质量AI生成音乐从国际排行榜中剔除，要求歌曲必须“实质上由人类创作”才可打榜。该提议比此前仅要求标识的提案更为严格，还涉及AI训练数据合法性和刷榜担忧。国际唱片业协会已表示支持，但排行榜机构尚未采纳。

欧盟《人工智能法》透明度要求于8月2日起正式实施，要求聊天机器人等AI系统明确告知用户其AI身份，深度伪造内容需标识并添加机器可识别标记。违规者面临最高750万欧元或全球年营业额1%的罚款。首批180多家机构签署透明度行为准则，包括谷歌、微软、OpenAI等，Meta拒绝加入。

德国慕尼黑地方法院裁定AI音乐公司Suno侵犯版权，因其未经授权使用Gema所代表艺术家的作品，责令其披露非法获利并支付赔偿金。该判决可上诉，Suno估值达54亿美元。此案凸显AI音乐生成领域的版权争议，已有超1800名艺术家支持集体诉讼。

国家发展改革委在新闻发布会上表示，上半年我国AI自主创新加速，本土企业发布万亿级开源大模型，国产大模型全球下载量破百亿次。下一步将统筹发展与安全，加快《人工智能法》立法，聚焦基础研究、应用中试和生态建设，强化风险监测防控，构建中国特色AI治理方案。

我国人工智能迎来全产业链突破，国产大模型全球下载量突破100亿次，万亿级开源模型频出。国家发展改革委表示将加快《人工智能法》立法，从自主创新、应用导向、生态深化三方面发力，同时强化风险监测防控，确保技术由人主导、为人所用、与人为善。

欧盟委员会拟将Roblox和ChatGPT认定为“超大型在线平台”，因其月活用户超4500万。新规要求提升透明度、评估系统性风险、接受独立审计，违规者面临全球年营业额6%的罚款。这一监管风暴将重塑AI与游戏平台的合规生态，推动行业更加注重用户安全与算法透明。

美国联邦法官Rita Lin在听证会上指出，特朗普政府未能提供充分证据证明Anthropic构成“供应链风险”，并质疑政府以企业批评国防部为由实施禁令的逻辑。该案源于Anthropic与五角大楼的合同谈判破裂，Anthropic拒绝将其AI用于大规模监控或致命武器决策。政府声称Anthropic可能战时远程操控模型，但法官认为缺乏证据。目前法官正考虑是否将临时禁令转为永久禁令。