Anthropic文本水印引发去水印工具潮
「Anthropic为Claude模型引入不可感知的文本水印,以提升AI内容透明度,却催生了大量去水印工具。开发者通过改写文本、删除隐藏字符等方式绕过水印,引发关于技术有效性、法律边界及AI内容归属的激烈讨论。」
Anthropic近期宣布部分Claude模型生成的文本将带有一种“不可感知的水印”,旨在让AI生成内容更容易被识别。然而这一举措迅速引发了开发者的反向行动,一系列专门用于移除水印的工具开始涌现,使得水印技术的有效性与伦理边界再度成为业界焦点。
这种水印并非显形标记,而是通过Claude模型选词方式形成的统计模式,因此即使复制粘贴文本,水印也会保留。支持者认为这有助于提高内容透明度,但不少科技从业者担忧,即使用户仅使用Claude进行校对、翻译或总结,水印也会随最终内容一同传播。此前已有用户因这一顾虑而取消订阅,市场反弹情绪可见一斑。
在美国,Google Trends数据显示“AI watermark remover”的搜索热度环比上涨60%。巴黎科技创业者Guillaume Meyer在Anthropic公布计划几天后便发布了开源项目“Watermarks Remover”,该工具通过删除隐藏字符和元数据,并在保持含义的前提下重写文本,从而破坏可能携带水印的统计性选词模式。Meyer表示第一版工具仅花5小时完成,目前项目在GitHub上已获得超过1.4万个Star。但他也承认,该工具无法保证彻底移除水印。
Meyer强调,他支持内容归属标注,但反对这种水印技术,认为水印把作者身份当成“非黑即白”的事情。Anthropic则回应称,水印并非为了确定作者身份。与此同时,更多开发者加入战局。Sabrina Ramonov发布了免费的浏览器端“Watermark Remover”,宣称可从文本、PDF、Word、网页、图片及数据文件中清除隐藏的AI标记;东京开发者Ansh Aneja则在Anthropic宣布当天就开发了针对Claude的水印移除工具,随后又发布本地开源版本MarkScrub,据称一天内用户从0增至8500,但该数字未获独立核实。
苏黎世联邦理工学院研究员Thibaud Gloaguen指出,这些工具再次体现了水印技术的长期局限性,用户可以通过重新措辞整篇文本破坏水印模式。从法律角度看,AI水印移除工具目前处于灰色地带。欧盟《人工智能法案》要求AI公司为生成内容添加持久性标记,但并未明确禁止第三方移除。欧盟委员会发言人表示,透明度规范将移除、重新生成、复制和修改列为AI服务提供商应评估的潜在威胁,但这些要求针对的是服务提供商。斯特拉斯克莱德大学讲师Dmitri Roussinov认为,《人工智能法案》并未禁止第三方尝试移除水印,但如果移除工具利用AI重新生成文本,其提供商可能也需要为重新生成的内容添加相应标记。
马斯特里赫特大学助理教授Konrad Kollnig表示,现行法律和Anthropic服务条款均未禁止开发或分享水印移除工具,但若用户利用工具将AI内容伪装成人类创作,则可能违反Anthropic的使用政策。随着Anthropic计划在下一代模型发布时推出文本检测API,水印与去水印的攻防博弈预计将进一步升级。Kollnig总结道,所有水印技术都有一个共同问题:一旦检测工具公开,任何人都可以利用它检查内容并开发相应的移除工具。这场围绕AI内容可溯源性的竞赛,远未结束。
来源:Heooo AI工具导航