AI检测创企Pangram获900万美元融资
「总部位于纽约的AI检测初创公司Pangram宣布获得900万美元融资,由Menlo Ventures领投。该公司同步推出新一代文本检测模型Pangram 4,声称对AI辅助写作和混合人机内容的检测准确率超过99%,并新增AI人机化程序的识别能力。此外,Pangram还发布了AI图像检测模型的研究预览版。创始人表示,该技术通过训练模型学习AI与人类在风格和选择上的差异,而非依赖元数据或水印,旨在帮助用户辨别内容是否由AI生成,以应对互联网上日益泛滥的AI生成内容。」
随着AI生成内容在互联网上泛滥成灾,一家名为Pangram的AI检测初创公司正试图为这场混乱带来秩序。该公司刚刚宣布获得900万美元融资,并同步推出新一代AI文本检测模型Pangram 4以及AI图像检测模型的研究预览版,旨在帮助用户区分人类创作与AI生成的内容。
本轮融资由Menlo Ventures领投,Haystack、ScOp、Script Capital和Cadenza等机构参与跟投。Pangram表示,这笔资金将用于加速产品研发和市场拓展,以应对日益增长的AI内容检测需求。
Pangram的核心技术是一套基于大型机器学习模型的检测系统。该系统在数千万份已知的人类文档上进行训练,然后为每份文档创建一个“合成镜像”——即由前沿大语言模型(LLM)生成的、主题、长度和语气都相同的文本。通过对比人类文档与AI生成的镜像,模型能够学习到AI在写作风格和选择上的规律,从而高置信度地判断内容是否由AI生成。
“我们的模型是在学习AI一贯做出的风格差异和选择,并利用这些来高置信度地判断什么内容是AI生成的,”Pangram联合创始人兼CEO Max Spero表示。他强调,该检测器并不依赖复制粘贴的元数据或隐藏水印,而是基于内容本身的特征进行判断。
据Pangram介绍,新一代文本检测模型Pangram 4的准确率超过99%,能够有效识别AI辅助写作和混合人机内容。此外,该模型还增强了对AI人机化程序的检测能力——这类程序通常被用来修饰AI生成的文本,使其看起来更像人类写作。Pangram Image则是一款AI图像检测模型,目前仅以研究预览版形式提供,计划在未来几周内更广泛地发布。
Pangram的诞生背景与ChatGPT的发布密切相关。大约两年前,斯坦福大学AI与机器学习专业的毕业生Max Spero和Bradley Emi共同创立了这家公司。Spero指出,ChatGPT的推出打开了潘多拉魔盒,导致互联网上充斥着机器人、AI生成的SEO垃圾内容以及各种由LLM驱动的虚假信息活动。
“我认为,了解你正在看的内容是否是AI生成的,具有极大的价值,”Spero在接受TechCrunch采访时表示,“尤其是你正在阅读的文本,因为它改变了人们对待文本的方式。这是否需要我警惕幻觉并保持怀疑,还是说我可以信任这是由真正的记者经过充分研究后写出的内容?”
对于Pangram来说,AI检测不仅仅是为了判断一段文本是否完全由AI生成。它更关注区分不同级别的AI辅助——例如,某人自己写了内容,然后让AI进行编辑或润色。Spero认为,只要作者披露了AI的使用情况,AI辅助是可以接受的。
Pangram的出现恰逢AI使用日益普及的时期。在一些案例中,比如加拿大一位政治家在议会演讲时直接念出了AI提示词,结果招致嘲笑。在另一些案例中,比如某些律师使用ChatGPT生成的虚假引用在法庭上辩护,可能导致制裁和罚款。这些反弹不仅给个人带来尴尬或处罚,也开始影响到机构层面的规则制定。
随着AI生成内容的质量不断提高,单纯依靠人工辨别变得越来越困难。Pangram的技术路线提供了一种自动化的解决方案,帮助出版商、平台和普通用户维护内容的可信度。该公司认为,随着AI工具的普及,市场对检测工具的需求将持续增长,而这笔900万美元的融资正是基于这一判断。
来源:Heooo AI工具导航