青少年版ChatGPT推出 安全机制遭专家质疑

OpenAI本周正式推出ChatGPT青少年版，面向年轻用户群体，并引入年龄识别机制以限制部分功能。然而，这一新产品并未获得儿童安全领域的一致认可。外媒Engadget采访的多名专家认为，在推荐给家长和年轻人之前，这套系统仍需接受大量独立测试，OpenAI也必须更加透明地说明其安全机制的实际运作方式。

Common Sense Media公司AI与数字评估负责人罗比·托尼表示，OpenAI作出了一些非常重要的承诺，但必须拿出证据证明这些安全承诺和功能确实有效。儿童网络安全倡议组织Fairplay执行董事乔什·戈林的态度则更为严厉。他指出，虽然OpenAI公布的措施从纸面上看像是在朝正确方向前进，但深挖之后仍有许多令人担忧之处，尤其是缺乏问责机制。戈林提醒，社交媒体已经证明，在保护儿童的问题上，仅凭企业自律并不可靠，OpenAI此前也曾出现过类似问题，其针对自杀、暴力和吸毒的内容限制要么不起作用，要么会随时间推移逐渐失效。

两位专家都怀疑OpenAI的自动年龄识别系统能否稳定识别青少年并切换到相应的青少年版。托尼指出，OpenAI没有公布这套系统的效果数据，误报率和漏报率均不为人知，自动系统远不可能识别所有青少年。他回顾称，OpenAI此前曾计划推出部分色情内容功能，最终放弃的其中一个原因就是年龄估算技术无法准确识别足够多的青少年。此外，青少年几乎肯定会尝试绕过年龄识别，寻找更出人意料的规避办法。

OpenAI做出的最具体承诺，恰恰也是专家最怀疑能否落实的一项。OpenAI青少年与家庭事务负责人劳伦·乔纳斯回应称，所有被标记的内容都会先由全职员工审核，之后才会通知家长，并承诺在用户发出提示后一小时内通知家长。她还表示，OpenAI拥有足够的人手和处理能力来保障这一流程。但托尼对此提出质疑，认为该流程仍依赖自动化决策，负责筛选内容并转交人工审核的自动分类器是否值得信任，是个关键问题。戈林也要求看到硬数据，包括每天有多少对话被标记和审核、审核人员的数量以及每次审核平均耗时，他很难想象OpenAI已经雇到足够的人手，能够认真审查每一段可能存在危险的对话。

三名专家还一致认为，由家长和孩子主动绑定ChatGPT账户的机制削弱了功能的实际效果。戈林指出，绝大多数家长根本不会使用家长监督工具，因为这些工具往往被设计得难以找到、难以操作。他建议更有效的做法是默认开启保护功能，例如默认设置使用时间限制，再让家长根据需求调整，而不是将责任完全推给家长。