OpenAI推出青少年版ChatGPT强化安全防护 封面图
行业资讯

OpenAI推出青少年版ChatGPT强化安全防护

Heooo 08月18日22时32分 32 阅读

「OpenAI正式发布ChatGPT for Teens,针对青少年用户加入默认安全保护、学习模式与家长控制功能,以回应此前关于AI聊天机器人对未成年人心理健康影响的争议。该版本还新增防作弊提醒和CodeAI合作,旨在引导青少年更健康地使用生成式AI工具。」

OpenAI于近日宣布正式推出ChatGPT for Teens,这是一款专门面向青少年用户打造的对话式AI产品。该版本在原有ChatGPT基础上,增加了多项针对未成年人的安全防护机制,并引入全新的学习模式,试图在开放探索与内容管控之间找到更合理的平衡点。这一产品发布正值社会各界对AI聊天机器人安全性的关注日益升温之际,此前多起涉及未成年人使用AI后出现心理问题的诉讼,促使科技公司重新审视其产品对年轻用户的影响。

OpenAI推出青少年版ChatGPT强化安全防护

从技术角度看,ChatGPT for Teens的核心变化体现在默认开启的保护性措施上。OpenAI在其官方博客中表示,这些措施基于该公司制定的Under-18 Principles,并参考了发育科学和专家建议,旨在减少青少年接触有害或不适合其发展阶段的内容。这意味着,即使没有家长额外设置,青少年用户在首次使用时就处于一个相对受控的对话环境中。

值得关注的是,新版本特别强化了学习场景的支持。OpenAI推出了名为Study Mode的专属功能,该模式不会直接给出答案,而是通过引导性问题、分步骤提示和阶段性支持,帮助青少年理解知识背后的逻辑。这种设计显然是为了应对日益严重的AI辅助作弊现象。如果系统检测到用户试图通过直接获取答案来完成任务,ChatGPT会触发作业提醒,并建议用户切换到Study Mode进行真正的学习。

此外,青少年版还提供测验功能和学习可视化工具,帮助用户构建系统化的知识框架。家长或监护人可以通过App内的家庭工具来设置Study Mode的默认状态,接收安全通知,并设定安静时段以限制非学习时间的使用。这些控制选项与OpenAI此前推出的家庭管理功能保持一致,体现了产品向更精细化的未成年人服务方向演进。

OpenAI推出青少年版ChatGPT强化安全防护

OpenAI同时宣布与CodeAI建立合作关系,后者将为青少年提供关于AI原理、提问方式和批判性思维的课程资源。这一举措旨在提升青少年对AI工具的认知水平,帮助他们不仅会使用AI,更懂得如何评估AI的输出。在教育机构方面,OpenAI此前已推出ChatGPT for Teachers,为学校提供机构级的管理入口和支持,此次青少年版进一步补全了其面向教育生态的产品矩阵。

不过,许多观察人士也指出,青少年用户通常具备较强的技术绕行能力,现有的家长控制和安全提醒可能在实际使用中面临被绕过的情况。目前尚不清楚ChatGPT for Teens的保护机制在真实环境中能够承受多大的对抗性测试。OpenAI自己也承认,这些措施需要经过更严格的实践检验才能验证其有效性。此外,也有评论质疑为何这些针对未成年人的保护措施没有在ChatGPT最初发布时同步上线。ChatGPT自2022年底推出以来,已积累了近九亿的周活跃用户,而专门为青少年设计的安全机制直到今天才正式落地,这中间的空白期确实存在值得反思的空间。

从行业角度看,ChatGPT for Teens的发布,标志着主流AI聊天机器人产品开始从“通用型工具”向“分龄化服务”转型。未来,类似的安全分层、教育模式、家长控制等功能,可能会成为AI消费级产品的标配。OpenAI此次的动作,也为其他AI企业提供了一个参考方向:如何在保护未成年人权益的前提下,继续推动AI技术的正向应用。

# OpenAI # ChatGPT # 青少年安全 # AI教育 # 家长控制

来源:Heooo AI工具导航