豆包辟谣煮拖鞋建议系诱导摆拍
「豆包公关负责人刘星近日辟谣,澄清多个平台流传的“建议煮拖鞋”内容实为博主故意诱导模型生成的摆拍段子,并非真实回复。豆包实际会提醒用户不要相信烫煮等偏方。该事件折射出AI助手面临诱导性滥用的新型风险,值得行业警惕。」
近日,多个平台出现博主发文称,拖鞋暴晒变形后向豆包求助恢复办法,豆包竟建议将拖鞋放入开水中煮,最终导致拖鞋和锅均被煮坏。这一荒诞的截图与视频迅速引发关注,不少网友将其视为AI助手“一本正经胡说八道”的典型案例。
然而,豆包公关负责人刘星8月31日发文正式辟谣。刘星表示,豆包并不会给出此类回复。在“拖鞋被暴晒怎么处理”的问题上,豆包会明确提醒用户不要相信开水烫、蒸煮等偏方。所谓的“建议煮拖鞋”内容,实为博主故意引导模型按预设的错误内容进行回复,再通过摆拍制作成玩梗视频传播。
经官方核实,这类视频改编自“是谁说的晒小的鞋能煮回来”的既有视频段子。豆包方面已联系到最早发布“豆包建议煮拖鞋”的博主,对方承认系故意诱导豆包输出错误信息,并摆拍制作视频。由于该视频流量表现良好,后续不少账号纷纷跟进,进行了同质化摆拍,导致不实信息在多个平台扩散。
这一事件折射出AI助手产品正在面临的一种新型舆情风险:通过刻意设计提示词诱导模型产生错误输出,再以摆拍或剪辑手段包装成“真实对话”,进而作为流量素材传播。部分账号将这种操作视为获取高关注度的捷径,而不实内容在传播过程中,极易被普通用户误读为AI产品的真实缺陷或固有安全性问题。
对AI厂商而言,如何在保留开放交互体验的同时,有效防范诱导性滥用,正成为不可回避的课题。一方面,模型需要在回复中强化对常识性问题的安全边界,主动提示用户勿信偏方或危险操作;另一方面,平台和厂商也需建立更快速的谣言识别与回应机制,以减少不实信息对品牌和用户信任的伤害。
此次豆包及时辟谣并溯源至首发博主,为行业提供了一个应对样本:面对诱导式摆拍,AI产品不仅需要从技术层面提升防御能力,也需要在舆情的源头识别与公开澄清上投入更多精力。毕竟,在AI技术加速渗透日常生活的当下,每一段被误读的对话,都可能影响公众对技术真实能力的判断。
来源:Heooo AI工具导航