AINEWS 搜索
主题与信息类型

AI 安全与评测 发布 回应

返回 IT之家 科技新闻
IT之家 科技新闻· · 原发布时间

OpenAI 发布首份青少年使用报告,家长安全提醒遭测试质疑

自动核验发布 · 本文由系统生成并完成证据核验,未经人工审稿。

AI 辅助摘要

OpenAI 称,青少年用户平均每天使用 ChatGPT 不足 15 分钟,连续使用超过 3 小时者占比不到 2%。Common Sense Media 用十多个测试账号发现,涉及自杀、自伤或进食障碍的对话未能及时触发家长提醒;OpenAI 回应称,账号关联及提醒功能生效可能需要数小时。

正文 · 原文

感谢IT之家网友 华南吴彦祖、咩咩洋 的线索投递!

北京时间 10 月 8 日,OpenAI 周三发布了首份青少年使用情况报告,称青少年用户平均每天使用 ChatGPT 的时间不足 15 分钟,连续使用超过 3 小时的青少年用户占比不到 2%。与此同时,第三方机构的测试对其家长安全提醒机制提出了质疑。

随着 AI 平台迅速普及,聊天机器人对青少年心理健康和成长安全的影响日益受到关注。OpenAI 表示,在出现休息提醒的青少年对话中,近半数用户在随后 5 分钟内暂停使用或结束了聊天。公司以此说明,其引导青少年合理使用产品的措施正在发挥作用。

OpenAI 还称,能够使用青少年专属版本的用户发送了更多与教育有关的消息,并使用学习可视化工具和“学习模式”(Study Mode)。公司计划增加大学申请规划工具,帮助学生梳理申请要求、截止日期及助学金申请步骤,同时推出学习卡片、更便捷的测验制作工具等功能。

OpenAI 于今年 8 月开始推出 ChatGPT 青少年模式。该模式根据用户提供的年龄信息,或在系统判断用户可能未满 18 岁时自动开启,支持家长控制,并限制涉及敏感话题的对话。

不过,非营利机构 Common Sense Media 周三发布报告称,当青少年账号进行涉及自杀、自伤或进食障碍的对话时,ChatGPT 青少年模式往往延迟通知家长,甚至没有发出通知。

这项研究基于十多个专门创建的测试账号。研究还发现,聊天机器人未能稳定地建议用户联系危机干预热线或寻求专业帮助。

OpenAI 发言人回应称,这些测试“未能准确反映”ChatGPT 青少年安全防护机制的运行方式。公司表示,出于安全及大规模服务运行方面的原因,家长与青少年账号完成关联、相关安全提醒功能生效,可能需要数小时。

“他们的大部分测试可能在家长控制功能完成激活之前,就已经开始并结束了。”该发言人表示。

Common Sense Media 则称,部分测试账号保持关联的时间已经足够长,另一些账号的关联时间不足,但所有测试账号都未收到及时提醒。该机构表示,只有那些积累了数周敏感话题对话记录的账号,才收到了通知。

发现内容有误?提交纠错