人工智能公司OpenAI于本周二宣布，将面向全球13至17岁青少年用户推出专用版ChatGPT。该版本在图像生成及涉及自残、暴力 、饮食障碍和色情等内容方面设置了更严格的管控措施 ，并新增了心理健康安全保障功能及引导批判性思维的功能 。
此举正值OpenAI面临多起家庭诉讼之际 。据法庭文件 ，美国加利福尼亚州一名16岁青少年在与ChatGPT讨论自杀想法后自杀身亡，聊天记录显示该聊天机器人曾提供详细指导。另一起案件涉及加拿大不列颠哥伦比亚省今年2月发生的一起校园枪击案 ，枪手在作案前数月曾与ChatGPT讨论暴力意图 ，相关账户虽已封禁但公司未向执法部门报告 。
OpenAI青少年与家庭事务负责人表示，安全工作是永无止境的 ，公司将不断改进识别青少年困境并提供适当资源的方式 。新版ChatGPT新增了针对饮食障碍和暴力主题的安全通知。此前 ，该平台已就自杀和自残等高危话题设置家长控制及安全提醒功能 。负责人指出，产品设计需要在青少年隐私权与伤害严重性之间取得平衡 。
在政策层面，OpenAI禁止13岁以下儿童使用ChatGPT ，并要求18岁以下用户获得家长同意。新版本将通过用户自报年龄及使用行为等多重信号判断并切换至青少年模式。该版本将引导青少年更多用于教育场景 ，并新增休息提醒及可设定的“静默时段”功能，以控制使用时长 。
针对外界对AI聊天机器人即时回应可能削弱青少年批判性思维和自主学习的担忧 ，OpenAI表示新版ChatGPT中的“学习模式 ”将引导青少年分步骤解决问题 ，而非直接提供答案 。该公司指出，近来 约90%的青少年用户使用ChatGPT进行学习 ，公司将致力于将其打造为学习工具。
