为什么要为青少年单独设置一个 ChatGPT 模式
OpenAI将分散的保护年轻用户的机制合并为单一的"十"简介. 现在,所有将年龄说成是13至17岁的人(以及 根据间接信号考虑18岁以下系统) 自动进入特殊模式 ChatGPT这是在公众压力越来越大的情况下出现的:父母和教育工作者越来越多地问人工智能工具如何影响学童的思想和行为,需要明确的安全规则。
在公司的官方博客中,新体验被描述为帮助青少年学习,发展批判性思维,与AI更自信地合作的一种方式. 在实践中,它是一套限制,提示,和设置,旨在让与神经网络的相互作用更加注意.
13-17岁用户的具体变化
主要内容是内容过滤. 与图形暴力,自伤害影像,以及性与浪漫角色扮演相关的话题默认被禁止. 如果青少年试图触及其中任何一个,模型的反应比成年人更严格.
围绕某些危险话题,如饮食失调,ChatGPT现在显示警告和参考材料,而不是简单地给出答案. 但对于AI助理来说, 这是迈向“医疗”谨慎的显著步骤。
父母控制和“安静时间”
对父母来说,增加了以前分散在不同场合的一些工具。 您可以设置"静时"——当ChatGPT的使用被劝阻时——并且如果系统检测到一个有潜在风险的请求,就可以收到通知. 这并非完全监视,而是一个信号:也许青少年遇到了一些有关的事情。
还有一些元素旨在让使用更加"健康":在上传敏感图像前提醒,为首次登录而改编登机,以及口音颜色或语音变化等界面设置. 这些小的触摸使得产品更适合年轻观众使用,但携带的语义重量很小.
一个单独的学习模式和处理“切角”
最有趣的新特点是"负责任的家庭作业提醒". 该模型在青少年试图获得现成解决方案时学习识别,转而将其转向ChatGPT中的特殊学习模式. 在那里,可以一步一步地分解任务,而不得到最后的答案. 此外,还可以设置"学习时间":然后模式会自动发射,例如晚上从四点到六点.
这个特征针对教育领域对AI的主要批评——儿童停止为自己思考. OpenAI试图将助手从"溶解器"变成导师.
这真的有多新啊
值得承认的是,所述措施大多已经以这种或那种形式存在。 公司在年初引入了年龄估计,大约一年前就出现了家长控制和学习模式,自上个月以来,青少年已经更多地被显示休息提醒。 目前的发射更是一种巩固而不是革命. 主要新颖性是统一的"包",少数有针对性的添加,如"责任提醒".
尽管如此,OpenAI强调保护机制是建立在正在进行的安全研究之上的. 公司承诺发布更多关于年轻用户行为的数据,并逐渐添加新工具. 因此,目前的模式并不是最后一点,而是AI服务中保护未成年人的大型系统的工作原型.
归根结底,对于青少年和父母来说,改变的更多是控制感和可预测性。 ChatGPT将保持同样有用的助手,但有更清晰的界限,可以定制以满足个人需求.
