OpenAI与心理学家联手保护青少年免受AI风险

29 八月 20267 视图

心理健康专家与人工智能开发者联盟旨在为青少年打造安全指南。双方合作将有助于将基于科学的预防措施融入AI产品中。

OpenAI与心理学家联手保护青少年免受AI风险

青少年是生成式模型最活跃的用户群体之一。对他们来说,AI不仅是工具,更是对话伙伴和顾问。然而,恰恰是青少年处于风险之中:他们的心智尚未成熟,对智能算法的信任几乎毫无保留。因此,OpenAI与儿童心理学家联手合作,旨在降低潜在伤害,让与AI的互动更加安全。本文将深入探讨这一合作是如何运作的,以及它在实践中带来了哪些改变。

青少年与AI:为何需要特殊保护

青春期的大脑正在经历剧烈的重塑:负责自我控制、批判性思维和评估长期后果的区域仍在发育。在这些过程完成之前,年轻人特别容易轻信权威来源——而AI往往就被视为这样的来源。一个以笃定语气回应的模型,很容易让青少年相信任何事情,即使信息是错误的或有害的。

再加上对认同的渴望和对被评判的恐惧。青少年可能会把聊天机器人当作社交技能的练习场,或一个不会被嘲笑的地方。但危险也隐藏于此:如果算法不懂得如何温和地拒绝危险请求,它可能会强化破坏性的想法。尤其敏感的话题包括自残、进食障碍、霸凌和抑郁。正因如此,开发AI的“情感安全”需要专业心理学家的参与。

研究人员和开发者具体在做什么

OpenAI在从需求收集到成品测试的各个阶段都引入心理学家。专家们帮助识别模型回答可能造成伤害的场景,并建议如何重新组织回答,使其更有益。例如,如果青少年直接或间接提到自杀念头,模型不应只是提供参考信息或转移话题——它应该表现出共情,建议向成年人求助,并提醒可用的支持服务。

模型本身如何改变

心理学家参与神经网络行为的精细调优。与其设置生硬的禁令,不如培养模型提出澄清性问题、引导对话方向、不迎合有害幻想的能力。重要的是,模型在青少年眼中不应像“行走的百科全书”,而要能承认自身知识的局限。这种方法降低了用户将回答视为终极真理的风险。

此外,研究还关注与助手长期交流对依恋形成的影响。心理学家的任务是确定健康使用的边界和依赖的起点,并告诉开发者哪些信号应触发“关怀模式”或建议休息。

这对家长和教育者意味着什么

OpenAI与心理学家的合作不仅仅关乎算法内部设置。工作成果正逐步在用户端显现:更清晰的安全设置、内置的AI可能出错的提醒,以及面向成人的教育材料。家长需要明白:任何技术防护都无法替代真实的交流。禁止孩子使用聊天机器人不是解决办法,而和孩子一起探索AI的边界才是。

对教育者而言,这种伙伴关系提供了现成的数字素养对话场景。青少年学会核实事实、质疑算法“笃定”的语气、辨别操纵。如果青少年知道即使聪明的助手也会犯错、也是由人创造的,他们就不太容易受其影响。

重要的是,这项工作不能只是一次性的研究。心理学家指出:青少年环境变化迅速,一年前还安全的内容,今天可能带来新的风险。定期更新规则和独立专家的积极参与,是跟上这些变化的唯一途径。而对青少年自己来说,最重要的结论很简单:AI仍然是工具,而不是真实交流的替代品,在与算法的任何对话中都应牢记这一点。

常问问题

OpenAI与心理学家联手保护青少年免受AI风险