在世袭的AI时代 将真理与虚构区分开来变得越来越困难。 Deepfake——不仅是视频,而且还有神经网络创造的基于文字的新闻——淹没了信息空间. 为了了解谁可以帮助用户识别这些内容,研究人员进行了一个不寻常的实验:他们比较了人们在寻找假象时,在多大程度上相信AI助手,他们的同伴和语言专家的建议.
实验显示的
在实验室任务中,学生必须确定合成新闻中文字的比例是由人类而不是由AI生成的. 作为提示,他们得到了三个来源: ChatGPT (基于 GPT-4其他与会者的建议以及语言专家的建议。 结果显示,在处理使用GPT-2制作的深假新闻时,参与者更多地听从ChatGPT的建议而不是同行的建议. 同时,语言学专家比其他人更受信任,但对专家对ChatGPT的相对信任却从一波就不同了. 实验到另一个。
有趣的是,在2025年使用同样方法进行的额外一轮比赛中,学生比ChatGPT更信任专家. 作者将这一点归因于对AI检测的认识的转变:也许人们已经对神经网络的局限性有了更好的理解,更重视人的专门知识.
为什么AI比人们更能激发信任?
乍一看,似乎自相矛盾的是,人们更愿意依赖一种算法,而这种算法本身可能是假象的来源,而不是现场对话者。 一种可能的解释是,认为大赦国际是一个没有主观动机的公正分析家。 另一方面,同伴可能会对能力产生怀疑,他们的意见很容易被质疑。
重要的是,深层假探测准确度的提高本身并不发生,而是通过对咨询意见及其质量的信任相结合来实现的。 换句话说,当参与者依靠高质量的建议时,他们的成果明显更好。 这突出表明,对任何来源的盲目的信仰不是答案。
结论:遗传性AI——既是一种威胁,也是一种辩护
研究的主要结论是,AI可以并且应该被用来打击AI自己创造的内容,但有一个警告. 只有这些工具本身足够准确,依靠神经网络探测器才是正当的。 否则,相信坏的建议只会使情况更糟.
研究的作者提醒我们基因模型的双重作用:它们同时产生深层假象并帮助检测它们. 因此,未来最有可能的是混合方法,即AI工具与专家一起工作,而用户则保持健康的怀疑态度.
