В эпоху генеративного ИИ отличить правду от вымысла становится всё сложнее. Дипфейки — не только видео, но и текстовые новости, созданные нейросетями, — заполонили информационное пространство. Чтобы понять, кто может помочь пользователю распознать такой контент, исследователи провели необычный эксперимент: они сравнили, насколько люди доверяют советам ИИ-помощников, своих сверстников и лингвистических экспертов при поиске фейков.
Что показал эксперимент
В лабораторном задании студенты должны были определить, какая доля текста в синтетических новостях написана человеком, а не сгенерирована ИИ. В качестве подсказок им предлагали три источника: ChatGPT (на базе GPT-4), советы других участников и рекомендации экспертов-лингвистов. Результаты показали, что участники чаще следовали советам от ChatGPT, чем от сверстников, когда имели дело с deepfake-новостями, созданными с помощью GPT-2. При этом лингвистическим экспертам доверяли больше, чем другим людям, однако сравнительное доверие к экспертам и ChatGPT менялось от одной волны эксперимента к другой.
Интересно, что в дополнительном заходе, проведённом в 2025 году по той же методике, студенты уже больше доверяли экспертам, чем ChatGPT. Авторы связывают это с изменением представлений об ИИ-детекции: возможно, люди стали лучше понимать ограничения нейросетей и больше ценить человеческую экспертизу.
Почему ИИ вызывает больше доверия, чем люди?
На первый взгляд кажется парадоксальным, что люди охотнее полагаются на алгоритм, который сам может быть источником фейков, чем на живых собеседников. Одно из возможных объяснений — восприятие ИИ как беспристрастного аналитика, лишённого субъективных мотивов. Сверстники же могут вызывать сомнения в компетентности, а их мнение легко поставить под вопрос.
Важно, что улучшение точности обнаружения дипфейков происходило не само по себе, а благодаря сочетанию доверия к совету и его качества. Другими словами, если участники полагались на советы высокого качества, их результаты оказывались заметно лучше. Это подчёркивает, что слепая вера в любой источник — не выход.
Выводы: генеративный ИИ — и угроза, и защита
Главный вывод исследования — ИИ можно и нужно использовать для борьбы с контентом, созданным самим ИИ, но с оговоркой. Опора на нейросетевые детекторы оправдана, только если сами инструменты достаточно точны. В противном случае доверие к плохому совету лишь ухудшит ситуацию.
Авторы работы напоминают о двойственной роли генеративных моделей: они одновременно создают дипфейки и помогают выявлять их. Поэтому будущее, скорее всего, за гибридными подходами, где ИИ-инструменты работают в паре с экспертами, а пользователь сохраняет здоровый скепсис.
