En la era de la IA generativa, distinguir la verdad de la ficción es cada vez más difícil. Deepfakes, no sólo videos, sino también noticias basadas en textos creadas por redes neuronales, han inundado el espacio informativo. Para entender quién puede ayudar a los usuarios a reconocer ese contenido, los investigadores llevaron a cabo un experimento inusual: compararon la cantidad de personas que confían en los consejos de los asistentes de inteligencia artificial, sus compañeros y expertos lingüísticos cuando buscan falsificaciones.
Lo que el experimento mostró
En la asignación de laboratorio, los estudiantes tuvieron que determinar qué proporción de texto en las noticias sintéticas fue escrito por un humano en lugar de generado por la AI. Como indicios, se les ofreció tres fuentes: ChatGPT (sobre la base de GPT-4), asesoramiento de otros participantes y recomendaciones de expertos lingüísticos. Los resultados mostraron que los participantes siguieron consejos de ChatGPT más a menudo que consejos de los pares cuando se trataba de noticias de gran fama creadas utilizando GPT-2. Al mismo tiempo, los expertos lingüísticos se confiaron más que otras personas, pero la confianza relativa en los expertos contra ChatGPT varió de una ola del experimento a otra.
Curiosamente, en una ronda adicional realizada en 2025 utilizando la misma metodología, los estudiantes confiaron en expertos más que ChatGPT. Los autores atribuyen esto a un cambio en las percepciones de detección de IA: tal vez la gente ha llegado a comprender mejor las limitaciones de las redes neuronales y valorar la experiencia humana más.
¿Por qué IA inspira más confianza que la gente?
A primera vista, parece paradójico que la gente esté más dispuesta a confiar en un algoritmo que puede ser en sí misma una fuente de falsos que en interlocutores vivos. Una posible explicación es la percepción de la IA como analista imparcial carente de motivos subjetivos. Peers, por otro lado, puede plantear dudas sobre la competencia, y sus opiniones son fáciles de cuestionar.
Importantemente, la mejora de la precisión de detección de profunda fama no ocurrió por sí misma, sino a través de una combinación de confianza en el consejo y su calidad. En otras palabras, cuando los participantes se basaron en consejos de alta calidad, sus resultados fueron notablemente mejores. Esto pone de relieve que la fe ciega en cualquier fuente no es la respuesta.
Conclusiones: AI generativa, amenaza y defensa
La conclusión principal del estudio es que AI puede y debe ser utilizado para combatir el contenido creado por la propia AI, pero con una caverna. Confiar en los detectores de redes neuronales sólo se justifica si las herramientas mismas son lo suficientemente precisas. De lo contrario, confiar en malos consejos sólo empeorará la situación.
Los autores del estudio nos recuerdan el doble papel de los modelos generativos: crean simultáneamente profundos y ayudan a detectarlos. Por lo tanto, el futuro más probable radica en enfoques híbridos, donde las herramientas AI trabajan junto a expertos, mientras que los usuarios mantienen un escepticismo saludable.
