La herramienta ya está en el laboratorio — la cuestión es otra
Los modelos de lenguaje dejaron de ser una excentricidad en la investigación. La síntesis de literatura, los borradores de hipótesis, el código para procesar datos, la verificación de desarrollos formales — todo esto ya forma parte de la cotidianidad. Pero junto con la comodidad llega una pregunta que no se resuelve con ajustes ni reglamentos: si parte del razonamiento lo ha realizado una máquina, ¿bajo qué condiciones el resultado todavía puede llamarse conocimiento y no simplemente texto verosímil?
Así es precisamente como plantea el problema Kalin Stoyanov en el trabajo «Ethical LLM-Assisted Research» (arXiv:2608.23644, 24 de agosto de 2026). No es un nuevo llamamiento a «usar la IA con cautela», sino un intento de construir un marco normativo y conceptual — es decir, un lenguaje con el que se pueda discutir con rigor la delegación del trabajo cognitivo.
Premisa clave: el razonamiento científico es un proceso distribuido. La contribución al mismo puede provenir de distintas fuentes, humanas y máquinas, en cualquier proporción. Pero la responsabilidad de lo que finalmente entra en el registro científico sigue siendo humana. Por lo tanto, la pregunta «cuánta IA es admisible en un artículo» está mal formulada. La pregunta correcta suena de otro modo: qué es exactamente lo que el ser humano está obligado a hacer para que el resultado siga siendo legítimo.
Cinco variables en lugar de una vaga «participación de la IA»
Por lo general, la discusión se reduce a un porcentaje: cuánto escribió la persona, cuánto el modelo. El marco propone descomponer esto en cinco constructos separados. Cada uno de ellos puede variar independientemente de los demás.
- Origen del contenido (O(g)) — quién o qué generó una afirmación concreta.
- Completitud de la verificación humana (V(g)) — si la verificación fue llevada hasta el final por un investigador real.
- Asignación de responsabilidad (R(g)) — a quién se le atribuye la carga de la decisión de aceptar una afirmación.
- Pertenencia humana responsable (M(g)) — quién posee la afirmación en el sentido de estar dispuesto a defenderla y responder por ella.
- Resultado epistémico (E(g)) — qué aporta la verificación en términos de incremento del conocimiento.
La distinción parece casi pedante, pero cierra una laguna que todos aprovechan. Origen, verificación, resultado y responsabilidad son cosas distintas, y no se pueden deducir una de otra. El texto pudo haber sido generado por una máquina, y aun así responderá por él una persona — y eso es normal. También ocurre lo contrario: formalmente todo lo escribió el autor, pero la verificación fue ficticia, y el conocimiento, al final, no aumenta.
Por qué no basta con «lo revisé todo»
La frase «lo leí y estoy de acuerdo» no es verificación. No registra qué se verificó exactamente, sobre qué base y dónde está la frontera entre lo confirmado y lo aceptado por fe. El constructo V(g) precisamente exige que la verificación se complete, no que se declare. Esto es importante porque el razonamiento asistido por LLM es exteriormente casi indistinguible del habitual: el texto es fluido, los argumentos coherentes, las referencias parecen reales.
La frontera pasa por la verificación, no por el volumen de la contribución de la máquina
La tesis central del trabajo dice así: la frontera ética se define por una verificación adecuada y una pertenencia humana responsable, no por el grado de implicación de la máquina. Es decir, el hecho mismo de delegar es éticamente neutro. Se convierte en problema solo cuando la verificación es formal y la responsabilidad difusa.
Esto invierte la lógica habitual. Discutir sobre «cuántos por ciento» escribió el modelo carece de sentido: tanto una sola línea generada e insertada ciegamente en la conclusión puede arruinar el resultado, como una amplia ayuda de la máquina con una verificación honesta no rompe nada. Lo peligroso no es el volumen de la delegación, sino su opacidad.
Auditoría epistémica: un registro que hace verificable el razonamiento
De esta lógica surge una herramienta práctica: la auditoría epistémica. Es un registro estructurado de qué se delegó, cómo se verificó, de dónde vino el contenido y a quién se le asignó la responsabilidad. En esencia, un diario del origen de las ideas, no una lista de herramientas utilizadas.
El valor de tal registro radica en que hace el razonamiento accesible a la verificación externa. El lector, el revisor o el coautor pueden ver dónde termina la conjetura de la máquina y comienza el hecho confirmado. No es un informe para organismos de control, sino un artefacto de trabajo: ayuda también al propio autor a notar que en algún punto aceptó una afirmación sin verificarla simplemente porque sonaba convincente.
Cómo se ve esto en el trabajo diario
El marco se puede reducir a unas pocas acciones que no requieren ni un nuevo puesto en el laboratorio ni un software especial.
- Lleve un registro de la delegación: qué exactamente le entregó al modelo — búsqueda de literatura, borrador de un argumento, código, verificación formal.
- Marque el origen: qué fragmento vino de la máquina y cuál de usted.
- Separe la verificación del acuerdo: registre qué verificó concretamente y de qué manera.
- Nombre al responsable con nombre y apellido, no «el grupo de autores». No importa si fue ChatGPT u otro asistente: por la afirmación responde una persona.
- Verifique primero lo más convincente: un párrafo bien escrito no es señal de corrección, y a veces es lo contrario.
Dónde se rompe con más frecuencia
Tres puntos de fallo típicos. El primero: las referencias y citas, que parecen verosímiles pero requieren confirmación manual. El segundo: las afirmaciones numéricas y estadísticas, que se aceptan fácilmente como un hecho dado. El tercero: las generalizaciones «obvias», que nadie verifica porque parecen banales.
Límites de aplicabilidad y puntos discutibles
El marco es formal, y por lo tanto opera con las consecuencias de las definiciones adoptadas, no con la práctica viva. Queda abierta la cuestión de cómo medir la «completitud de la verificación»: es un constructo, no un número. Tampoco está del todo claro cómo integrar la auditoría en la revisión por pares: las revistas aún no exigen registros de delegación, y no es seguro que lleguen a exigirlos.
Existe también el riesgo de que la idea se convierta en un ritual. Toda rendición de cuentas tiende a volverse burocracia: si la auditoría se hace para cumplir el trámite, pierde sentido exactamente igual que lo perdería una verificación ficticia. La utilidad de la herramienta se sostiene sobre la honestidad de quien la lleva.
Qué le queda al final al ser humano
A la máquina se le puede entregar mucho: el trabajo preliminar, la exploración de variantes, la rutina de búsqueda, el ensamblaje inicial del texto. Lo que no se delega es otra cosa: la decisión sobre qué considerar establecido y la disposición a responder por ello. El marco de Stoyanov ofrece para esto un vocabulario formal: permite distinguir la delegación cognitiva responsable de la simple transferencia de responsabilidad o de su silencioso ignorar.
En realidad, es un regreso a la vieja norma del trabajo científico, solo que con una nueva herramienta en las manos. El conocimiento siempre fue el resultado de la verificación, no de una declaración. La aparición de los LLM no cambió nada en esto: solo hizo más visible la diferencia entre la verificación y su imitación.
