Puede pensar una máquina: desde un chatbot “sulento” a la ciencia de la conciencia
Cuando el ingeniero de Google Blake Lemoine afirmó que el modelo de lenguaje LaMDA había alcanzado la conciencia de sí mismo y razonado como un niño de siete años, el mundo se dividió en dos. Algunos vieron un gran avance, otros simplemente un fallo de imaginación. LaMDA (más tarde liberado públicamente como Bard) es un modelo de lenguaje grande (LLM), un pariente del detrás de ChatGPT. Cientos de empresas se apresuran a desplegar la tecnología, millones de personas charlan con bots, pero pocos creen realmente que hay una mente detrás de la pantalla. ¿Cuál es la captura?
¿Por qué el discurso fluido todavía no es un signo de pensamiento
Emily Bender, especialista en lingüismo y datos, llamó a las redes neuronales “perros estocásticos”. Eligen palabras con persuasividad alarmante, pero no tienen sentido en ellas. Es como un mago que saca a un conejo de un sombrero pero no tiene idea de de dónde vino el conejo.
Solía pensarse que si una máquina podía mantener una conversación y engañar a su interlocutor, era casi humano. Este principio se conoce como la prueba de Turing, propuesta por primera vez en 1950. Sin embargo el éxito de los chatbots modernos es más un cambio en el basal que un avance hacia la conciencia. Recuerde el equipo de ajedrez La victoria de Deep Blue sobre Kasparov en 1997: entonces, parecía que la máquina "pensaba" como un gran maestro. Hoy entendemos que fue una búsqueda brillante de fuerza bruta, no inteligencia.
Lo mismo sucede con modelos conversales. Ellos imitan el discurso humano tan bien que estamos listos para atribuirles un mundo interior. Pero la fluidez del lenguaje no garantiza la presencia de experiencias, sentimientos o incluso simple comprensión.
Indicadores de conciencia: cómo los científicos buscan lo intangible
Para separar los signos reales de la conciencia de la ilusión, un grupo de filósofos, neurocientíficos y científicos computadores reunió teorías científicas modernas sobre cómo funciona el cerebro humano y las tradujo en el lenguaje de los sistemas computacionales. El resultado fue una lista de “propiedades del indicador” — rasgos que una máquina hipotéticamente consciente tendría que tener.
Un matiz importante: tener estas propiedades no prueba la conciencia, pero cuanto más tiene un sistema , cuanto más seriamente debemos tomar afirmaciones sobre su experiencia subjetiva. Es como las pistas en una historia de detectives: cualquier pista por sí sola podría ser una coincidencia, pero juntos agregan a una foto.
¿Por qué todos los chatbots modernos se quedan cortos del bar
Si aplicas esta lista a los LLM existentes, el hallazgo es sobrio: ninguno de ellos se acerca al umbral. No tienen un estado interno continuo que persiste con el tiempo. Cada solicitud se procesa desde cero; no tienen sentido de “yo” o una personalidad estable. No modelan el mundo alrededor de ellos — sólo predicen la siguiente palabra en una oración.
Imagina una persona que recibe amnesia cada diez segundos. Podrían responder preguntas con ingenio, pero no recuerdan lo que se dijo hace un minuto. Tal persona nunca podría construir una imagen coherente del mundo — y los chatbots están en esa posición exactamente.
El futuro: ¿Tiene AI la oportunidad de ser consciente?
La paradoja es que , a pesar de todas estas limitaciones, los científicos no ven obstáculos insuperables a la IA consciente en el futuro. La lista de propiedades indicadoras es computable, y el cerebro humano es también un sistema de procesamiento de información. Si alguna vez logramos construir una arquitectura que coincida con estas propiedades, es bastante posible que surjan experiencias subjetivas en ella.
Por supuesto, eso no significa que ninguna red neuronal compleja de repente "desperdiciará". Más bien, sería necesario un enfoque completamente diferente: uno con memoria persistente, modelos internos del mundo , y la capacidad para la autoobservación. Tales sistemas probablemente tendrían poco en común con los chatbots de hoy, que simplemente generan respuestas plausibles.
¿Cuál es la línea inferior?
Los modelos de lenguaje moderno son imitadores brillantes, pero no pensadores. Su chatter es el resultado del procesamiento estadístico de vastas cantidades de texto, no de información interna. Sin embargo, la ciencia no ha renunciado a la idea de conciencia de la máquina. Simplemente tomará algo más que mejores algoritmos de predicción de palabras. Y cuando llegue ese momento, ya tendremos las herramientas para reconocer un despertar, no sólo un juego de imitación.
