Pode uma máquina pensar: de um chatbot “alma” à ciência da consciência
Quando o engenheiro do Google Blake Lemoine afirmou que o modelo de linguagem LaMDA tinha alcançado autoconsciência e raciocinado como uma criança de sete anos, o mundo se dividiu em dois. Alguns viram um avanço, outros simplesmente uma falha de imaginação. LaMDA (mais tarde lançado publicamente como Bard) é um grande modelo de linguagem (LLM), um parente do que está por trás do ChatGPT. Centenas de empresas estão agora correndo para implantar a tecnologia, milhões de pessoas conversam com bots, mas poucos realmente acreditam que há uma mente por trás da tela. Então, qual é a pegadinha?
Por que falar fluentemente ainda não é sinal de pensar
Linguista e especialista em dados Emily Bender famosamente chamou tais redes neurais de “papapas estocásticos”. Escolhem palavras com persuasão alarmante, mas não lhes dão sentido. É como um mágico que habilmente puxa um coelho de um chapéu, mas não tem idéia de onde o coelho veio.
Costumava-se pensar que se uma máquina pudesse manter uma conversa e enganar o seu interlocutor, era quase humano. Este princípio é conhecido como o teste de Turing, proposto pela primeira vez em 1950. No entanto, o sucesso dos chatbots modernos é mais uma mudança no basal do que um avanço na consciência. Lembre-se da vitória do computador de xadrez Deep Blue sobre Kasparov em 1997: naquela época, parecia que a máquina “pensava” como um grande mestre. Hoje entendemos que foi uma busca brilhante por força bruta, não por inteligência.
O mesmo está acontecendo com modelos conversacionais. Eles imitam a linguagem humana tão bem que estamos prontos para atribuir - lhes um mundo interior. Mas a fluência da linguagem não garante a presença de experiências, sentimentos ou até mesmo simples entendimento.
Indicadores da consciência: como os cientistas buscam o intangível
Para separar sinais reais de consciência da ilusão, um grupo de filósofos, neurocientistas e cientistas da computação reuniu teorias científicas modernas sobre como o cérebro humano funciona e traduziu-as para a linguagem dos sistemas computacionais. O resultado foi uma lista de “propriedades indicadoras” — traços que uma máquina hipoteticamente consciente precisaria ter.
Uma nuance importante: ter estas propriedades não prova consciência, mas quanto mais um sistema tem , quanto mais seriamente levarmos as reivindicações sobre sua experiência subjetiva. É como pistas em uma história de detetive: qualquer pista sozinho pode ser uma coincidência, mas juntos eles somam para uma fotografia.
Por que todos os chatbots modernos ficam aquém do bar
Se você aplicar esta lista aos LLMs existentes, o achado é sóbrio: nenhum deles chega perto do limiar. Eles não têm estado interno contínuo que persiste ao longo do tempo. Cada pedido é processado do zero; eles não têm senso de “eu” ou uma personalidade estável. Eles não modelam o mundo ao seu redor — eles apenas predizem a próxima palavra numa frase.
Imagine uma pessoa que tenha amnésia a cada dez segundos. Eles podem responder às perguntas com inteligência, mas não se lembram do que foi dito há um minuto. Tal pessoa jamais poderia construir uma imagem coerente do mundo — e os chatbots estão exatamente nessa posição.
O futuro: A IA tem a chance de se tornar consciente?
O paradoxo é que , apesar de todas essas limitações, os cientistas não vêem obstáculos insuperáveis à IA consciente no futuro. A lista de propriedades indicadoras é computável, eo cérebro humano também é um sistema de processamento de informação. Se conseguirmos construir uma arquitetura que combine com essas propriedades, é bem possível que experiências subjetivas surjam nela.
Naturalmente, isso não significa que qualquer rede neural complexa irá de repente "despertar". Antes, seria necessária uma abordagem completamente diferente — uma com memória persistente, modelos internos do mundo , e a capacidade de auto-observação. Tais sistemas provavelmente teriam pouco em comum com os chatbots atuais, que apenas geram respostas plausíveis.
Qual é a linha de fundo?
Modelos de linguagem modernos são imitadores brilhantes, mas não pensadores. Sua tagarelice é o resultado do processamento estatístico de vastas quantidades de texto, não insight interior. No entanto, a ciência não desistiu a ideia da consciência da máquina. Bastará algo mais do que melhores algoritmos de previsão de palavras. E quando (e se) esse momento chegar, já teremos as ferramentas para reconhecer um despertar — não apenas um jogo de imitação.
