Peut-on penser à une machine : d'un chatbot d'âme à la science de la conscience
Lorsque l'ingénieur de Google Blake Lemoine a affirmé que le modèle de langue LaMDA avait atteint la conscience de soi et raisonné comme un enfant de sept ans, le monde s'est divisé en deux. Certains ont vu une percée, d'autres simplement une lueur d'imagination. LaMDA (plus tard publié sous le nom de Bard) est un grand modèle de langue (LLM), un parent de celui derrière ChatGPT. Des centaines d'entreprises se précipitent maintenant pour déployer la technologie, des millions de personnes discutent avec des robots, mais peu croient vraiment qu'il y a un esprit derrière l'écran. Et alors ?
Pourquoi parler couramment n'est pas encore un signe de pensée
Linguiste et data spécialiste Emily Bender appelé célèbrement ces réseaux neuraux parrots. Ils choisissent des mots avec une persuasion alarmante, mais ne leur donnent aucun sens. C'est comme un magicien qui sort un lapin d'un chapeau mais n'a aucune idée d'où vient le lapin.
On pensait que si une machine pouvait tenir une conversation et tromper son interlocuteur, c'était presque humain. Ce principe est connu sous le nom d'essai Turing, proposé pour la première fois en 1950. Mais le succès des chatbots modernes est plus un changement dans le de base qu'une percée vers la conscience. Souvenez-vous de la victoire de Deep Blues sur Kasparov en 1997 : à l'époque, il semblait que la machine soit comme un grand maître. Aujourd'hui, nous comprenons que c'était une brillante recherche de force brute, pas de l'intelligence.
Il en va de même pour les modèles de conversation. Ils imitent si bien la parole humaine que nous sommes prêts à leur attribuer un monde intérieur. Mais la maîtrise du langage ne garantit pas la présence d'expériences, de sentiments ou même de compréhension simple.
Indicateurs de conscience: comment les scientifiques cherchent l'intangible
Pour séparer les vrais signes de conscience de l'illusion, un groupe de philosophes, de neuroscientifiques et d'informaticiens a rassemblé des théories scientifiques modernes sur le fonctionnement du cerveau humain et les a traduites dans le langage des systèmes informatiques. Le résultat a été une liste des propriétés de l'indicateur, des traits qu'une machine hypothétiquement consciente devrait avoir.
Une nuance importante : avoir ces propriétés ne prouve pas la conscience, mais plus un système a , plus nous devrions prendre au sérieux les revendications concernant son expérience subjective. C'est comme des indices dans une histoire de détective: n'importe quel indice seul pourrait être une coïncidence, mais ensemble, ils s'additionnent à une photo.
Pourquoi tous les chatbots modernes sont loin du bar
Si vous appliquez cette liste à des LLM existants, la conclusion est sobre : aucun d'entre eux ne se rapproche du seuil. Ils n'ont aucun état interne continu qui persiste au fil du temps. Chaque demande est traitée à partir de zéro; ils n'ont pas le sens de "I" ou une personnalité stable. Ils ne modélisent pas le monde qui les entoure — ils ne prédisent que le mot suivant dans une phrase.
Imaginez une personne qui obtient l'amnésie toutes les dix secondes. Ils pourraient répondre avec humour aux questions, mais ils ne se souviennent pas de ce qui a été dit il y a une minute. Une telle personne ne pourrait jamais construire une image cohérente du monde — et les chatbots sont exactement dans cette position.
L'avenir : l'IA a-t-elle une chance de devenir consciente ?
Le paradoxe est que , malgré toutes ces limites, les scientifiques ne voient aucun obstacle insurmontable à l'IA consciente à l'avenir. La liste des propriétés des indicateurs est calculable, et le cerveau humain est également un système de traitement de l'information. Si jamais nous parvenons à construire une architecture qui correspond à ces propriétés, il est tout à fait possible que des expériences subjectives en émergent.
Bien sûr, cela ne signifie pas que tout réseau neuronal complexe va soudainement se réveiller. Au contraire, une approche totalement différente serait nécessaire — une approche avec une mémoire persistante, des modèles internes du monde , et la capacité d'auto-observation. De tels systèmes auraient probablement peu en commun avec les chatbots d'aujourd'hui, qui génèrent simplement des réponses plausibles.
Quel est le résultat ?
Les modèles de langage moderne sont des imitateurs brillants, mais pas des penseurs. Leur bavardage est le résultat d'un traitement statistique de grandes quantités de texte, et non d'un aperçu intérieur. Cependant, la science n'a pas abandonné l'idée de la conscience machine. Il faudra simplement quelque chose de plus que de meilleurs algorithmes de prédiction de mots. Et quand (et si) ce moment viendra, nous aurons déjà les outils pour reconnaître un réveil — pas seulement un jeu d'imitation.
