Способна ли машина думать: от «душевного» чат-бота до науки о сознании
Когда инженер Google Блейк Лемуан заявил, что языковая модель LaMDA обрела самосознание и рассуждает как семилетний ребёнок, мир разделился. Одни увидели в этом прорыв, другие — просто глюк воображения. LaMDA (позже ставшая публичным продуктом Bard) — это большая языковая модель (LLM), родственница той, что лежит в основе ChatGPT. Технологию сейчас спешно внедряют сотни компаний, миллионы людей общаются с чат-ботами, но мало кто действительно верит, что за экраном скрывается разум. Так в чём загвоздка?
Почему беглая речь — ещё не признак мышления
Лингвист и специалист по данным Эмили Бендер образно назвала такие нейросети «стохастическими попугаями». Они подбирают слова с пугающей убедительностью, но не вкладывают в них смысл. Это как фокусник, который виртуозно достаёт кролика из шляпы, но сам не знает, откуда взялся кролик.
Раньше считалось: если машина способна поддерживать разговор и обмануть собеседника, значит, она почти человек. Этот принцип известен как тест Тьюринга, предложенный ещё в 1950 году. Однако успехи современных чат-ботов — это скорее сдвиг точки отсчёта, чем прорыв к сознанию. Вспомните победу шахматного компьютера Deep Blue над Каспаровым в 1997 году: тогда казалось, что машина «думает» как гроссмейстер. Сегодня мы понимаем, что это был блестящий перебор вариантов, а не интеллект.
То же самое происходит с разговорными моделями. Они настолько хорошо имитируют человеческую речь, что мы готовы приписать им внутренний мир. Но беглость языка не гарантирует наличия переживаний, чувств или хотя бы простого понимания.
Индикаторы сознания: как учёные ищут то, что нельзя потрогать
Чтобы отделить реальные признаки сознания от иллюзии, группа философов, нейробиологов и компьютерщиков собрала современные научные теории о работе человеческого мозга и перевела их на язык вычислительных систем. В результате появился список «индикаторных свойств» — черт, которыми должна обладать гипотетически сознательная машина.
Важный нюанс: наличие таких свойств не доказывает сознание, но чем больше этих свойств у системы, тем серьёзнее стоит относиться к разговорам о её субъективном опыте. Это как улики в детективе: каждая по отдельности может быть случайностью, а вместе они складываются в картину.
Почему все современные чат-боты не дотягивают до планки
Если приложить этот список к существующим LLM, выяснится неутешительное: ни одна из них даже близко не приближается к порогу. У них нет непрерывного внутреннего состояния, которое сохранялось бы во времени. Каждый запрос они обрабатывают с нуля, у них нет ощущения «я» и стабильной личности. Они не моделируют окружающий мир, а лишь предсказывают следующее слово в предложении.
Представьте себе человека, который страдает амнезией каждые десять секунд. Он может остроумно отвечать на вопросы, но не помнит, о чём говорил минут назад. Такой человек не сможет выстроить целостную картину мира — и чат-боты находятся именно в этом положении.
Будущее: есть ли у ИИ шанс обрести сознание?
Парадокс в том, что, несмотря на все ограничения, учёные не видят непреодолимых препятствий для сознательного ИИ в будущем. Список индикаторных свойств вычислим, а человеческий мозг — это тоже система обработки информации. Если мы когда-нибудь сможем построить архитектуру, которая будет соответствовать этим свойствам, вполне возможно, что у неё появятся субъективные переживания.
Конечно, это не значит, что любая сложная нейросеть вдруг «проснётся». Скорее, потребуется совершенно иной подход — с постоянной памятью, внутренними моделями мира, способностью к самонаблюдению. Такие системы, вероятно, будут иметь мало общего с сегодняшними чат-ботами, которые лишь генерируют правдоподобные ответы.
Что в сухом остатке?
Современные языковые модели — это блестящие имитаторы, но не мыслители. Их болтовня — результат статистической обработки гигантских массивов текста, а не внутреннего озарения. Однако наука не ставит крест на идее машинного сознания. Просто для этого понадобится нечто большее, чем улучшенные алгоритмы предсказания слов. И когда (и если) такой момент наступит, у нас уже будет инструментарий, чтобы распознать пробуждение, а не просто игру в имитацию.
