Недоверие к ИИ: кризис, который зрел десятилетиями
Генеральный директор Anthropic Дарио Амодеи ответил на критику инвестора Гэвина Бейкера. Тот в подкасте All-In и в соцсети X заявил, что предупреждения Амодеи об опасностях ИИ подогрели негативную реакцию в США, особенно против строительства дата-центров. По мнению Бейкера, Амодеи «проиграл аргумент» по регулированию и, раз уж он возглавляет одну из самых важных компаний в мире, ему стоило бы быть более позитивным защитником собственной индустрии.
В своей серии постов Амодеи не согласился с тем, что его сообщения были чрезмерно пессимистичными. Он утверждает, что писал «примерно в равной степени сбалансированно» — и о рисках, и о выгодах. А эссе «Machines of Loving Grace» появилось потому, что ИИ-индустрия, на его взгляд, недостаточно вдохновляюще описывала потенциал технологии. Амодеи признаёт, что у публики сложилось негативное мнение об ИИ, но не согласен с тем, что главная причина — предупреждения лидеров отрасли.
Кризис доверия, а не маркетинговая ошибка
Амодеи называет происходящее по сути кризисом доверия. Обычные люди, по его словам, не верят ни компаниям, ни правительствам, ни технологической индустрии — и всегда подозревают, что их снова хотят обмануть. Этот кризис зрел десятилетиями, а нынешняя негативная реакция на ИИ — лишь его очередное проявление.
Любопытно, что слово «доверие» постоянно всплывает и в заголовках о генеральном директоре OpenAI Сэме Альтмане. Видимо, для ИИ-гендиректоров это общая больная тема.
При этом Амодеи считает, что самую точную критику в адрес ИИ-компаний (включая Anthropic) можно сформулировать так: они пока не выполнили своих громких обещаний принести пользу миру. Это, по его мнению, действительно на них, и именно такую критику стоит обсуждать, а не «ерунду про месседж и маркетинг». Обещание, что ИИ вылечит рак, стало скорее клише, чем вдохновением. По-настоящему изменить отношение людей могло бы только реальное лечение рака.
Регулирование и власть: ответ на «ложную дилемму»
Отдельно Амодеи разобрал аргументы Бейкера о регулировании. Бейкер, судя по всему, видит выбор так: либо ИИ распространяется без ограничений, либо регулирование приводит к концентрации технологии в руках нескольких корпораций. Амодеи называет такое противопоставление ложной дилеммой.
Он не согласен и с кремниеводолинной формулой «регулирование = регуляторный захват = концентрация власти». По его словам, это слишком упрощённая картина мира. Многие люди за пределами этого пузыря считают, что регулирование как раз ограничивает корпоративную власть и защищает обычных людей. Амодеи добавляет, что и с этой точкой зрения он не обязательно согласен, но именно поэтому Anthropic очень тщательно готовит свои политические предложения: они стараются, чтобы те замедляли ведущие ИИ-компании, но давали преимущества меньшим конкурентам.
Амодеи также утверждает, что ИИ структурно способствует концентрации власти. Открытые веса помогают, но лишь частично — они просто смещают концентрацию к тем, у кого больше вычислительных ресурсов и чипов. Правильные «правила игры» могли бы одновременно решать задачи кибербезопасности, биобезопасности и согласования ИИ, институционально ограничивать власть ведущих компаний и оставлять пространство для моделей с открытыми весами, с учётом их специфических рисков.
Таким образом, Амодеи переводит разговор из плоскости «кто кого напугал» в дискуссию о содержательной критике и поиске баланса. Это, пожалуй, более конструктивная позиция, чем обвинения в плохом пиаре.
