Desconfiança em relação à IA: uma crise que vinha se formando há décadas
O CEO da Anthropic, Dario Amodei, respondeu às críticas do investidor Gavin Baker. Este, no podcast All-In e na rede social X, afirmou que os alertas de Amodei sobre os perigos da IA alimentaram uma reação negativa nos EUA, especialmente contra a construção de data centers. Na visão de Baker, Amodei "perdeu o argumento" sobre regulação e, já que lidera uma das empresas mais importantes do mundo, deveria ser um defensor mais positivo da própria indústria.
Em sua série de posts, Amodei discordou que suas mensagens tenham sido excessivamente pessimistas. Ele afirma ter escrito "de forma aproximadamente equilibrada" — tanto sobre riscos quanto sobre benefícios. E o ensaio "Machines of Loving Grace" surgiu porque, na visão dele, a indústria de IA não descrevia o potencial da tecnologia de forma inspiradora o suficiente. Amodei reconhece que o público formou uma opinião negativa sobre a IA, mas discorda que a principal causa sejam os alertas dos líderes do setor.
Crise de confiança, não erro de marketing
Amodei chama o que está acontecendo de essencialmente uma crise de confiança. As pessoas comuns, segundo ele, não acreditam nem nas empresas, nem nos governos, nem na indústria de tecnologia — e sempre suspeitam que querem enganá-las novamente. Essa crise vinha se formando há décadas, e a atual reação negativa à IA é apenas mais uma manifestação dela.
Curiosamente, a palavra "confiança" também aparece constantemente nas manchetes sobre o CEO da OpenAI, Sam Altman. Aparentemente, é um tema sensível comum aos CEOs de IA.
Ao mesmo tempo, Amodei acredita que a crítica mais precisa às empresas de IA (incluindo a Anthropic) pode ser formulada assim: elas ainda não cumpriram suas grandes promessas de trazer benefícios ao mundo. Isso, na opinião dele, é realmente responsabilidade delas, e é esse tipo de crítica que vale a pena discutir, e não a "bobagem sobre mensagem e marketing". A promessa de que a IA curará o câncer tornou-se mais um clichê do que uma inspiração. O que poderia realmente mudar a atitude das pessoas seria uma cura real para o câncer.
Regulação e poder: resposta à "falsa dicotomia"
Separadamente, Amodei analisou os argumentos de Baker sobre regulação. Baker, ao que parece, vê a escolha assim: ou a IA se espalha sem restrições, ou a regulação leva à concentração da tecnologia nas mãos de poucas corporações. Amodei chama essa oposição de falsa dicotomia.
Ele também discorda da fórmula do Vale do Silício "regulação = captura regulatória = concentração de poder". Segundo ele, essa é uma visão de mundo simplista demais. Muitas pessoas fora dessa bolha acreditam que a regulação justamente limita o poder corporativo e protege as pessoas comuns. Amodei acrescenta que não necessariamente concorda com esse ponto de vista, mas é justamente por isso que a Anthropic prepara suas propostas políticas com muito cuidado: elas tentam desacelerar as principais empresas de IA, mas dar vantagens aos concorrentes menores.
Amodei também afirma que a IA estruturalmente contribui para a concentração de poder. Pesos abertos ajudam, mas apenas parcialmente — eles apenas deslocam a concentração para aqueles que têm mais recursos computacionais e chips. As "regras do jogo" corretas poderiam, ao mesmo tempo, resolver questões de cibersegurança, biosegurança e alinhamento da IA, limitar institucionalmente o poder das empresas líderes e deixar espaço para modelos com pesos abertos, considerando seus riscos específicos.
Assim, Amodei desloca a conversa do campo "quem assustou quem" para uma discussão sobre críticas substantivas e busca de equilíbrio. Essa é, talvez, uma posição mais construtiva do que acusações de mau marketing.
