La desconfianza de la AI: una crisis que se ha estado gestando durante décadas
Dario Amodei respondió a la crítica del inversor Gavin Baker. En el podcast All-In y en la plataforma de redes sociales X, Baker afirmó que las advertencias de Amodei sobre los peligros de IA alimentaban sentimientos negativos en Estados Unidos , particularmente contra la construcción de centros de datos. En opinión de Baker, Amodei "perdió el argumento" sobre la regulación y, puesto que dirige una de las empresas más importantes del mundo, debe ser un defensor más positivo para su propia industria.
En su serie de puestos, Amodei discrepaba que su mensajería era excesivamente pesimista. Sostiene que escribió "aproximadamente de manera equilibrada" — cubriendo tanto los riesgos como los beneficios. Y el ensayo "Machines of Loving Grace" fue escrito porque, en su opinión, la industria de AI no describía el potencial de la tecnología de una manera suficientemente inspiradora. Amodei reconoce que el público ha formado una opinión negativa de AI, pero discrepa en que la causa principal es la advertencia de los líderes de la industria.
Una crisis de confianza, no un error de marketing
Amodei llama lo que está pasando esencialmente una crisis de confianzaLa gente ordinaria, dice, no confíe en las empresas, los gobiernos o la industria tecnológica, y siempre sospecha que están siendo creados para ser engañados de nuevo. Esta crisis se ha estado gestando durante décadas, y la reacción negativa actual a la IA es sólo su última manifestación.
Curiosamente, la palabra "verdadero" sigue navegando en los titulares sobre el CEO de OpenAI Sam Altman también. Aparentemente, es un lugar común para los CEOs de AI.
Al mismo tiempo, Amodei cree que la crítica más precisa de las compañías de IA (incluido el Antrópico) se pueden formular de la siguiente manera: todavía no han cumplido sus promesas fuertes para beneficiar al mundo. Eso, en su opinión, es genuinamente sobre ellos, y esa es la crítica que vale la pena discutir — no "sin sentido sobre la mensajería y el marketing". La promesa de que AI curará el cáncer se ha convertido en un cliché más que una inspiración. Sólo una cura real para el cáncer podría realmente cambiar las actitudes de las personas.
Regulación y poder: una respuesta al "falso dilema"
Por separado, Amodei se refirió a los argumentos de Baker sobre la regulación. Baker, parece, enmarca la opción como: o AI se extiende sin restricciones, o la regulación conduce a la concentración de la tecnología en manos de algunas corporaciones. Amodei llama a esta oposición falso dilema.
También discrepa con la fórmula de Silicon Valley "regulación = captura regulatoria = concentración de poder". En sus palabras, esa es una visión demasiado simplificada del mundo. Mucha gente fuera de esa burbuja cree que la regulación realmente limita el poder corporativo y protege a la gente común. Amodei añade que no necesariamente está de acuerdo con esa opinión tampoco, pero es precisamente por eso que Anthropic prepara sus propuestas de política muy cuidadosamente: tienen como objetivo reducir la velocidad de las principales compañías de inteligencia artificial al dar ventajas a los competidores más pequeños.
Amodei también argumenta que AI estructuralmente contribuye a la concentración de poder. Los pesos abiertos ayudan, pero sólo parcialmente, simplemente cambian la concentración hacia aquellos con más recursos y chips de computación. La derecha "reglas del juego" podría abordar simultáneamente la ciberseguridad, la bioseguridad y la alineación de IA, limitar institucionalmente el poder de las empresas líderes, y dejar espacio para modelos de peso abierto, contando sus riesgos específicos.
Así, Amodei cambia la conversación de "quién asustó a quién" a una discusión de crítica sustantiva y encontrar equilibrio. Es una posición más constructiva que acusaciones de mala PR.
