La méfiance vis-à-vis de l'IA : une crise qui brasse depuis des décennies
Le PDG anthropique Dario Amodei a répondu aux critiques de l'investisseur Gavin Baker. Dans le podcast All-In et sur la plateforme de médias sociaux X, Baker a affirmé que les avertissements d'Amodei sur les dangers de l'IA alimentaient le sentiment négatif aux États-Unis , particulièrement contre la construction de data center. Selon Baker, Amodei « perd l'argument » sur la réglementation et, puisqu'il dirige l'une des entreprises les plus importantes au monde, il devrait être un défenseur plus positif de sa propre industrie.
Dans sa série de messages, Amodei n'est pas d'accord que sa messagerie soit trop pessimiste. Il soutient qu'il a écrit «à peu près de façon équilibrée» — couvrant à la fois les risques et les avantages. Et l'essai "Machines d'Amour Grace" a été écrit parce que, selon lui, l'industrie de l'IA ne décrivait pas le potentiel de la technologie de manière suffisamment inspirante. Amodei reconnaît que le public a formé une opinion négative de l'IA, mais n'est pas d'accord sur le fait que la cause principale est les avertissements des dirigeants de l'industrie.
Une crise de confiance, pas une erreur marketing
Amodei appelle ce qui se passe essentiellement une crise de confiance. Les gens ordinaires, dit-il, ne font pas confiance aux entreprises, aux gouvernements ou à l'industrie de la technologie — et soupçonnent toujours qu'ils sont mis en place pour être trompés à nouveau. Cette crise se produit depuis des décennies et la réaction négative actuelle à l'IA n'est que sa dernière manifestation.
Fait intéressant, le mot "trust" continue de faire la une des journaux sur le PDG d'OpenAI Sam Altman. Apparemment, c'est un endroit douloureux pour les PDG d'IA.
En même temps, Amodei croit que la critique la plus précise de sociétés d'IA (y compris Anthropic) peut être formulé comme suit: ils n'ont pas encore livré leurs promesses fortes au profit du monde. Cela, à son avis, est vraiment sur eux, et c'est la critique qui mérite d'être discutée — pas "non-sens sur la messagerie et le marketing". La promesse que l'IA guérira le cancer est devenue plus un cliché qu'une inspiration. Seul un véritable remède contre le cancer pourrait vraiment changer les attitudes des gens.
Régulation et pouvoir : une réponse au « faux dilemme »
Par ailleurs, Amodei a abordé les arguments de Baker sur la réglementation. Baker, semble-t-il, fixe le choix comme suit : soit l'IA se propage sans restrictions, soit la réglementation conduit à la concentration de la technologie entre les mains de quelques entreprises. Amodei appelle cette opposition faux dilemme.
Il n'est pas non plus d'accord avec la formule de la Silicon Valley : « réglementation = capture réglementaire = concentration de pouvoir ». Selon lui, c'est une vision trop simplifiée du monde. Beaucoup de gens en dehors de cette bulle croient que la réglementation limite en fait le pouvoir des entreprises et protège les gens ordinaires. Amodei ajoute qu'il n'est pas non plus nécessairement d'accord avec ce point de vue, mais c'est précisément pour cela qu'Anthropic prépare très attentivement ses propositions de politique : elles visent à ralentir les grandes entreprises d'IA tout en offrant des avantages aux petits concurrents.
Amodei soutient également que AI contribue structurellement à la concentration du pouvoir. Les poids ouverts aident, mais seulement partiellement — ils déplacent simplement la concentration vers ceux qui ont plus de ressources informatiques et de puces. Les "règles du jeu" appropriées pourraient simultanément traiter de la cybersécurité, de la biosécurité et de l'alignement sur l'IA, limiter institutionnellement le pouvoir des grandes entreprises, et laisser place à des modèles à poids ouvert, en tenant compte de leurs risques spécifiques.
Ainsi, Amodei déplace la conversation de « qui a peur de qui » à une discussion de critique de fond et de trouver l'équilibre. C'est sans doute une position plus constructive que les accusations de mauvaise PR.
