Les professeurs d'IA comparent les notes: comment la science académique survit à l'ère des modèles fermés et de l'informatique coûteuse

22 août 202614 vues

Lors d'une réunion privée de boursiers de Schmidt Sciences, des professeurs de grandes universités ont discuté des raisons pour lesquelles la recherche sur l'IA s'installe de plus en plus dans des entreprises privées et de la façon dont les scientifiques peuvent s'adapter aux pénuries de GPU, aux modèles fermés et aux nouvelles questions sur l'avenir de la science.

Les professeurs d'IA comparent les notes: comment la science académique survit à l'ère des modèles fermés et de l'informatique coûteuse

Au cours des quatre dernières années, le centre de gravité de la recherche sur l'IA est passé de laboratoires universitaires à des entreprises privées. Jusqu'à récemment, les scientifiques qui fixaient des tendances se retrouvent en train de rattraper l'industrie. Lors d'une récente réunion du programme Schmidt Sciences AI2050 — une initiative d'Eric et Wendy Schmidt qui soutient les chercheurs universitaires — les professeurs ont discuté de la façon de survivre dans le nouveau paysage.

Pourquoi les universités de gauche à la pointe

La raison principale est l'argent et l'accès à l'équipement. Les universités ne peuvent se permettre de former de grands modèles linguistiques ou de faire fonctionner les systèmes les plus avancés, alors que les laboratoires privés ne sont pas pressés de révéler le fonctionnement intérieur de leurs produits. Le professeur Nika Haghtalab de l'UC Berkeley compare la position d'un universitaire de l'IA à celle d'un biologiste dont le contrôle exclusif sur CRISPR avait été enlevé par des entreprises privées : on peut étudier les phénomènes, mais on ne peut pas toucher les outils.

Alors quel en est le résultat ? Des experts extérieurs peuvent observer le comportement de grands modèles, mais ils ne peuvent pas voir comment ils sont construits ou sur quoi ils ont été formés, et encore moins influencer leur développement. Les demandes d'analyse rigoureuse se présentent également à un prix élevé : les appels répétés aux API d'OpenAI, Anthropic et Google font sauter le budget d'un département moyen. Et le financement fédéral de la science aux États-Unis diminue, rendant le problème de plus en plus aigu.

Stratégies de survie : choisissez des batailles que vous pouvez gagner

De nombreux chercheurs s'éloignent délibérément des sujets qui pourraient intéresser les entreprises technologiques. Le professeur Anjali Field de Johns Hopkins tente de ne pas assumer les tâches qu'une entreprise fermerait probablement avec ses propres ressources. Après tout, l'entreprise investit seulement dans ce qui génère des profits, tandis que les questions qui pourraient mettre une société dans une lumière défavorable ne sont pas traitées. Field, par exemple, a montré que les modèles de langue donnent des réponses moins détaillées et complexes aux questions formulées par les femmes.

Pour ceux qui veulent creuser plus profondément, il y a une autre voie: participer à des programmes comme AI2050. Ils accordent des subventions pour l'achat de GPU, et selon les boursiers, c'est sans doute la plus grande valeur de ce soutien. D'autres chercheurs se concentrent sur des sujets peu susceptibles d'intéresser les géants de la technologie — de cette façon, ils peuvent préserver l'indépendance académique.

Science qui ne correspond pas à la tendance LLM

Tous les groupes universitaires ne travaillent pas avec de grands modèles linguistiques. Certains scientifiques construisent des systèmes d'intelligence artificielle spécialisés pour l'analyse des données, la prévision et la simulation des processus physiques, par exemple pour s'attaquer aux problèmes liés aux changements climatiques. Cela vient avec ses propres défis: le grand public pense à "AI" comme des chatbots énergivores, et de vrais outils scientifiques nécessitent beaucoup d'explications. Le sort d'AlphaFold est révélateur : l'équipe Google DeepMind qui a créé le modèle Nobel pour la prévision des protéines a été dissoute le mois dernier. C'est un signe que même les projets scientifiques réussis ne sont pas à l'abri de la logique d'entreprise.

L'avenir : moins de pessimisme, plus d'efficacité

Il y a aussi des signaux troublants. Au cours des six derniers mois, les modèles d'OpenAI se sont attaqués à plusieurs problèmes de recherche réels en mathématiques — suscitant la crainte que les humains n'auront bientôt plus de place dans les mathématiques pures. L'un des boursiers a mentionné les luttes de santé mentale entre collègues mathématiciens. Mais les sciences empiriques sont beaucoup plus résistantes: la collecte des données est intrinsèquement lente, de sorte qu'il est peu probable qu'elle soit entièrement automatisée dans un avenir proche. De plus, plusieurs universitaires éminents ont récemment pris congé de leurs universités pour se joindre à des laboratoires de pointe, et de nombreux boursiers AI2050 combinent des postes universitaires et des travaux dans l'industrie. Le paysage scientifique change sous nos yeux.

Tim Dettmers de Carnegie Mellon voit ce qui se passe sans panique. Il travaille à rendre le déploiement de modèles moins coûteux et croit que les scientifiques de l'IA ne remplaceront pas les humains mais les rendront beaucoup plus productifs. Les ressources limitées ne sont pas seulement une malédiction : le manque de puissance informatique pousse à trouver des architectures plus efficaces et des modèles compacts. C'est peut-être précisément de ces contraintes que sortira la prochaine grande percée.

Foire aux questions

Matériaux connexes

Tous matériaux
Professeur d'IA comment la science universitaire survit modèle fermé