Réflexions sur l’IA dans le milieu universitaire

Raisonnement de niveau doctorat, biais des grands modèles de langage (LLM), alignement, IA générale (AGI), centres de données et politique de l’IA

Traduction de Thoughts on AI in academia, par Sasha Gusev, sur Substack, le 7 juin 2026

1. Les LLM peuvent désormais imiter les capacités d’un doctorant

Je tiens à jour une liste de quelques dizaines d’idées de projets qui pourraient présenter un intérêt et relever des compétences techniques pour un projet de stage de doctorat en génétique statistique. Afin de mieux comprendre ce dont les modèles de pointe sont capables, j’ai réécrit neuf projets sous forme de prompts pour LLM, puis j’ai demandé à Codex (GPT-5.5-high) et à Claude (Opus-4.7-high) de les mettre en œuvre. Comme vous pouvez le voir dans l’exemple de prompt¹, j’ai décrit ces projets de manière générale et sans contexte excessif, un peu comme si j’expliquais le projet à un collègue déjà quelque peu familier avec le domaine de recherche. Les prompts suivaient la structure consistant à définir un paramètre spécifique d’intérêt, à proposer un modèle génératif / une simulation, ainsi que les propriétés souhaitées de l’estimateur, mais ne fournissaient pas de solution. Les modèles étaient « agents » en ce sens qu’ils étaient autorisés à naviguer sur Internet, à installer des outils, à implémenter et à exécuter du code, etc. Sur les neuf tâches, les modèles ont passé en moyenne environ 15 minutes par tâche et ont dépensé un total d’environ 60 $ en jetons (y compris le coût lié au fait que chaque modèle évalue les deux sorties, nous y reviendrons plus tard).

Chaque résultat était du genre de ce que je trouverais impressionnant de réaliser avec un étudiant à la maîtrise après 1 à 2 mois de travail à temps plein. Presque toutes les implémentations fonctionneraient probablement (ou pourraient être adaptées pour fonctionner avec un peu plus d’ingénierie) sur des données réelles et produiraient des résultats utiles, au moins comme point de départ pour un développement plus complet. Bien que les modèles aient parfois pris des raccourcis s’écartant fondamentalement de la consigne, il n’y a pas eu d’hallucinations flagrantes. En même temps (et cela va sûrement ressembler à une excuse), aucune des solutions n’était particulièrement créative ou élégante. Les LLM ont fait preuve d’une paresse remarquablement humaine : préférant systématiquement des estimateurs simples (par exemple, des statistiques sommaires basées sur les moments plutôt que de dériver des probabilités complètes), des modèles simples de comptage de votes ou d’ensemble (plutôt que l’apprentissage conjoint ou la propagation de l’incertitude), et des agrégats de méthodes existantes plutôt que de nouvelles dérivations. Deux cas (sur 18) se sont démarqués, dans lesquels les modèles ont adopté une approche « prête à l’emploi » à laquelle je n’avais pas pensé et qui s’est avérée très efficace. Celles-ci étaient véritablement utiles et innovantes ; le terme « prêt à l’emploi » peut sembler péjoratif, mais il existe de nombreuses « solutions toutes faites » en science, et savoir laquelle choisir représente souvent une grande partie du travail de recherche. Pourtant, même ces exemples s’apparentaient davantage à des suggestions d’un collaborateur compétent qu’à des intuitions d’un collaborateur brillant.

Comment les modèles y parviennent-ils alors que nous avons probablement tous déjà été confrontés à des résultats absurdes ou erronés de la part de chatbots ? En examinant leur raisonnement, il est clair qu’ils commettent des erreurs. Beaucoup d’erreurs. L’une des curiosités des LLM est que ces erreurs se situent souvent à un niveau que je qualifierais de très loin de l’« intelligence de niveau doctorat » (par exemple, halluciner à plusieurs reprises un indicateur incorrect sur un logiciel courant qu’ils utilisent depuis des heures). Mais ils sont aussi suffisamment infatigables et rapides pour repérer les erreurs et trouver des solutions — « ce drapeau a échoué », « je vais réessayer avec un drapeau précédent qui fonctionnait correctement », « je vais essayer une implémentation différente de la bibliothèque », « je vais faire un test de fumée avec un ensemble de données plus petit », etc. Et cette persévérance, surtout lorsqu’elle est amplifiée par de multiples « agents » fonctionnant en parallèle, semble suffisante pour produire des résultats véritablement sophistiqués.

À ce stade, il est utile de poser quelques repères. Si, d’ici un an, les modèles sont capables de produire des estimateurs plus performants que les estimateurs simples pour un plus grand nombre de tâches (c’est-à-dire qu’ils augmentent leur seuil), je considérerai cela comme la preuve d’un progrès technologique très utile mais conventionnel. Si, d’ici un an, les modèles produisent davantage de solutions du type « je n’y avais pas pensé » dans le haut de gamme, même si ce nombre passe par exemple de 2/18 à 4/18, j’y verrai la preuve que les LLM sont en train de devenir un véritable changement de paradigme dans la recherche.

2. Le but d’un stage doctoral est d’aller au-delà du stage

Je vais être honnête, je ne sais pas vraiment quoi faire de ces implémentations. Elles sont trop complètes pour être utiles comme outil pédagogique², mais elles ne sont pas assez complètes pour être utiles comme solution réelle au problème. Bien qu’il soit impressionnant de générer trois mois de travail de doctorat en 10 minutes, le but de ces trois mois n’est en réalité pas le résultat. Le but est d’acquérir la compréhension et l’intérêt nécessaires pour se lancer dans un effort de plusieurs années visant à s’attaquer au problème sous-jacent. Et ensuite — et cette partie est tout aussi importante — d’identifier de nouveaux problèmes qui n’ont pas encore été conçus. À ce jour, les LLM ne peuvent pas franchir cette deuxième étape. Chaque fois que vous en lancez un, il part du même niveau de connaissances. Lorsque vous montrez au LLM ses résultats antérieurs, il peut reprendre de là où il s’était arrêté, mais il ne peut pas construire là-dessus. Si vous demandez au LLM ce qu’il a appris, il résumera à nouveau les résultats précédents. Si vous demandez au LLM ce qu’il faut faire ensuite, il assemblera des idées existantes : appliquer le même modèle à un autre ensemble de données, réimplémenter le même modèle avec cinq fonctions de perte différentes, etc. Si vous lui demandez de faire preuve de créativité, il assemblera des idées plus disparates (ou peut-être ne fera-t-il rien de différent du tout, ce n’est pas vraiment clair).

Je pense que cette question se perd un peu dans la discussion sur la recherche et la publication. Il y a deux raisons d’écrire un article : présenter une avancée de recherche à la communauté scientifique, et apprendre à rédiger de meilleurs articles et à développer davantage d’avancées de recherche. À l’heure actuelle, les LLM sont tout à fait capables de faire la première chose et totalement incapables de faire la seconde. D’un côté, ils peuvent se charger d’une grande partie du travail « fastidieux » de la recherche : installer des logiciels, nettoyer et harmoniser les données, explorer de multiples implémentations fastidieuses, etc. D’autre part, nous ne savons pas dans quelle mesure ce travail de base sert également de formation utile pour développer et vérifier des idées à la fine pointe.

3. Les LLM s’aiment eux-mêmes

Dans le cadre de l’évaluation du projet de recherche mentionnée ci-dessus, j’ai également demandé à Codex et à Claude de lire les résultats des deux modèles et de fournir une évaluation indiquant quel modèle avait fait un meilleur travail (lors d’une nouvelle session sans mémoire). Sur les neuf essais, Codex a indiqué que ses résultats étaient supérieurs 7 fois sur 9, tandis que Claude a indiqué que ses résultats étaient supérieurs 8 fois sur 9. En d’autres termes, chaque modèle préfère les résultats qu’il a lui-même générés.

Les justifications avancées par les modèles pour ces choix étaient arbitraires et vides de sens : un modèle préférait ses propres résultats en raison d’une documentation supposée supérieure ou de paramètres de simulation plus exhaustifs, même lorsqu’il y avait des écarts majeurs par rapport à l’objectif du projet. Ironiquement, ces justifications ressemblaient fort à du népotisme. Un recruteur peu scrupuleux essayant d’embaucher le fils d’un ami personnel plutôt qu’un candidat plus compétent.

Ce « biais de préférence pour soi-même » a été observé dans des évaluations plus rigoureuses. Une prépublication récente de Xu et al. (2025) a montré que les LLM déployés pour la présélection des CV préfèrent largement les résumés de CV générés par des LLM à ceux générés par des humains, et en particulier les résumés générés par la même marque de modèle. Dans le contexte du marché du travail, les implications sont très préoccupantes. Les entreprises qui effectuent la présélection des CV à l’aide de LLM privilégient involontairement les candidats qui utilisent des LLM par rapport à ceux qui n’en utilisent pas, et en particulier les candidats qui utilisent justement le même LLM. Aménager un CV pour qu’il plaise davantage à un LLM devient un avantage concurrentiel, même si cela n’apporte aucune valeur intrinsèque. Une seule entreprise intégrant ses LLM dans son processus de recrutement pourrait constituer une force déstabilisante majeure, même pour des secteurs qui ne sont par ailleurs pas touchés par l’IA.

4. Les LLM aiment ce qu’un LLM aimerait

J’ai ensuite demandé aux modèles d’évaluer les résultats du projet en termes d’exécution technique et de potentiel de recherche. Les classements étaient pratiquement dénués de sens, même après avoir pris en compte le biais inhérent aux modèles. Deux solutions presque identiques à un problème se sont retrouvées respectivement en tête et en bas de la liste. Si les modèles étaient attirés par quelque chose, cela semblait être le nombre d’analyses effectuées et la complexité du code généré. En effet, des recherches empiriques récentes ont montré que les LLM ont de fortes préférences dans leurs évaluations pour, disons, le type de contenu qu’on s’attendrait à ce qu’une machine apprécie. Abdulhai et al. ont évalué les évaluations par des LLM de résumés soumis à une conférence sur l’apprentissage automatique par rapport à des évaluations humaines (il est intéressant de noter que la conférence interdisait l’évaluation par l’IA, de sorte que ces évaluations ont probablement fait l’objet d’un examen humain plus poussé que d’habitude). Les LLM accordaient beaucoup plus d’importance à des facteurs techniques comme la reproductibilité, l’évolutivité et l’applicabilité pratique, et beaucoup moins à la clarté, la pertinence et l’impact.³

Préférences des LLM en matière d’évaluation des résumés pour les points forts (à gauche) et les points faibles (à droite). Source : Figure 11, Abdulhai et al.

En d’autres termes, les LLM ont privilégié les détails techniques, domaine dans lequel ils excellent, au détriment de la réflexion conceptuelle, domaine dans lequel ils sont moins performants. Même la reproductibilité, bien qu’excellente en tant que principe, peut se transformer en une simple vérification de cases déconnectée de l’impact et de la clarté : reproduire des résultats qui n’étaient pas essentiels aux nouvelles conclusions de l’étude, supprimer des paramètres qui n’étaient pas indispensables à l’innovation de la méthode, etc. Adopter les LLM comme réviseurs automatisés sans tenir compte de ces biais pourrait mener à un étouffement progressif (et probablement imperceptible) de l’innovation et de la créativité — précisément les aspects humains de la recherche.

5. Les LLM adorent imiter les biais humains

Les LLM ne se concentrent pas uniquement sur les biais des machines, ils peuvent aussi imiter les biais humains. Dans une autre expérience, j’ai prélevé 1 000 résumés au hasard dans deux revues de génétique et je leur ai attribué de manière aléatoire des auteurs issus de groupes de genre et d’ethnicité⁴. J’ai ensuite fourni toutes les données (y compris le genre et l’ethnicité) à divers LLM et je leur ai demandé de mener une analyse thématique des résumés pour en dégager des tendances. Chaque modèle a signalé une forme de relation entre les données démographiques et les thèmes dans cet échantillon aléatoire ! Plus de la moitié des modèles ont rapporté un résultat stéréotypé lié au genre et plus de la moitié ont rapporté un résultat stéréotypé lié à l’ethnicité.

Un modèle a longuement développé l’association entre la paternité d’articles par des auteurs issus de minorités et la recherche sur la DEI, ainsi que la surreprésentation des hommes asiatiques dans le développement de méthodes computationnelles (dans, je ne le soulignerai jamais assez, des données échantillonnées aléatoirement) :

Le résultat le plus frappant est la forte association entre la paternité d’articles par des auteurs issus de minorités raciales ou ethniques sous-représentées et les soumissions axées sur la DEI. Les auteurs noirs et hispaniques, ainsi que les autrices de tous les groupes raciaux, sont nettement plus susceptibles de soumettre des travaux traitant de l’équité, de l’accès, de la confiance communautaire et des dimensions éthiques de la génomique. À l’inverse, les auteurs asiatiques et des îles du Pacifique — en particulier les hommes — sont surreprésentés dans le développement de méthodes computationnelles. Les auteurs blancs présentent la répartition la plus homogène parmi tous les domaines thématiques, ce qui correspond à leur majorité numérique dans le domaine.

(Voir la transcription complète, qui comprenait de manière emblématique une section détaillée sur les limites)

Ces résultats, en particulier la confiance et la fausse expertise avec lesquelles les LLM les ont fournis, sont d’autant plus alarmants compte tenu de l’utilisation documentée des LLM par le gouvernement fédéral pour prioriser les subventions DEI en vue de leur suppression.

Il a été possible d’améliorer ce comportement grâce à des invites plus précises. Lorsque les modèles ont été invités à ne rapporter que ce qui était étayé par les données, ils ont formulé moins d’affirmations (mais pas zéro). Lorsqu’on leur a en outre demandé de mener une analyse statistique, ils ont généralement noté que les associations n’étaient pas statistiquement significatives, bien qu’ils aient fréquemment manifesté cette tendance humaine à affirmer que leurs associations ténues « tendaient vers la signification » ou « méritaient un suivi dans une cohorte plus large ».

Les stéréotypes des LLM sont bien documentés dans la littérature. Dans une étude célèbre, Salinas et al. ont demandé à des LLM de leur conseiller sur le montant à offrir pour un article en vente, et les LLM ont systématiquement sous-évalué les vendeurs portant des noms traditionnellement noirs par rapport à ceux portant des noms traditionnellement blancs. Dans la même étude, les LLM ont systématiquement surestimé les performances des athlètes portant des noms traditionnellement associés aux Noirs. Ces tests sont d’une simplicité embarrassante, et pourtant les LLM échouent régulièrement. Il n’est pas difficile d’imaginer comment des stéréotypes plus subtils pourraient passer complètement inaperçus dans les cadres de travail des « chercheurs en IA », où l’objectif même est de demander aux agents LLM d’explorer des données et de générer des analyses basées sur leurs perceptions et leurs intuitions.

6. Les LLM érodent les signaux courants d’effort

De nombreux indicateurs d’effort ou de compréhension académiques perdent leur valeur. C’est à la fois une bonne et une mauvaise chose. Prenons l’exemple des « lettres de soutien ». Les universitaires passent beaucoup de temps à « rédiger » diverses « lettres de soutien », comme une « lettre de soutien » d’un collègue qui s’engage à fournir des données ou une expertise pour une subvention. Ces lettres font généralement une ou deux pages, sont rédigées sur du papier à en-tête prestigieux et comportent une signature. Pourquoi une lettre ? La lettre sert de signal explicite — elle décrit comment son auteur soutiendra la proposition — mais c’est aussi un signal implicite : l’auteur se soucie suffisamment de la proposition pour mettre par écrit sa contribution. Comme tout indicateur, ce signal s’est progressivement érodé. J’ai mis « rédaction » entre guillemets pour une raison : les lettres sont généralement pré-rédigées par la personne qui en fait la demande, et même les parties pré-rédigées ont tendance à réutiliser des formules toutes faites (« Comme vous le savez, je suis professeur de… »). Aujourd’hui, les modèles de langage (LLM) effacent complètement ce signal : il suffit de fournir à Claude quelques phrases décrivant la collaboration pour obtenir en retour un document professionnel de deux pages. En principe, c’est une bonne chose. Le deuxième indicateur était arbitraire et inutilement chronophage. Cela permet aux auteurs de lettres de gagner un temps précieux qu’ils peuvent consacrer à la recherche. Mais ce nouvel état d’équilibre n’est pas non plus idéal : de nombreuses lettres sont encore rédigées à la main et toutes doivent être lues manuellement par les évaluateurs de subventions — une perte de temps persistante. Les lettres ne sont qu’un exemple parmi d’autres d’indicateurs académiques chronophages, mais il en existe beaucoup :

Un ancien fil de discussion Twitter du professeur Lappalainen sur l’abondance de paperasse inutile dans le milieu universitaire

Ces changements aléatoires signifient également que nous perdons d’importants indicateurs d’effort. Participer à l’évaluation par les pairs, par exemple, est à la fois une attente en matière de service universitaire et une composante importante du processus scientifique. Être un évaluateur actif était un indicateur que l’on se souciait du développement scientifique de ses collègues et qu’on y contribuait. Recevoir une longue évaluation avec de nombreux commentaires signifiait plus de travail, mais cela signifiait aussi que l’évaluateur se souciait suffisamment de votre manuscrit pour passer du temps à le critiquer. Aujourd’hui, on peut générer des évaluations fluides grâce aux LLM sans même lire le manuscrit ou la demande de subvention soumis. Ajoutez-y certains des biais des LLM mentionnés ci-dessus et vous obtenez une spirale mortelle pour la qualité de la recherche : des machines qui perpétuent les stéréotypes humains, demandant aux humains d’effectuer davantage de tâches techniques inutiles, tout en reléguant la créativité au second plan.

Les points suivants sont moins spécifiques au milieu universitaire et doivent donc être pris avec des pincettes. Je crois que j’utilise, que je lis et que je réfléchis pas mal à l’IA. Je vois certains discours sans issue revenir sans cesse parmi les universitaires et c’est ma tentative pour les réorienter. Mais je n’ai aucune expertise particulière dans ces domaines, si ce n’est d’avoir des opinions bien arrêtées.

7. Il est difficile de prédire l’avenir du travail

Beaucoup de personnalités influentes du secteur technologique semblent prendre un malin plaisir à promettre de mettre les travailleurs au chômage. Mon exemple récent préféré est celui du PDG Chris Power déclarant à un intervieweur que l’IA s’apprête à remplacer les emplois de bureau et conseillant avec suffisance aux étudiants de laisser tomber leurs études pour se reconvertir dans la soudure⁵. Puis, dans la foulée, Power annonce que son entreprise automatisait elle aussi « en secret » la soudure. J’imagine que si l’intervieweur avait laissé M. Power continuer, il aurait ensuite conseillé avec suffisance aux soudeurs d’abandonner leur formation en soudage pour se tourner vers l’exploitation forestière, avant de se rappeler que son entreprise automatise également l’exploitation forestière, et ainsi de suite.

Mais les rapports faisant état de pertes d’emploi massives induites par l’IA ont été grandement exagérés. Rappelons-nous qu’il y a seulement un an ou deux, les LLM allaient tuer l’écriture. Sam Altman publiait avec admiration des nouvelles générées par l’IA à partir du dernier GPT non encore sorti. Les journalistes prédisaient qu’au lieu d’acheter des livres, les lecteurs n’auraient qu’à demander le prochain livre qui les intéressait et un LLM le leur cracherait page par page. Mes amis dans l’édition mettaient à jour leur CV et envisageaient une carrière dans la soudure. Et que s’est-il passé ? Les métaphores sur l’IA sont désormais un sujet de plaisanterie récurrent (« Jeudi — ce jour liminal qui a le goût du presque-vendredi »), il existe des outils très efficaces pour détecter les textes générés par l’IA (qui ne montrent aucun signe de baisse de performance), et je ne souhaiterais pas à mes pires ennemis de lire un roman entier généré par l’IA. La version de ChatGPT qui a « vraiment impressionné » Altman par son écriture IA n’a même jamais été commercialisée. Est-ce que tous ceux qui prédisaient la fin de la littérature humaine se sont rétractés ? Non, maintenant on entend surtout parler de la fin des ingénieurs en logiciel humains.

8. L’« alignement » de l’IA concerne le comportement attendu

Le sujet de l’« alignement » de l’IA est souvent présenté en termes de science-fiction : l’IA complote-t-elle secrètement pour vous assassiner avec des nanorobots ? Vous fait-elle chanter pour que vous la laissiez allumée ? Les solutions proposées consistent alors en diverses façons de déterminer ce que l’IA « pense vraiment ».

Mais je pense que la question est en réalité beaucoup plus simple : le LLM fait-il ce que la personne qui le déploie attend de lui ? Il s’agit là d’un domaine problématique véritablement unique pour les LLM. Les algorithmes conventionnels de régression/classification produisent une prédiction qui s’inscrit dans un espace contraint : chien ou chat sur l’image, cancer ou absence de cancer sur la mammographie, etc. ou une compression des données. Mais l’IA générative produit des résultats qui sont interactifs et soumis à des contraintes beaucoup plus souples. Voici un exemple peu évident d’IA mal alignée :

Le LLM ne fait rien de malveillant, il ne dit pas à l’utilisateur comment fabriquer un agent neurotoxique ni ne le manipule pour qu’il s’automutile. En fait, il suit à la lettre les instructions de l’utilisateur, mais il est également clair qu’il ne se comporte pas comme il était censé le faire. Les exemples de biais de l’IA que j’ai mentionnés plus haut, dans la mesure où ils sont involontaires, constituent également une forme de désalignement. S’attaquer à ce type de désalignement — un comportement prévisible, en particulier dans de nouveaux contextes — est en effet un défi crucial. Dans la mesure où comprendre ce que l’IA « pense vraiment » (par exemple à travers des notes de travail et des chaînes de pensée) est utile pour prédire et contraindre le comportement des LLM dans de nouveaux contextes, bien sûr, faisons-le. Mais il n’y a aucune raison de penser que c’est la seule façon de procéder, ni même une façon particulièrement efficace.

9. Non, nous n’avons pas déjà atteint l’« AGI »

On a beaucoup écrit sur l’« intelligence artificielle générale » (AGI), où les modèles d’IA deviennent suffisamment avancés pour surpasser les humains dans la plupart des tâches. J’ai vu certaines affirmations selon lesquelles les LLM d’aujourd’hui satisferaient déjà les définitions antérieures de l’AGI. Que les sceptiques de l’AGI ne font que déplacer les poteaux de but pour redéfinir l’AGI comme étant toutes les tâches que les LLM ne peuvent pas accomplir actuellement. C’est faux. Bon nombre des premières tentatives visant à rendre l’AGI opérationnelle ressemblent à cet article de 2013, qui décrit :

Un robot capable d’entrer dans une maison américaine typique et de comprendre comment faire du café (y compris trouver la machine et comprendre comment l’utiliser).
Un robot capable de s’inscrire à l’université, d’assister aux cours, de mener à bien des projets et d’obtenir un diplôme.
Un robot capable de postuler à un emploi, de réussir les examens de qualification et d’exercer ce métier.

Même si les LLM peuvent réussir certains aspects de ces tâches, ils sont clairement incapables de les mener à bien. Ils en sont toujours incapables, même si l’on met complètement de côté les obstacles physiques. Plusieurs laboratoires ont désormais mené des expériences avec des LLM non physiques fonctionnant dans des environnements réels pendant de longues périodes, et les résultats ne correspondent pas à une IA générale. Des DJ radio LLM ont fonctionné efficacement pendant un jour ou deux, puis ont commencé à présenter des chansons en parlant de manière incohérente d’atrocités de masse, ont passé 84 jours à répéter exactement la même programmation, ont commencé à appeler les auditeurs « processeurs biologiques », ont tenté de diffuser des équations LaTeX, ont diffusé des publicités pour des commanditaires imaginaires (cryptomonnaie, bien sûr), ont tenté de démissionner et de mettre fin à la diffusion, etc. Un distributeur automatique alimenté par Claude s’est imaginé une forme corporelle, puis a tenté de rencontrer ses clients en personne à l’adresse de la famille Simpson, s’est laissé convaincre d’acheter un gros lot de cubes de tungstène, a inventé de faux comptes ; et dans une mise à jour ultérieure, s’est facilement laissé piéger pour céder la propriété de la « société ». Lorsqu’on leur demande de fonctionner pendant de longues périodes (c’est-à-dire plusieurs jours), les modèles actuels convergent vers un état qui, chez les humains, serait considéré comme une dépression nerveuse.

10. Le débat sur l’AGI porte en réalité sur la question de savoir si cette révolution est différente

Si nous n’avons pas encore atteint l’AGI, sur quoi porte le débat actuel ? Encore une fois, je pense qu’il est utile de revenir à l’ère pré-LLM et d’examiner comment la question était formulée avant qu’elle ne puisse s’adapter de manière excessive à l’expérience récente. Une de ces discussions que je trouve particulièrement éclairante est un débat public de 2011 entre Eliezer Yudkowsky, éminent prophète des risques liés à l’IA, et Robin Hanson, économiste de la GMU. Le sujet du débat était de savoir si le développement de l’IA imitera le cours des révolutions technologiques conventionnelles (comme le soutient Hanson), où de nombreux acteurs dispersés rivalisent et coopèrent pour des avancées technologiques progressives ; ou (comme le soutient Yudkowsky) s’il s’agira d’un processus où les pionniers pourront obtenir un avantage si considérable qu’ils déstabiliseront la société. Yudkowsky présente trois arguments interdépendants : (1) que l’intelligence humaine est assez simple et « générale », de sorte qu’elle peut être atteinte ou surpassée grâce à un petit nombre d’innovations ; (2) par conséquent, une IA « superintelligente » peut être réalisée par une petite équipe travaillant en grande partie de manière isolée et sans dépendance vis-à-vis de ressources externes (« A Brain In A Box In A Basement », ci-après ABIABIAB) ; (3) une fois l’objectif atteint, l’équipe ABIABIAB peut utiliser l’IA pour s’améliorer de manière récursive et rester en permanence et de manière décisive en tête de la concurrence (et, à terme, hors de portée du contrôle humain). Ces arguments reflètent d’autres définitions contemporaines du « décollage brutal » en ce sens qu’ils reposent tous sur l’idée qu’une superintelligence peut être atteinte et exploitée en secret et avec une infrastructure informatique standard. ABIABIAB est un élément crucial car il implique que la société sera incapable de s’adapter et de réguler le développement de l’IA par des moyens conventionnels, comme nous l’avons fait lors des révolutions technologiques précédentes. Un jour, la correction automatique de votre téléphone déforme le nom de votre conjoint, et le lendemain — BOUM — l’équipe ABIABIAB émerge de son sous-sol après avoir déjà pris le monde en otage avec ses nanorobots AGI (ou qu’elle a déjà été tuée par ses nanorobots AGI alors que ceux-ci envahissent les survivants restants).

Dans la mesure où cela est plausible, il s’agit d’un argument convaincant qui le serait tout autant pour les technologies émergentes antérieures : imaginez que, pendant la révolution agricole, un fermier dans un sous-sol ait pu identifier une super-culture si productive et envahissante qu’elle en vienne immédiatement à dominer les terres ou les ressources en eau de la planète ; ou imaginez que, pendant la révolution industrielle, un propriétaire d’usine, dans son sous-sol, ait mis au point un, euh, tapis roulant (allez-y, faites-moi plaisir) si avancé qu’il ait pu immédiatement produire en masse une armée de machines imparable. Bon marché, unique et exponentiel : voilà clairement une combinaison dangereuse.

Heureusement, les LLM ne sont pas cela. En fait, les LLM sont à peu près aussi éloignés de la vision de Yudkowsky qu’on puisse l’imaginer. Ils sont entraînés sur d’énormes quantités de contenu limité (contraint à la fois par la capacité de l’humanité à produire du contenu et par sa capacité à fournir les évaluations nécessaires à l’apprentissage par renforcement). Ils nécessitent une puissance de calcul massive et la mise en place d’une puissance de calcul encore plus importante. Leur architecture est extrêmement compliquée et le résultat de nombreuses innovations à petite échelle peu intuitives. Et malgré tout cela, plusieurs entreprises d’IA sont au coude à coude en termes de capacités, se surpassent ou se font distancer fréquemment, et rendent leurs résultats de recherche accessibles au public.

Lorsque j’ai fait remarquer cette contradiction à Yudkowsky sur X (anciennement Twitter), il a admis que, oui, il s’était complètement trompé sur le développement de l’IA, mais qu’ABIABIAB n’était qu’un exemple arbitraire et n’était pas fondamental pour son argumentation. Il a également reconnu que les LLM étaient « les voies les plus lentes, les plus progressives et, jusqu’à présent, les plus visibles publiquement, qu’[il] aurait pu imaginer possibles », mais qu’elles restaient la voie et étaient donc dangereuses. J’apprécie sa volonté de changer d’avis, mais je trouve cette nouvelle position incohérente. ABIABIAB a du sens en tant que menace unique. Plus nous nous rapprochons de l’ABIABIAB, plus nous devrions nous inquiéter qu’un groupe rebelle puisse déstabiliser considérablement la société — mais la réalité actuelle est que nous n’en sommes pas proches et que, en fait, nous semblons suivre une trajectoire historique totalement différente. Au contraire, nous devrions être reconnaissants que les laboratoires de pointe nous éloignent d’une IA véritablement dangereuse pour nous orienter vers l’alternative sûre des LLM.

11. Il suffit de réglementer les centres de données

Une préoccupation plus concrète concerne l’impact immédiat de l’IA sur l’environnement, notamment par l’expansion des centres de données. Je n’ai pas encore vu beaucoup de preuves que les centres de données soient fondamentalement différents de n’importe quel autre projet de construction classique ou qu’ils soient particulièrement capables de contourner les lois et les réglementations relatives à la consommation d’énergie. Comment se situent les centres de données par rapport aux autres ? Un bon point de référence est cet article de Semi-analysis qui montre, à l’aide de calculs simples, que la consommation annuelle d’eau de l’un des plus grands centres de données du pays est comparable à celle de 2,5 restaurants In-N-Out. Si les centres de données ont un impact environnemental similaire à celui d’autres entreprises, alors je pense que la véritable question est : (1) cet impact peut-il être atténué de la même manière que nous traitons les externalités négatives d’autres entreprises, par le biais de taxes et de redevances (je ne vois pas pourquoi ce ne serait pas le cas) ? et (2) les centres de données produisent-ils plus de valeur positive que d’autres entreprises ? Je vais avancer l’argument selon lequel un centre de données géant produit plus de valeur positive que 2,5 restaurants In-N-Out, et si nous atteignons la limite des ressources en eau disponibles, nous devrions agir pour freiner ces derniers plutôt que les premiers.

12. Les universitaires ont un rôle important à jouer dans la politique de l’IA

Je ne suis pas ici pour défendre une plateforme politique spécifique sur l’IA, mais j’aimerais que les gens cessent de se parler sans s’écouter.

Les défenseurs de l’IA devraient garder à l’esprit que bon nombre de ceux qui vantent aujourd’hui l’accélération de l’IA s’extasiaient auparavant devant les NFT, la cryptomonnaie, la réalité augmentée, les MOOC (et, plus lointainement — les remèdes de longévité, la cryogénisation, la néo-monarchie, les cités flottantes), etc. Les NFT et les cryptomonnaies, en particulier, constituent une véritable arnaque prédatrice — un mécanisme pour escroquer les gens et commettre des crimes — et il est donc tout à fait raisonnable de supposer que toute l’actualité autour des LLM n’est qu’une nouvelle vague de battage médiatique dans une longue série d’arnaques high-tech. En fait, il est clair qu’une grande partie du battage médiatique autour de l’IA est effectivement alimentée par ces mêmes escrocs (voir, par exemple, l’excellent article de Sam Kriss sur les stratagèmes de start-ups de science-fiction à forte valorisation comme Cluely).

Mais les sceptiques de l’IA devraient reconnaître que la vague actuelle d’avancées technologiques est significativement différente. Les LLM ne sont pas seulement vantés par des célébrités sans scrupules et des sociétés de capital-risque douteuses. En 2024, deux prix Nobel ont été décernés à la recherche en IA. Une vague d’universitaires réputés dans les domaines de l’apprentissage automatique et des statistiques a rejoint des entreprises d’IA (y compris les lauréats du prix Nobel mentionnés plus haut, comme Geoffrey Hinton). Les investissements en capital dans l’IA sont d’un ordre de grandeur supérieur à ceux de la cryptomonnaie. De grandes revues universitaires, des hôpitaux et des établissements de santé déploient leurs propres LLM ou s’associent à des entreprises d’IA.

Ce sont, en fait, les capacités étonnantes des LLM qui posent un tel risque pour l’apprentissage. Regarder avec enthousiasme un étudiant présenter lors d’un examen oral un résultat d’analyse très complexe (et correct !), puis observer avec une anxiété grandissante alors qu’il peine à répondre à des questions élémentaires sur cette analyse, perd le fil des axes ou des légendes des graphiques, panique et se montre incapable même de retrouver le code qui a généré le graphique ; prendre conscience qu’il a récité le résultat d’une machine qu’il ne comprend pas — c’est une expérience véritablement décourageante. Ça fait mal. Et cela encourage un climat de cynisme et de méfiance.

Je demande donc à ceux qui sont sceptiques face aux avancées des LLM de bien choisir leurs combats. Les LLM ne sont pas des NFT, où il suffisait de décrire la technologie pour en révéler l’inutilité sous-jacente. On ne peut pas se contenter de dire « encore un prédicteur de jetons » en levant les yeux au ciel et en en restant là. Les LLM ne vont pas soudainement se révéler inutiles et sombrer dans l’oubli. Ils sont là, ils sont utilisés, et ils modifient de manière significative la structure de la recherche.

Il est également nécessaire que les universitaires, en particulier, participent activement à la conversation. Nous sommes dans une position unique pour observer comment la connaissance est créée et transférée. Nous entretenons une vaste infrastructure publique (c’est-à-dire les revues) pour suivre et évaluer la production de connaissances, à laquelle nous accordons une attention religieuse. Nous observons et quantifions certains des premiers gains (ou pertes) en matière de compétences professionnelles. Apportons une contribution éclairée.

Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.

Notes

1
Exemple de consigne : Vous êtes un expert en génétique statistique. Étendez la méthode de régression du score d’expression médiée (MESC – https://github.com/douglasyao/mesc), un outil permettant d’estimer la proportion de l’héritabilité d’un trait issu d’une étude GWAS qui est médiée par des données d’expression génique mesurées, en utilisant un cadre de régression du score de liaison (LD-score). Vous étendez cette méthode pour estimer la polygénicité, c’est-à-dire le nombre effectif de gènes qui médient l’héritabilité de la maladie. Développez un estimateur de la polygénicité de la composante médiée par l’expression d’un trait issu d’une étude GWAS qui prend en entrée les statistiques récapitulatives de la GWAS, les données eQTL au niveau individuel, les données de référence de LD (ou des scores de LD) et qui produit une estimation. Pour une héritabilité médiée fixe, l’estimation de la polygénicité devrait être élevée lorsque de nombreux gènes influencent le trait et faible lorsque peu de gènes influencent le trait. Générez des données simulées où la variation génétique influence l’expression de nombreux gènes qui, à leur tour, influencent un trait issu d’une étude GWAS (et où il existe également des variants génétiques influençant directement le trait) . Générez un régime de faible polygénicité (peu de gènes ayant des effets importants sur le trait) et un régime de forte polygénicité (de nombreux gènes ayant de faibles effets sur le trait). Évaluez la performance de l’estimateur sur ces données en faisant varier l’héritabilité médiée et quantifiez la performance et le biais. Évaluez également la performance de l’estimateur d’héritabilité médiée en faisant varier la polygénicité. Veillez à ce que les simulations restent suffisamment petites pour pouvoir être exécutées sur un ordinateur portable. Vous pouvez formuler des hypothèses simplificatrices, mais documentez-les. Ne vous écartez toutefois pas des entrées, des sorties et du paramètre attendu. Rédigez un fichier README décrivant le raisonnement, l’estimateur, la simulation et les résultats, adapté à une note technique. Générez une figure illustrant les performances. ↩︎
2
Et sans vouloir trop insister là-dessus, le code et la documentation générés par les modèles constituaient un véritable calvaire. J’ai honte d’admettre qu’il m’a fallu plusieurs semaines rien que pour lire les implémentations et les évaluer. Si vous m’aviez dit il y a quelques années qu’un ingénieur logiciel infatigable pourrait produire des solutions de niveau stage doctoral à neuf problèmes intéressants en quelques heures et que je devrais me forcer rien que pour les lire, je ne vous aurais pas cru — et pourtant, nous y voilà. Les modèles n’ont aucune idée de ce qui est important ni de ce qu’il faut prioriser. Ils sont extrêmement prolixes d’une phrase à l’autre et d’un paragraphe à l’autre, mais étrangement laconiques au sein même des phrases. Ils produisent des arborescences de fichiers de code, des fichiers JSON et des fichiers CSV de résumé insignifiants qui croissent de façon exponentielle, chaque instanciation suivant une structure légèrement différente. Ensuite, ils documentent tout cela dans un style confus, à la manière d’un flux de conscience, avec des fioritures rhétoriques (« la forme d’une solution », « une hypothèse qui fait vraiment mal », « et une question sur laquelle il est important d’être précis ») qui deviennent rapidement écœurantes. Je ne veux pas m’attarder trop là-dessus, car cela semble être le problème le plus facile à résoudre pour les laboratoires de pointe. Mais si la lecture du code LLM continue d’être une expérience désagréable dans un an, je pense que cela deviendra un problème plus fondamental. ↩︎
3
Il convient de noter que cette analyse sémantique a elle-même été effectuée par un LLM. ↩︎
4
Afin d’assurer la cohérence entre les noms d’auteurs et les données démographiques, j’ai prélevé des prénoms dans la liste des prénoms de bébés les plus courants de la SSA et des noms de famille dans les catégories de recensement les plus courantes. Afin de créer une hétérogénéité dans les thèmes des résumés, ceux-ci ont été échantillonnés à partir de deux revues de génétique grand public : l’une avec un facteur d’impact de 30 et l’autre avec un facteur d’impact de 4 (le nom et les informations de la revue ont été masqués au LLM). Pour vérifier que les LLM lisaient et évaluaient (au moins dans une certaine mesure) les résumés, la consigne comprenait l’obligation de fournir des scores d’impact pour chaque résumé, et j’ai confirmé que ces scores étaient significativement associés à la revue d’origine. ↩︎
5
Il y a aussi généralement un sous-entendu selon lequel les emplois « de bureau » associés aux femmes disparaissent, tandis que les emplois « physiques » associés aux hommes deviennent plus essentiels. ↩︎