Dans un article du New York Times, Où nous mène l’intelligence artificielle ? (ma traduction) on peut voir, en quelques questions posées à 8 « grands penseurs », la diversité des opinions et les oppositions de points de vue. Sur la question de l’éducation je préfère encore écouter Stephen Downes, qui, même si je le trouve un peu trop optimiste, ou agnostique en ce qui a trait à la (prétendue) puissance de l’IA, nous ramène aux questions de fonds que le monde de l’éducation doit se poser (ma traduction). Ça rejoint un peu ce que disait une des 8 personnes interviewées par le NYT : « L’éducation avait déjà besoin d’une refonte en profondeur, donc la nécessité de s’adapter aux nouveaux outils d’IA pourrait être une bénédiction déguisée. » C’est la même Helen Toner qui disait, d’entrée de jeu :
Je pense que nous disposerons de systèmes d’IA capables d’apporter une contribution significative à la pointe de plusieurs domaines scientifiques, mais auxquels vous ne confieriez toujours pas l’organisation des camps d’été de vos enfants.
Par ailleurs j’ai apprécié le rapide tour d’horizon fait par David William Silva le 9 février dernier dans Je suis désolé de briser vos illusions : vous vous faites berner au sujet de l’IA, et vous allez bientôt vous sentir vraiment stupide. (ma traduction).
J’ai utilisé l’IA à plusieurs reprises comme mécanisme de brainstorming, comme caisse de résonance pour des idées en phase initiale.
Et voici ce que j’ai découvert : chaque fois que j’avais une idée qui sortait vraiment des sentiers battus, l’IA me décourageait de la poursuivre. Lorsque j’ai persisté, elle ne s’est pas contentée de me repousser, elle m’a pratiquement supplié d’arrêter. De ne pas continuer. De ne pas insister.
Réfléchissez à ce que cela signifie. L’outil que tout le monde vous présente comme « créatif » et « révolutionnaire » est, de par son architecture, incapable de faire autre chose que de calculer la moyenne de ce qui existe déjà. Il s’agit d’un résumé statistique du passé qui se fait passer pour une fenêtre sur l’avenir.
Autrement dit si vous utilisez IA pour résumer des échanges, des documents ou des ensembles de documents vous risquez fort de perdre ce qu’il y a de novateur, de créatif dans le lot.
Parmi les critiques les plus solides de l’engouement actuel pour la « machine qui parle », je crois qu’il faut retenir le dernier livre d’Éric Sadin, philosophe français qui en est, avec Le désert de nous-même, à son dixième livre sur la question de l’IA et ses corollaires.
Sadin fait le tour des mondes touchés (éducation, travail, arts, littérature et traduction).
Comment ne pas percevoir dans les terribles, et si éloquentes, paroles de ce professeur que quelque chose comme l’un des pivots de notre humanité commune est en train de vaciller? : «Les étudiants remettent en question l’intérêt même de faire des devoirs. C’est tellement démoralisant. J’adorais mon travail, mais j’ai décidé d’arrêter complètement. Avec des outils comme ChatGPT, ils pensent qu’ils n’ont plus aucune raison de développer des compétences. Je me demande pourquoi je perds mon temps à noter des textes rédigés par une machine que mes étudiants n’ont peut-être même pas pris la peine de lire. La sensation d’inutilité mine ma pédagogie. Je suis effondré. Avec ChatGPT, plus rien n’a de sens. C’est la fin d’une relation particulière, déjà sur le déclin, entre élèves et professeurs. L’IA marque moins le début d’une ère nouvelle qu’elle n’est le coup de grâce porté à un métier déjà à genoux en raison des coupes budgétaires, du déclin économique, de la course aux diplômes…»
Le désert de nous-même, p. 76
Alors que la France accueillait à Paris, en février 2025, le Sommet pour l’action sur l’intelligence artificielle (IA) qui se voulait une approche positive, Sadin s’est retrouvé au coeur d’un « contre-sommet » (Contre-sommet de l’IA : pour un humanisme de notre temps) qui s’est tenu en même temps au Théâtre de la Concorde, à quelques centaines de mètres du Grand Palais où se tenait le sommet officiel.
Son livre se termine sur sept exigences, sept principes suivis de sept actions. Parmi les principes, les qualités humaines, fondement des libertés, à défendre; les limites corporelles et mentales à protéger; les savoir-faire accumulés parfois depuis des siècles, à pérénniser; l’isolement à contrer; les développements technologiques à contrôler à partir du terrain; les aides publiques aux technologies délétères à abolir; le refus des demandes de compensations financières par les auteurs et artistes ! Ce dernier point parce que négocier, et accepter des compensations c’est légitimer l’appropriation monopoliste des savoirs et créations de tous.
Du côté des actions, tout d’abord le développement de réseaux de solidarités nationales et internationales; des chartes établies par les principaux concernés pour identifier ce qui est acceptable et ce qu’il faut refuser; refuser d’utiliser les systèmes qui bafouent les principes dégagés par l’action collective; faire grève, comme les scénaristes de Hollywood; utiliser les recours en justice possibles; chaque gain crée de la jurisprudence; rassembler et diffuser la contre-expertise émanant des acteurs terrain pour l’opposer aux « discours hors-sol » véhiculés par les « tenants de l’obsolescence de l’homme ».
Mais je me demande : eut-on suivi de tels conseils par le passé est-ce qu’on aurait encore la typographie à l’ancienne ?
Je ne sais si je dois classer ce Désert de nous-même parmi les discours catastrophistes anti-IA. Des discours d’opposition qui se trouvent à servir, indirectement, les promoteurs de cette même IA en accréditant la puissance « extraordinaire » de ces technologies… qui changeront le monde, qu’on le veuille ou pas. Et alors, on doit se précipiter pour en prendre le contrôle, malgré les risques inhérents car si on ne le fait pas, les « ennemis sans vergogne » ne se gèneront pas et nous soumettront à leur contrôle, leur monopole.
Ce que je retiens de Sadin, et aussi de Downes, c’est qu’il ne faut pas abandonner le fort mais bien plutôt revenir aux questions de base, à la qualité du lien qui fonde le service (d’éducation, de soutien social ou médical…). Il ne faut pas céder à la facilité et à la mode, ou, chez les cadres, à l’illusion du travail mécanique qui ne fait que reporter ailleurs, sur le client, sa famille ou dans la rue les éléments d’humanité qu’on aura oblitéré pour les remplacer par des formulaires, des robots, des procédures automatisées.
Si l’on doit trouver une utilité à ces nouveaux gadgets, cela ne devrait pas être pour consolider un système dans ses pires défauts ! Mais pourquoi, au juste, faudrait-il trouver une utilité à ces gadgets ? Parce que les Big Techs y voient leur intérêt ? L’intérêt de valoriser ce qu’ils ont déjà accumulé, volé et thésaurisé de nos savoirs et cultures pour renforcer encore leur emprise sur nos procédés, nos gouvernements, nos économies ?
Mais est-ce qu’on n’a pas déjà des robots, comme ces médecins spécialistes concentrés sur des champs très limités et orientés vers la production en quantité de diagnostics et d’interventions ? Déjà le médecin généraliste qui te reçoit sans même te regarder, ni te toucher, et qui n’a d’yeux que pour son écran et ses résultats d’examens… on pourrait tout aussi bien faire affaire avec une machine, non ?
Je trouve l’idée avancée il y a quelques mois par Andrew Curry plus qu’intéressante : l’arrivée de l’IA ne marquerait pas le début d’une vague transformatrice mais plutôt la fin de la vague de l’informatisation (ma traduction de son article) amorcée en 1971. Je ne sais si vous vous rappelez la frustration que provoquaient nos questions posées à Google, avant l’introduction de l’IA ? Il fallait trouver les mots justes, et la bonne manière. Alors que ce moteur de recherche gobait depuis des décennies tout le web il nous fallait encore poser nos questions comme en… 1998. En ce sens, la possibilité de poser des questions « en langage naturel » me semble plutôt rattraper un retard qu’une véritable avancée.
Mais l’IA c’est plus que cela. Notamment la production de « fakes » est devenue endémique, sans parler des différentes formes de « slop » (textes pseudo-scientifiques, films mettant en vedette des simulacres de personnes…). Gary Marcus, dans un billet du 14 février (We URGENTLY need a federal law forbidding AI from impersonating humans) cite le philosophe Daniel Dennett qui appelait, dans un article de mai 2023 dans The Atlantic, à interdire les contrefaçons de personnes. (ma traduction)
L’ARGENT EXISTE depuis plusieurs milliers d’années, et dès le début, la contrefaçon a été reconnue comme un crime très grave, passible dans de nombreux cas de la peine capitale, car elle sape la confiance sur laquelle repose la société. Aujourd’hui, pour la première fois dans l’histoire, grâce à l’intelligence artificielle, il est possible pour quiconque de créer des personnes contrefaites qui peuvent passer pour réelles dans bon nombre des nouveaux environnements numériques que nous avons créés. Ces personnes contrefaites sont les artefacts les plus dangereux de l’histoire de l’humanité, capables de détruire non seulement les économies, mais aussi la liberté humaine elle-même. Avant qu’il ne soit trop tard (il est peut-être déjà trop tard), nous devons interdire à la fois la création de personnes contrefaites et leur « transmission ».
Les sanctions pour ces deux infractions devraient être extrêmement sévères, étant donné que la civilisation elle-même est en danger.
Si l’IA peut apparaître à plusieurs comme un nouveau jouet, une technologie facilitant certaines recherches… elle comporte de nouveaux risques qu’il faut certainement encadrer. Il faut se méfier des discours catastrophistes autant que des promoteurs d’une intelligence suprême : les deux contribuent à gonfler à outrance les potentiels (positif ou négatifs) de cette technologie, au grand bonheur de quelques Big Techs vendeurs de datacenters et de logiciels. Voir La hype de l’IA : pourquoi les loups crient au loup ?
Les citoyens de l’Ohio se rebellent devant les conséquences de l’implantation de multiples centres de données. Doit-on simplement profiter de l’occasion pour vendre plus d’électricité à ces États limitrophes ? C’est ce que laisse entendre Gus Carlson dans le G&M d’aujourd’hui. Oui, les grandes corporations de la finance et de la technologie font déjà de la « connaissance de l’IA » (entendez l’usage de Copilot avec Word) un critère d’embauche… et certains technophiles s’amuseront, s’évertueront même, à démontrer comment l’IA Claude peut écrire un papier assez raffiné1Je pense à cette provocation de Yascha Mounk : The Humanities Are About to Be Automated. Incidemment j’ai traduit cet article mais ne l’ai pas encore lu. pour tromper les comités de lecture de revues scientifiques…
Je termine ce billet ambivalent avec deux articles qui s’opposent. Le premier article se veut une réponse à un message très populaire283,9 millions de vues depuis le 10 février de Matt Shumer sur X qui prédisait des pertes d’emploi catastrophiques à court terme : Pourquoi je ne m’inquiète pas pour les pertes d’emploi liées à l’IA par David Oks. J’ai trouvé ses arguments décrivant les goulots d’étranglement dans l’adoption des technologies assez convaincants… même si je trouvais son optimisme un peu naïf et sa vision de l’avenir qui me rappelait les discours sur la « civilisation du loisir » :
Je ne pense pas qu’il faille trop s’inquiéter pour ce monde. La transition vers celui-ci sera plus longue et plus douce que ce que les gens pensent aujourd’hui ; et lorsque nous aurons atteint cet état, nous aurons passé un certain temps dans un monde d’une telle abondance et d’une telle richesse que les emplois pourraient tout simplement devenir superflus. Peut-être passerons-nous notre vie à nous adonner aux loisirs, à la poésie, aux mathématiques pures ou à l’art raffiné du looksmaxxing (maximisation de l’apparence).
[Pourquoi je ne m’inquiète pas…]
Ce David Oks est partenaire chez Adreessen Horowitz, ce qui explique sans doute son optimisme et les limites de sa vision. Des limites qui ont été bien identifiées par quelqu’un qui a répondu dès le lendemain au texte de Oks : Pourquoi je m’inquiète pour la perte d’emplois + Réflexions sur l’avantage comparatif, par claywren sur une plateforme que je ne connaissais pas, en fait deux plateformes collaboratives : Lesswrong et Greaterwrong.
Ce deuxième texte, celui de claywren, amène des chiffres qui contredisent les prétentions de Oks, en matière de pertes d’emplois, mais surtout il pose des questions que le premier ne pose pas : comment sont répartis les gains de productivité éventuellement produits par l’IA ? Il cite des rapports qui chiffrent déjà des changements importants dans des secteurs, et pas seulement dans les niveaux d’entrée de ces secteurs :
Les remplacements touchent déjà les professionnels en milieu de carrière dans les domaines de la création et du savoir.
Voir les rapports liés aux illustrateurs et graphistes, traducteurs, rédacteurs et licenciements d’entreprise explicitement liés à l’IA.
Il rejoint ainsi les conclusions de Sadin. Aussi je crois, pour conclure cette Nième incursion dans le monde merveilleux/angoissant de l’IA : Il faut agir dès maintenant pour interdire les personnifications sans l’accord des sujets; il faut développer un encadrement, des règles qui mettent en évidence l’usage fait au quotidien : identifier les portions d’un rapport réalisé par l’IA… Et si des centres de données liés à l’IA devaient être construits ici, cela devrait d’abord servir à développer notre souveraineté numérique plutôt que d’amplifier notre dépendance à l’égard des oligarques américains : une liaison numérique entre l’Europe et l’Asie passant par l’Arctique mettant à profit d’éventuels centres de données indépendants des GAFAMs ?
Notes
- 1Je pense à cette provocation de Yascha Mounk : The Humanities Are About to Be Automated. Incidemment j’ai traduit cet article mais ne l’ai pas encore lu.
- 283,9 millions de vues depuis le 10 février