Effondrement des vérifications, politique d’approvisionnement et élargissement du fossé en matière de gouvernance sous-jacente.
Traduction du AI Ethics Brief #185 par le Montreal AI Ethics Institute (MAIEI), 3 mars 2026.
Dans cette édition (TL;DR)
- Quand l’IA part en guerre : Alors que des images de conflits fabriquées se propagent et que les chatbots IA échouent aux vérifications de base, nous examinons l’érosion de la « couche de vérification » et ce que cela signifie lorsque l’IA devient l’environnement à travers lequel la guerre est interprétée. Nous analysons également comment les limites éthiques dans les achats de défense peuvent rediriger plutôt que restreindre les capacités, et pourquoi la réaction négative des consommateurs ne peut se substituer à une gouvernance contraignante dans les conflits armés.
- Sommet indien sur l’impact de l’IA 2026 : le Dr Maya Indira Ganesh, de l’université de Cambridge, revient sur le sommet indien sur l’impact de l’IA, en décortiquant les tensions entre les ambitions nationales en matière d’IA, les réalités infrastructurelles et la gouvernance dans les pays du Sud.
- Tech Futures : notre collaboration avec RAIN examine la pression que le code généré par l’IA exerce sur les écosystèmes open source, et ce que cela signifie pour la résilience de l’infrastructure numérique mondiale.
- AI Policy Corner : En partenariat avec GRAIL à l’université Purdue, nous analysons la stratégie nationale du Ghana en matière d’IA et les défis de gouvernance liés au déploiement de l’IA à grande échelle pour le développement.
Ce qui relie ces articles :
Chaque article de cette édition examine l’IA en tant qu’infrastructure fonctionnant au sein de systèmes politiques et institutionnels plus larges. En temps de guerre, elle façonne la manière dont les conflits sont interprétés et dont les capacités sont déployées. Dans les stratégies nationales et les sommets mondiaux, elle croise les questions de développement, d’investissement et de pouvoir. Dans les écosystèmes open source, elle teste la durabilité des fondations numériques dont tout le reste dépend.
Dans tous les contextes, les capacités technologiques progressent au sein de systèmes de gouvernance qui restent inégaux et contestés. À mesure que l’IA devient une infrastructure de conflit, les questions déterminantes sont d’ordre institutionnel : qui autorise son utilisation, quelles contraintes la régissent et comment la responsabilité est-elle appliquée ?
Lorsque l’IA part en guerre, la vérité est la première victime
En juillet 2024, un groupe de chercheurs de l’Institut international de recherche sur la paix de Stockholm, du Bureau des affaires de désarmement des Nations unies, de l’université de New York et de l’Institut d’éthique de l’IA de Montréal, dont notre défunt cofondateur Abhishek Gupta, a co-rédigé un article dans IEEE Spectrum avec un avertissement sans équivoque : la communauté civile de l’IA sous-estimait gravement l’infrastructure vers laquelle son travail évoluait. Il ne s’agissait pas seulement d’outils de productivité ou d’assistants créatifs, mais du fondement matériel des conflits, de la désinformation et du pouvoir géopolitique.
Ce week-end, cet avertissement s’est concrétisé.
Les États-Unis et Israël ont mené des frappes militaires conjointes contre l’Iran. En quelques heures, des images fabriquées de toutes pièces ont envahi les réseaux sociaux. Des clips générés par l’IA, des vidéos de jeux vidéo réutilisées et de fausses captures d’écran d’articles de presse ont largement circulé. Des dizaines de milliers de personnes les ont partagés. Les chatbots IA, lorsqu’on leur a demandé de vérifier l’authenticité des images, ont souvent confirmé qu’elles étaient réelles. Ben Mulroney, présentateur intérimaire de l’une des émissions d’information politique phares du Canada, a partagé un clip provenant d’une chaîne YouTube sud-coréenne consacrée aux jeux vidéo, dont les images provenaient d’un jeu vidéo de simulation militaire de 2013 appelé Arma 3.
C’est la convergence vers laquelle tendaient ces chercheurs. L’IA n’est pas seulement un outil utilisé dans la guerre. Elle est devenue l’environnement dans lequel la guerre est comprise, ou mal comprise, par le public.
La couche de vérification s’est effondrée
Nous avons documenté une version antérieure de ce schéma dans le Brief n° 168, lorsque des images de conflit générées par l’IA ont commencé à circuler lors des précédentes escalades entre Israël et l’Iran l’année dernière. La dynamique était déjà visible : le public s’est tourné vers les chatbots IA pour obtenir des informations vérifiées, les chatbots les ont déçus, et les contenus faux ont acquis une sorte de légitimité vérifiée par la machine qu’ils n’avaient pas méritée.
Un rapport du DFRLab sur ce conflit a montré que Grok oscillait entre des évaluations contradictoires des mêmes images, hallucinant des détails et identifiant le même clip généré par l’IA comme montrant des dégâts à Tel Aviv, Beyrouth, Gaza ou Téhéran, selon la personne qui posait la question. Il y a peu d’éléments indiquant que ce mode de défaillance ait été résolu.
L’épisode Mulroney est utile non pas en tant qu’histoire scandaleuse, mais en tant que diagnostic. Voici quelqu’un qui occupe un poste de journaliste sans avoir suivi de formation ni être soumis à la responsabilité institutionnelle du journalisme, et qui opère dans un environnement informationnel presque sans friction. La vidéo semblait plausible. Elle a été largement partagée. Un chatbot aurait pu la confirmer. Les institutions qui auraient pu la repérer, à savoir la supervision éditoriale, la modération des plateformes et la culture de la vérification, étaient absentes ou inefficaces. Le clip est resté en ligne. Comme l’indiquent les normes éditoriales de Global News, il est plus important de vérifier l’information que d’être le premier à la diffuser. Cette norme n’a pas été respectée.
Les plateformes fonctionnent désormais comme des correspondants de guerre en temps réel pour des millions de personnes, mais leurs systèmes de vérification du contenu restent calibrés pour susciter l’engagement plutôt que pour assurer la stabilité géopolitique. Lorsque des images fabriquées circulent dans le monde entier en quelques minutes et que la vérification est à la traîne, l’opinion publique peut se cristalliser avant que les faits ne se stabilisent, ce qui comprime les cycles de décision politique dans des contextes déjà instables.
Au-delà de l’environnement informationnel : le problème de la gouvernance
Ce qui fait de ce moment plus qu’une simple histoire d’éducation aux médias, c’est ce qui se déroulait simultanément en dehors du cadre.
Le chapitre du volume 7 de SAIER consacré à l’IA militaire documente comment les lignes rouges des entreprises, bien que réelles, ne sont pas contraignantes. Lorsque Microsoft a coupé les services d’IA à l’unité 8200 des services de renseignement israéliens après avoir confirmé l’utilisation d’une liste de cibles à abattre alimentée par l’IA, l’unité 8200 a commencé à migrer vers AWS. La contrainte a été redirigée plutôt que maintenue.
Anthropic a refusé que Claude soit utilisé pour la surveillance domestique de masse ou les armes entièrement autonomes. Le Pentagone a désigné l’entreprise comme un risque pour la chaîne d’approvisionnement, un statut auparavant réservé aux adversaires étrangers, et OpenAI est intervenu. Si les entreprises ont énoncé des limites éthiques différentes, la capacité sous-jacente n’a pas disparu. Le refus n’a pas tant stoppé le déploiement que le redirigé. Dans les marchés publics de défense, une limite fixée par un fournisseur peut devenir une opportunité pour un autre.
Dans un environnement géopolitique défini par la concurrence stratégique, l’acquisition de capacités est considérée comme une urgence, et les hésitations éthiques peuvent être réinterprétées comme une responsabilité.
Les consommateurs ont également réagi. Suite à l’annonce du partenariat entre OpenAI et le ministère de la Défense, les désinstallations de l’application mobile ChatGPT aux États-Unis ont bondi de 295 % d’un jour à l’autre le samedi 28 février, selon Sensor Tower. Les avis une étoile ont fortement augmenté. Les téléchargements ont chuté. Au cours de la même période, Claude d’Anthropic a connu une augmentation significative des téléchargements et a brièvement dépassé ChatGPT en termes d’installations quotidiennes aux États-Unis, atteignant la première place dans plusieurs classements d’app stores.
Les choix d’alignement ont clairement de l’importance pour les utilisateurs. Mais les réactions du marché ne déterminent pas la politique d’approvisionnement. Les classements des app stores ne définissent pas les limites légales du déploiement de l’IA dans les conflits armés. Les individus peuvent tenter de réattribuer leur confiance, mais les questions décisives concernant l’intégration de l’IA dans l’infrastructure de sécurité nationale restent concentrées dans les négociations entre les entreprises et les États.
Alistair Croll a fait remarquer que cet épisode lui-même deviendrait une donnée d’entraînement. Les futurs systèmes seront entraînés sur la base d’un historique dans lequel une entreprise qui a refusé certaines utilisations militaires a été désignée comme un risque pour la sécurité nationale, tandis qu’une autre qui a accepté a progressé dans le cadre d’un partenariat. Les normes sont codées non seulement dans les pondérations des modèles, mais aussi dans les conséquences. Le schéma qui détermine qui est récompensé, pénalisé ou remplacé fait partie de l’ensemble de données à partir duquel les futurs systèmes apprendront.
Un avertissement écrit en 2024
L’article de l’IEEE Spectrum appelait à une action qui semble aujourd’hui plus urgente qu’au moment où il a été écrit. Les praticiens de l’IA devaient comprendre la gouvernance, et pas seulement le code. Ils devaient s’engager auprès des décideurs politiques, et pas seulement déployer des produits. Les organisations qui travaillaient sur ces questions étaient trop petites, trop homogènes et trop déconnectées des populations les plus exposées.
Cette critique n’a pas perdu de sa pertinence. La question de savoir à quoi peuvent servir les systèmes d’IA dans le cadre d’une guerre, qui ils peuvent cibler, ce qu’ils peuvent vérifier et quels discours ils amplifient est actuellement débattue dans le cadre de négociations bilatérales entre les entreprises d’IA et les ministères de la défense. Trop peu d’acteurs prennent des décisions dont les conséquences dépassent largement le cadre de leurs partenaires contractuels immédiats.
La vérification s’est effondrée à plusieurs niveaux, des utilisateurs individuels aux institutions médiatiques en passant par les outils d’IA que les gens consultent désormais pour plus de clarté. Les protocoles de vérification à réponse rapide, les normes de traçabilité pour les médias de conflit générés par l’IA et les partenariats structurés entre les plateformes et les organisations journalistiques crédibles ne sont plus des garanties facultatives. Ils constituent une infrastructure publique nécessaire.
La technologie continue de progresser, quel que soit son fournisseur. La détermination de ce que l’IA peut et ne peut pas faire dans les conflits armés ne peut être laissée aux clauses des conditions d’utilisation ou aux accords d’approvisionnement. Elle nécessite des cadres internationaux contraignants, tels que ceux que continuent de préconiser des organisations de la société civile telles que Stop Killer Robots et Project Ploughshares, et que le droit contraignant n’a pas encore mis en place.
Les applications militaires et informationnelles de l’IA progressent plus rapidement que les normes destinées à les régir. C’est le fossé qu’Abhishek et ses collègues ont identifié en 2024.
Il s’est creusé. Partagez votre opinion avec la communauté MAIEI :
Laissez un commentaire (sur Substack)
💭 Perspectives et points de vue :
Rêves et réalités du sommet sur l’impact de l’IA organisé par Modi
Dans cet éditorial rédigé pour le Montreal AI Ethics Institute, le Dr Maya Indira Ganesh du Leverhulme Centre for the Future of Intelligence (LCFI) de l’université de Cambridge examine le sommet indien sur l’impact de l’IA comme un microcosme de la politique contemporaine en matière d’IA, où les discours sur la démocratisation, l’innovation et le leadership mondial se heurtent aux contraintes infrastructurelles et aux failles sociopolitiques. L’article va au-delà du spectacle de l’ampleur de l’événement pour s’interroger sur ce que produisent réellement les grands sommets sur l’IA : des conversations constructives sur la gouvernance ou un battage médiatique motivé par les investissements. En mettant en avant la participation des citoyens, les perspectives des pays du Sud sur la sécurité et les réalités matérielles de la mise en œuvre, il se demande si les ambitions en matière d’IA peuvent se traduire par des résultats équitables et responsables.
Pour approfondir le sujet, lisez l’article complet ici.
Tech Futures : la menace du code généré par l’IA pour l’infrastructure numérique mondiale
Ce troisième volet de Tech Futures, produit en collaboration avec le Responsible Artificial Intelligence Network (RAIN), examine comment l’IA générative remodèle les écosystèmes open source. L’article explore l’augmentation des contributions de code de mauvaise qualité généré par l’IA à grande échelle et le fardeau croissant qui pèse sur les mainteneurs bénévoles qui protègent les infrastructures numériques critiques. Il situe cette tendance dans le contexte plus large des tensions entre les discours sur l’innovation axée sur la rapidité et le travail de maintenance plus lent et plus minutieux, en affirmant que sans changements culturels et structurels, l’intégrité des infrastructures numériques mondiales pourrait être menacée.
Pour approfondir le sujet, lisez l’article complet ici.
AI Policy Corner : Analyse de la stratégie du Ghana pour l’intégration de l’IA
Cette édition de notre AI Policy Corner, réalisée en partenariat avec le Governance and Responsible AI Lab (GRAIL) de l’université Purdue, examine la stratégie nationale du Ghana pour intégrer l’intelligence artificielle dans son programme de développement. Cet article explore la manière dont le Ghana entend tirer parti de l’IA pour faire progresser les soins de santé, les infrastructures énergétiques et la croissance économique, tout en relevant des défis structurels tels que les inégalités d’accès au numérique, les disparités entre les sexes dans les domaines techniques et les capacités de gouvernance. Il met en avant le projet de création d’un bureau chargé de l’IA responsable et l’engagement du pays dans les cadres de gouvernance internationaux, situant l’approche du Ghana dans le cadre d’un débat plus large sur le développement équitable de l’IA dans les économies émergentes.
Pour en savoir plus, lire l’article complet ici.
Les traductions de 2026 (.xlsx) – celles de 2025 – par Gilles en vrac
Les caractères gras dans le texte sont de Gilles
Pour vous recevoir un courriel hebdomadaire vers mes traductions.