Que se passe-t-il lorsque l’IA affecte les systèmes de ciblage et les libertés civiles ?
Traduction de AI is a bureaucratic technology. So is war. par Henry Farrell, 3 mars 2026.
Un court article en complément du précédent, sur un aspect du conflit entre Anthropic et le ministère de la Défense qui devrait être clair, mais qui ne l’est peut-être pas, car il ne s’inscrit pas facilement dans les termes énoncés du désaccord. Le principal sujet de discorde n’est pas de savoir si Claude va devenir le cerveau d’une armée de T-1000, marchant au pas pour faire avancer les intérêts américains. Il s’agit plutôt de l’utilisation bureaucratique de l’IA dans la guerre : à la fois la guerre menée à l’étranger et la guerre, peut-être, menée par l’État contre son propre peuple.
Si vous avez la moindre expérience du département américain de la Défense, vous savez qu’il s’agit d’une bureaucratie labyrinthique, avec ses propres intérêts complexes. Paul Krugman demande sarcastiquement ce matin si les troupes américaines sont censées montrer leurs muscles face aux drones attaquants. Cette question recèle une leçon importante. Le « système moderne » de guerre ne dépend pas tant des biceps, ni même du matériel, que des structures organisationnelles complexes qui permettent de déployer avec succès des ressources qui se renforcent mutuellement. La logistique joue un rôle extrêmement important : si vous ne parvenez pas à acheminer le matériel au bon endroit et au bon moment, vous perdrez. Une myriade de décisions spécifiques prises par des individus doivent s’accumuler correctement. Tout cela explique pourquoi le Pentagone est si bureaucratique : même si cela est inefficace dans certains cas précis, même si cela est parfois inefficace dans l’ensemble, on ne peut s’en passer.
Cela explique également pourquoi l’IA, y compris les systèmes généraux de synthèse, de collecte d’informations et de génération comme Claude, et les systèmes plus spécialisés à des fins particulières, sont précieux pour le ministère de la Défense. Ils peuvent améliorer la coordination. La « singularité managériale » est extrêmement utile pour les grandes organisations qui ont beaucoup d’informations à gérer. Je viens de participer au podcast Chinatalk de Jordan Schneider (qui n’est pas encore disponible sur Substack, d’après ce que je vois), où j’ai discuté avec des personnes qui, contrairement à moi, ont une expérience directe de l’armée américaine. Il est difficile de surestimer les avantages du LLM pour effectuer des tâches de traduction organisationnelle, telles que la semi-automatisation de l’extraction d’informations sensibles sur les sources et les méthodes à partir de documents classifiés destinés à être partagés avec des alliés.
De même, il y a des choses dont vous devez vous préoccuper si ces technologies sont largement adoptées. En cas de guerre réelle, vous devez vous préoccuper du choix des cibles. Voir, par exemple, le récit du magazine +972, basé sur des sources mécontentes au sein de l’armée, sur la manière dont Israël a utilisé l’IA pour décider qui frapper à Gaza.
Au début de la guerre, l’armée a donné son accord général aux officiers pour adopter les listes de personnes à abattre établies par Lavender, sans exiger qu’ils vérifient minutieusement les raisons pour lesquelles la machine avait fait ces choix ni qu’ils examinent les données brutes sur lesquelles ils étaient basés. Une source a déclaré que le personnel humain ne servait souvent que de « tampon en caoutchouc » pour les décisions de la machine, ajoutant que, normalement, ils ne consacraient personnellement qu’environ « 20 secondes » à chaque cible avant d’autoriser un bombardement, juste pour s’assurer que la cible marquée par Lavender était un homme. Et ce, malgré le fait que le système commette ce qui est considéré comme des « erreurs » dans environ 10 % des cas et qu’il soit connu pour marquer occasionnellement des individus qui n’ont qu’un lien ténu avec des groupes militants, voire aucun lien.
Les classificateurs IA, ce que Lavender est clairement, commettent beaucoup d’erreurs grossières. Le terme « grossier » a une signification très différente lorsqu’un système est conçu pour tuer des personnes sur la base d’intégrations incompréhensibles et peu fiables, et lorsqu’il est conçu pour diffuser des publicités.
Il en va de même pour le déploiement de l’IA sur le front intérieur, où certaines parties de l’armée américaine pourraient analyser des informations sur les citoyens américains. Cela a des conséquences directes sur le conflit entre Hegseth et Anthropic, qui aurait tourné en grande partie autour des circonstances dans lesquelles le LLM d’Anthropic pourrait être utilisé pour la « surveillance légale des Américains ». Alors, quels types de surveillance sont en fait légaux ?
Il est largement admis que, par exemple, la NSA n’est pas autorisée à surveiller délibérément les citoyens américains, en vertu du décret 12333. Les scandales passés (lorsque la NSA a par exemple mis sur écoute le révérend Martin Luther King) ont conduit à des réformes dans les années 1970 et après. Ce qui est beaucoup moins connu, c’est qu’il n’existe aucun contrôle juridique strict empêchant l’armée américaine d’acheter des informations « open source » recueillies par des fournisseurs commerciaux.
Il existe tout un secteur lucratif équivalent à l’État policier qui recueille des données qu’il vend à d’autres entreprises à des fins de publicité ciblée et autres. Et il ne se contente pas de vendre à d’autres entreprises. Le gouvernement lui-même, y compris certaines branches militaires, serait également un client enthousiaste.
Cela pose déjà des dilemmes : le gouvernement peut potentiellement utiliser ces données pour établir des profils sophistiqués des citoyens américains à l’aide des technologies existantes. Mais les LLM peuvent potentiellement augmenter considérablement la capacité des administrations à tisser ensemble différentes sources de données afin de fournir une image beaucoup plus cohérente de l’individu et de ses activités. Comme le décrivent Marion Fourcade et Kieran Healy :
Au début de l’ère Internet, être en ligne apportait certaines libertés. Non seulement l’anonymat ou le pseudonymat en ligne étaient courants, mais ils étaient célébrés comme une forme de libération. Les utilisateurs saisissaient l’occasion d’expérimenter différentes versions d’eux-mêmes. Cette multiplication des identités était une caractéristique, et non un bug. Elle reflétait également l’architecture technique d’un Internet moins intégré, qui offrait aux participants ce que l’on pourrait appeler une « liberté interstitielle ». Il s’agit de la liberté que nous accordent les écarts entre des systèmes qui ne communiquent pas ou ne peuvent pas communiquer efficacement entre eux. C’est une sorte de liberté négative. Si votre profil de joueur ne peut pas être facilement relié à votre adresse e-mail professionnelle ou à vos discussions sur les forums, vous bénéficiez d’une forme de confidentialité qui dépend moins de protections juridiques explicites que des limitations techniques de systèmes qui sont connectés en principe, mais pas intégrés dans la pratique. … Les outils qui reconnaissent des schémas, prédisent des comportements et détectent des anomalies peuvent désormais fonctionner dans des domaines auparavant distincts.
Ces outils sont encore très imparfaits, mais cela crée ses propres problèmes. Les imprécisions et les erreurs peuvent faire partie intégrante du système. Les dystopies que nous devons craindre ressembleront moins à 1984, avec son Big Brother qui voit tout, qu’à Brazil de Terry Gilliam, dans lequel un bug dans un téléscripteur conduit à ce que la mauvaise personne soit prise pour cible et tourmentée.
Cela me semble mieux refléter la logique du combat entre Anthropic et le ministère de la Défense que la plupart des commentaires que je lis. Nous devrions moins nous inquiéter des robots autonomes et davantage des systèmes pseudo-autonomes intégrés dans les bureaucraties qui leur permettent de faire des choses qu’ils ne pouvaient pas faire auparavant, mais avec beaucoup d’imprécision.
J’ai enseigné à un grand nombre d’officiers au cours de mes deux décennies passées dans le milieu de l’enseignement supérieur à Washington DC. J’ai toute confiance en leur intégrité et en leur volonté de lutter contre la systématisation des crimes de guerre. Je suis, pour le dire plus poliment que je ne le voudrais, moins confiant dans l’éthique et l’intégrité de leurs dirigeants civils actuels. Il n’est pas nécessaire d’être d’accord avec Dario Amodei sur la question de savoir si nous sommes sur le point d’assister au déploiement rapide de « pays de génies dans un centre de données » pour s’inquiéter de ce qu’un aspirant département de la guerre hegsethien sans entraves pourrait tenter de faire avec cette technologie, ou pour croire qu’Anthropic a pris la bonne décision en refusant de coopérer (tout en souhaitant qu’elle en ait fait davantage), ou d’espérer qu’Amodei ait raison de spéculer que cela pourrait susciter un débat sur le chemin parcouru avec ces technologies et sur la direction que nous pourrions prendre.
Les traductions de 2026 (.xlsx) – celles de 2025 – par Gilles en vrac
Les caractères gras dans le texte sont de Gilles
Pour vous recevoir un courriel hebdomadaire vers mes traductions.