Dans Intelligence artificielle & nouveau fascisme, le philosophe Rainer Mühlhoff explore les manières dont nos démocraties utilisent l’IA, les risques majeurs que ces usages font porter sur nos systèmes politiques et nos libertés. Pour conjurer cette pente fasciste dangereuse, il fait des propositions concrètes et utiles.
« Imaginons que, dans une agence pour l’emploi, nous dirigions un service chargé de décider… » Rainer Mühlhoff place au cœur de son essai une expérience de pensée d’apparence modeste. Le service doit dire s’il suspend les indemnités d’un chômeur qui a quitté son emploi, et il peut s’y prendre de deux façons. Dans la première procédure, des agents examinent chaque dossier : démission volontaire, contrat arrivé à son terme, harcèlement, maladie… Cette voie est lente et coûteuse, mais chaque étape peut être retracée, contrôlée par sondage, reprise par le juge. Dans la seconde, des agents chevronnés décident à l’intuition, de façon que la décision ait « de fortes chances de passer » ; une prime récompense ceux dont les décisions ne sont pas contestées, une retenue frappe ceux dont on annule trop souvent les décisions. Le premier service examine, le second parie. C’est ce second service, explique l’auteur, qu’une intelligence artificielle fait tourner sans personnel supplémentaire, à n’importe quelle échelle.
Mathématicien de formation, docteur en philosophie, Mühlhoff enseigne l’éthique de l’IA à l’université d’Osnabrück. Son livre a reçu en Allemagne le prix du livre politique de la fondation Friedrich-Ebert. Sa thèse tient en une phrase : le fascisme à l’ère de l’IA est « le moment historique où la préemption fondée sur l’IA, la violence étatique et des idéologies anti-égalitaires se condensent en un projet étatique explicitement antidémocratique ». L’essai descend par couches, du fonctionnement des machines aux discours de leurs promoteurs, puis à leur radicalisation politique, jusqu’au DOGE d’Elon Musk et aux opérations de la police de l’immigration à Minneapolis en janvier 2026. Il refuse deux facilités : le déterminisme, qui ferait de l’IA une machine à fabriquer du fascisme, et la lecture « purement instrumentale », qui ne verrait dans l’alliance des patrons de la tech et de l’alt-right qu’une affaire de profits.
Le lecteur pressé de rejoindre l’actualité américaine aurait tort de sauter le deuxième chapitre, qui est le cœur du livre. Les systèmes de classification probabiliste qu’étudie Mühlhoff ne disent rien, selon lui, du cas particulier : ils le classent d’après sa ressemblance avec des cas déjà connus. Transposée dans l’administration, cette logique change la nature de la vérité, qui devient une « valeur procédurale » : il s’agit de « pacifier » le plus grand nombre de cas au moindre coût, de décider « de manière à ce qu’il y ait le moins de contestations possible ». Dans le service imaginé par l’auteur, le système n’apprend ses erreurs que par les recours. Or ceux qui contestent le moins sont ceux qui en ont le moins les moyens : leurs erreurs ne remontent pas, le modèle les reproduit, et l’injustice s’accumule là où l’on se défend mal, jusqu’à fabriquer des écarts entre groupes qu’il prétendait seulement mesurer. C’est le modèle d’une administration qui ne cherche plus la décision juste, mais celle qui passera, et pour laquelle le silence des administrés vaut approbation.
Mühlhoff ne prétend pas que cette administration attende le fascisme pour exister. « Il est certes possible d’utiliser l’IA dans l’administration sans compromettre les principes de l’État de droit », écrit-il, avant de citer en note l’Espagne et les Pays-Bas comme exemples d’usages irresponsables. Le cas néerlandais éclaire pourtant ce que le livre laisse en suspens. De 2013 à 2019, l’administration fiscale a confié à un modèle auto-apprenant le choix des demandes d’allocations de garde d’enfants à contrôler de plus près, et, au moins de mars 2016 à octobre 2018, la nationalité entrait dans son calcul du risque. Une législation rigide, interprétée de la manière la plus sévère, permettait alors de réclamer toute une année d’allocations pour une irrégularité mineure. La commission d’enquête parlementaire impute le désastre à cette application plus qu’au seul modèle, et elle met en cause le juge : la justice administrative a, selon elle, « contribué de manière substantielle » pendant des années à une rigueur que la loi n’imposait pas. Les recours s’étaient multipliés, deux journalistes, de Trouw et de RTL Nieuws, avaient révélé l’usage de fausses preuves, et des députés réclamaient des comptes lorsque le Conseil d’État a rompu, en octobre 2019, avec sa ligne du « tout ou rien ». Deux ans plus tard, il présentait ses excuses aux parents : « Nous aurions pu et dû changer plus tôt notre ligne sévère. » En Australie, le dispositif Robodebt, qui calculait sans IA des dettes sociales à partir de revenus moyennés, n’a été suspendu qu’en novembre 2019, quelques jours avant que l’État reconnaisse son illégalité devant un tribunal.
Ces précédents ne réfutent pas Mühlhoff ; ils déplacent l’épreuve de sa thèse. Dans son expérience de pensée, les contrôles existent, les recours demeurent, le juge intervient, et son dernier chapitre convoque journalistes et fonctionnaires. Le cas néerlandais révèle que ces garanties peuvent cohabiter des années durant avec une injustice massive, et que le juge lui-même peut en devenir l’un des rouages. Préserver les voies de recours ne suffit donc pas : il faut savoir pourquoi elles échouent, et à quelles conditions elles corrigent.
On mesure alors ce que la conjoncture américaine a de neuf. Mühlhoff cite Russell Vought, directeur du budget de Donald Trump : « Nous voulons que les bureaucrates soient traumatisés. » Les actes ont suivi, et ils visent les organes de contrôle eux-mêmes : dix-sept inspecteurs généraux, chargés de détecter les abus dans les administrations fédérales, ont été congédiés en une soirée de janvier 2025, sans le préavis que la loi exige. En février, Vought, devenu directeur par intérim du Bureau de protection financière des consommateurs, y faisait cesser toute supervision. À Minneapolis, des milliers d’agents fédéraux, guidés par des drones, des lecteurs de plaques et des croisements de fichiers, ont traqué les migrants pendant des semaines. Les mécanismes de protection constitutionnels, écrit Mühlhoff, « bien que maintenus dans la forme », y perdaient leur capacité à limiter un pouvoir armé.
Les démocraties ont montré qu’un État peut se tromper à grande échelle sans verser dans le fascisme ; le danger propre à cette conjoncture est qu’un pouvoir s’emploie à neutraliser ceux qui pourraient établir ses erreurs, tandis que ses moyens de classer et de contraindre se déploient. Le livre décrit les conditions dans lesquelles ces deux mouvements pourraient se renforcer : centralisation des données, dépendance envers des infrastructures privées, État devenu, selon la juriste Hannah Ruschemeier qu’il cite, à la fois détenteur du pouvoir de l’IA et chargé d’en corriger les effets. Il reste plus difficile de savoir jusqu’où cette convergence est déjà réalisée, et l’auteur passe souvent du constat à l’anticipation : « on peut s’attendre à une fusion du pouvoir étatique et du pouvoir de la tech ». Entre le pari du deuxième chapitre et l’identification d’une personne par une police de l’immigration, quels dispositifs et quelles chaînes de responsabilité établissent le passage ?
La généalogie des « idéologies de la tech », de l’eugénisme de Julian Huxley au long-termisme, de Curtis Yarvin à J. D. Vance, fait apparaître des conceptions du progrès qui légitiment les hiérarchies humaines et, chez Yarvin, un pouvoir pensé sur le modèle de l’entreprise, jusqu’à la « monarchie du PDG ». Mühlhoff n’ignore pas les intérêts : il voit dans ces visions d’un avenir lointain « des contributions politiques cherchant à imposer certains intérêts dans le présent ». Il examine moins les divergences entre des courants dont les doctrines, les intérêts et les positions sur la régulation ne coïncident pas toujours. À l’été 2024, un projet de loi californien encadrant les modèles d’IA les plus puissants était défendu par des proches de l’« altruisme efficace », combattu notamment par le fonds Andreessen Horowitz, et soutenu par Elon Musk. Un désaccord sur une loi laisse subsister une convergence plus large ; il oblige pourtant à demander si l’idéologie commune suffit à expliquer l’alliance, au-delà des intérêts et des occasions du moment.
Sur le calcul probabiliste lui-même, l’histoire de l’État social offre un repère. La loi de 1898 sur les accidents du travail remplace la quête de la faute patronale par un principe de réparation fondé sur le risque professionnel ; François Ewald y voit un moment fondateur de l’État-providence. Ce qui distingue l’usage que décrit Mühlhoff n’est donc pas la probabilité elle-même, mais la destination qu’on lui donne : servir à organiser la prise en charge collective d’un risque, ou à l’imputer à chacun.
Le livre se clôt sur un programme : isoler les forces antidémocratiques, défendre les institutions de l’intérieur, réguler davantage, l’Union européenne en tête. L’Union a bien inscrit dans son règlement sur l’IA un droit à l’explication de certaines décisions individuelles, qui couvre l’attribution des prestations sociales ; elle vient aussi de reporter à décembre 2027 les principales obligations applicables à ces systèmes. Rendre une décision révisable ne se réduit pas à ouvrir un guichet de réclamation à qui n’en connaît ni les critères, ni les données, ni parfois l’existence. Il y faut des motifs accessibles, des données que l’on peut rectifier, des enquêteurs indépendants capables d’ouvrir la machine, et une autorité qui ait le pouvoir de l’arrêter. Les Pays-Bas l’ont appris aux dépens de plus de quarante mille parents reconnus lésés : la correction d’une injustice administrative ne peut reposer sur les seules personnes qu’elle frappe, ni sur des institutions qu’aucune autre ne vient éprouver. Mühlhoff demande aux journalistes, aux fonctionnaires et aux juges de défendre leurs institutions ; l’exemple néerlandais rappelle qu’il faut parfois les protéger contre leurs propres routines. Le danger commence quand une société perd les moyens de savoir qu’elle se trompe.
