Asma Mhalla - Technopolitique

J'ai découvert Asma Mhalla lors d'une table ronde avec Aurélien Barrau dans le cadre du festival savoyard Livres en Marches. Face à un discours très pertinent et structuré avec lequel je me sens en forte résonance, j'ai acheté son livre Technopolitique - Comment la technologie fait de nous des soldats, paru en février 2024 aux éditions du Seuil. Ayant travaillé trois ans dans la startup américaine Techcyte spécialisée dans un outil innovant à l'attention des laboratoires d'analyses qui fonctionne sur un coeur d'intelligence artificielle, dans l'un des rares domaines où je trouve que son utilisation est réellement pertinente et positive, et ayant vu des myriades de façons de ne pas utiliser l'IA de façon vertueuse (généralement pour nous vendre des services dont nous n'avons pas besoin, pour nous fidéliser à une marque en exploitant nos failles psychologiques bien humaines, pour nous surveiller en masse...), je suis devenu très sensible à la question du caractère souhaitable ou pas de cette technologie qui vient se rajouter au mille-feuilles technologique de plus en plus énergivore et gourmand en ressources naturelles. En d'autres termes: est-ce que l'impact désastreux des nouvelles technologies de l'information - et en particulier de l'IA - sur le vivant et sur notre rapport au monde en vaut la peine ? Il y a bien entendu autant de réponses que de personnes qui se posent cette question pourtant toute simple. Peu importe, car au fond, ce qui est réellement important dans ce processus de pensée, c'est avant tout d'apprendre ce qui est en jeu au niveau sociétal en amont et en aval de cette technologie. C'est précisément ce que propose Asma Mhalla dans ce livre.

Hypervitesse, technologie totale, technologies de rupture, BigTech, BigState, InfraSystème, MétaStructure, hyper personnalisation de masse, démocratie de masse remplacée par la démocratie de symbiose: tous ces concepts sont posés, superposés et illustrés d'exemples concrets. Et l'on se rend compte que de la technologie totale à la technologie totalitaire, il n'y a qu'un pas. Et que les démocraties douces sont en danger puisque désormais non seulement les infrastructures appartiennent à quelques sociétés, mais les données aussi. Ces sociétés privées, dès lors qu'elles atteignent une masse critique deviennent de facto un acteur (ou un pion) politique. On l'a vu avec la société-mère de Google, Alphabet, qui collabore avec les autorités. On l'a vu aussi avec l'état chinois qui n'hésite pas à punir/menacer les patrons milliardaires pour bénéficier de leurs services et surtout de leurs données. Mais on voit aussi à l'inverse des acteurs du civil faire pression sur le politique à travers l'idéologie, comme par exemple Elon Musk, le fer de lance du mouvement nationaliste anti-woke américain qui a racheté Twitter pour en faire la chambre d'écho de ses idées. Et il y a le cas de Cambridge Analytica dont il est établi qu'elle a joué un rôle non négligeable dans l'élection de Donald Trump, en partenariat avec les dizaines de milliers de bots russes qui envoyaient de la désinformation sur les réseaux sociaux. Certes, le partenariat de grosses sociétés avec des régimes politiques autoritaires n'est pas nouveau, on se souvient de quelques sociétés allemandes qui ont oeuvré activement au service du nazisme. Ce qui change, c'est l'échelle et la couverture exhaustive des données qui apportent à la fois de la puissance et du pouvoir. Comme le dit l'adage, avec un grand pouvoir vient une grande responsabilité. Pouvons-nous avoir confiance dans le fait que les personnes au pouvoir politique et à la tête des BigTech sauront résister à la tentation d'utiliser cette capacité de manière abusive ? Pour ma part, je n'y crois pas du tout.

Dans ce monde du tout technologique, les technologies sont d'abord civiles mais sont à terme utilisables à des fins politiques, géopolitiques et militaires. Un peu comme le nucléaire qui a un volet civil et et un volet militaire, mais à la différence près que le nucléaire ne se trouve pas directement dans la poche de tout un chacun. A l'heure actuelle, les lignes de front se sont déplacées vers un autre type de géographie. En effet, c'est désormais le cerveau humain qui est le nouveau terrain des guerres proxy que se livrent les grands de ce monde, BigTech et BigState, faisant de nous des soldats (c'est là le sens du sous-titre de Technopolitique) à notre corps défendant. Cela se manifeste essentiellement sur les réseaux sociaux, grand champ de bataille de la désinformation ou de la "réinformation" (par le cherry-picking), lieu de "disruption de l'espace public", où "la démocratie s'est transformée en gigantesque marché des opinions". Et ces réseaux sociaux, par le biais de la sélection, du filtrage, de l'éditorialisation et de l'orientation des contenus, se font de fait médias sociaux selon une idéologie qui n'est pas forcément clairement identifiée. D'autres applications (comme TikTok) sont littéralement conçues avec l'objectif d'abêtir les utilisateurs et d'affaiblir les forces vives des nations adversaires où elles sont exportées: ces apps participent d'une guerre cognitive qui ne dit pas son nom. Et c'est un terreau fertile pour les opinions qui ont la possibilité de noyer les faits, pour l'émotionnel qui règne en maître, et pour le conspirationnisme qui s'épanouit. Un lieu où la pensée complexe n'a plus sa place, où les slogans remplacent les dissertations, et où la nuance disparaît au profit d'un manichéisme propice à tous les clivages et à toutes les tensions.

Et c'est dans cet univers technologique que la fenêtre d'Overton est la plus à même de se déplacer. Les tensions intercommunautaires préparent le terrain mental à des nouvelles guerres qui font appel à de nouvelles armes où l'IA est cardinale. Autrefois déontologiquement inacceptables, les armes autonomes sont ainsi développées par les BigState avec l'aide de startups spécialisées. Les frappes ciblées sont également décidées par des algorithmes. L'IA est le prochain facteur discriminant entre les futures puissances mondiales et les autres pays qui leur seront vassalisés et devront probablement choisir un camp d'un côté ou de l'autre des frontières de silicium. Dans un tel contexte, quel est l'avenir des démocraties ? On le voit aux Etats-Unis actuellement, le climat est à la tentation du totalitarisme. Ailleurs, ce sont les mouvements nationalistes et les droites extrêmes qui, portés par les colères et les peurs entretenues plus ou moins artificiellement sur les réseaux sociaux, se rapprochent des centres de pouvoir avec la ferme intention bien affichée de s'affranchir des contre-pouvoirs qui font la stabilité des démocraties. Plus que jamais, nous sommes des citoyens soldats, mobilisables selon l'intensité de l'actualité et la ligne éditoriale des grands médias devenus des danseuses au profit des puissants. Nombreux étaient ceux qui pensaient que la démocratie était l'un des acquis majeurs de l'histoire. Mais les technologies ont rebattu les cartes. Et désormais la démocratie est l'enjeu d'un combat qui nous concerne toutes et tous.

Le livre est d'une immense intelligence et l'on ressort très enrichi de sa lecture. Les termes sont utilisés avec une grande précision, les références sont nombreuses, le niveau de réflexion est académique, et la densité d'information est hors du commun. S'il y avait un reproche à faire à Technopolitique, ce serait de pointer le fait qu'il n'est pas abordable à la manière de Nexus de l'historien Yuval Noah Harari qui traite du même sujet sous l'angle civilisationnel, toutefois de façon bien plus vulgarisée. Asma Mhalla propose un certain nombre de néologismes et des concepts qui nécessitent une grande familiarité préalable avec le domaine étudié, et il est parfois un peu difficile de la suivre dans toute cette complexité. Mais si l'on est prêt à faire l'effort de se hisser au niveau de son auteure, alors Technopolitique est résolument un livre qui nous éclaire sur les enjeux sous-jacents aux mouvements de la période actuelle très riche en actualités. Et c'est un contrepoint éminemment utile face à la déferlante de simplifications et de fake news que l'on peut trouver sur les réseaux sociaux et même dans les médias généralistes.

Si la réalité ne se laisse pas facilement apprivoiser dans sa complexité, Asma Mhalla réussit cette gageure d'en apporter une excellente approximation. Et occupe à présent une place de choix dans mon panthéon personnel !

J'ai découvert Asma Mhalla dans une table ronde avec Aurélien Barrau dans le cadre du festival savoyard Livres en Marches.