Nous profitons de la venue de Thibault Prévost, journaliste spécialisé dans les nouvelles technologies à Arrêt sur Image, et auteur du livre « Les prophètes de l’IA, Pourquoi la Silicon Valley nous vend l’apocalypse » (Éditions Lux) pour nous entretenir avec lui. Celui-ci était présent à Anduze en novembre dernier pour une rencontre publique organisée par le collectif Terres Vivantes en Cévennes.
> Tu retraces dans ton ouvrage la constellation d’idéologies nauséabondes portée par les principaux acteurs de la Silicon Valley (qui vont du transhumanisme au libertarianisme, de l’eugénisme au suprémacisme blanc…). Peux-tu en préciser les principaux traits et nous expliquer en quoi partir de cette analyse de te paraît-il important ?
Mon enquête s’articule autour du travail taxonomique mené depuis 2023 par la chercheuse en machine learning Timnit Gebru et du philosophe Emile P.Torres autour des idéologies de la Silicon Valley. Iiels ont développé l’acronyme TESCREAL, pour « Transhumanisme, Extropianisme, Singularitarisme, Cosmisme, Rationalisme, Effective Altruisme, Longtermisme », qui regroupe les principaux courants de pensée qui animent la tech californienne. Ces différents courants, qui se superposent, sont tous des émanations du récit transhumaniste, plusieurs fois remis à jour en fonction des enjeux de l’époque.
Grosso modo, les élites de la Silicon Valley sont convaincues que leur patrimoine financier et leur monopole sur les moyens informatiques de prédiction du monde font d’eux une nouvelle aristocratie de droit techno-financier. Elon Musk, Peter Thiel et d’autres sont persuadés de former une « élite cognitive » aux capacités intellectuelles supérieures au reste de l’espèce, qui leur confère un droit naturel à guider le devenir de toute l’humanité, comme jadis l’aristocratie de droit divin.
Leur conviction transhumaniste, c’est que le développement de la science et de la technique leur permettra de transcender leur condition humaine pour augmenter leurs capacités cognitive, devenir immortels et s’en aller coloniser la galaxie pour en exploiter les ressources. Aujourd’hui, ils sont persuadés que leur salut passe par le développement de l’IA, et que rien d’autre ne compte – ni la lutte contre le dérèglement climatique, ni l’exploitation du vivant, ni l’instabilité géopolitique, ni des choses aussi triviales que la malnutrition, les inégalités de condition ou les guerres.
Leur volonté de prise de contrôle des démocraties occidentales doit, selon moi, se lire à partir de cet agenda. Ce n’est pas une simple quête de richesse ou de pouvoir, même si ces éléments font évidemment partie du projet : c’est une quête ontologique de transcendance menée par une poignée de quinquagénaires à la richesse et au pouvoir inédits, persuadés de pouvoir désormais créer une divinité artificielle et la faire travailler pour eux. Le récit de l’IA porté par les milliardaires de la tech est non seulement religieux mais ouvertement sectaire.
> Tu montres que les patrons de la Tech ont réussi à imposer une vision à la fois catastrophiste et transcendante de l’IA, une sorte de prophétie divinatoire qui oscille entre la menace existentielle pour l’humanité et la superintelligence capable de sauver le monde… Comment s’est répandu un tel discours et dans quel but ?
Ce discours existe aux marges de la culture de la Silicon Valley depuis très longtemps : l’idée d’une machine capable d’égaler l’intelligence humaine puis de la dépasser est présente dès la création du champ de recherche de l’IA, en 1956. Au début du XXIe siècle, après les multiples échecs de la technique, la notion de « superintelligence » est totalement ringardisée. Elle est revitalisée en partie grâce à Nick Bostrom, président de la World Transhumanist Association, qui joue de son étiquette de professeur à Oxford pour mener un lobbying transhumaniste particulièrement efficace auprès des institutions. Son best-seller Superintelligence, sorti en 2014, donne un vernis pseudoscientifique à ses délires transhumanistes. Depuis, le discours ne fait que croître en importance.
Mais c’est avec la sortie de ChatGPT, le 30 novembre 2022, que ce récit apocalyptique va devenir omniprésent dans la presse et la société civile. Le simulacre d’intelligence proposé par le chatbot fonctionne au-delà des espérances de la Silicon Valley, et sidère autant le public que les journalistes. Les oligarques de la tech comprennent immédiatement l’opportunité de saisir ce moment de suspension critique pour imposer leur récit du futur, et se mettent à hurler sur tous les toits que l’IA peut aussi bien nous transcender vers une utopie cosmique que nous annihiler.
Ce discours n’a que des avantages : il affirme l’inévitabilité de la machine superintelligente -la super-IA va finir par arriver, peu importe ce qu’on décide – et transforme les patrons de la tech en sortes de mages, seuls capables de comprendre, de maîtriser et de contenir la puissance divine d’une technique beaucoup trop complexe pour nous autres mortels. Ce discours leur permet donc d’ordonner simultanément des investissements délirants et une dérégulation à peu près totale, afin qu’ils aient le champ libre pour guider l’humanité. Mais tout ça est intégralement faux : l’IA n’est ni complexe, ni opaque, ni inévitable. La superintelligence n’aura pas lieu, car elle repose sur un mensonge. Et lorsque nous nous rendrons compte de la supercherie, il sera trop tard : le techno-capital aura infiltré et démantelé la démocratie. D’où l’urgence à proposer un contre-récit de l’IA, basé sur les faits plutôt que sur les promesses délirantes, pour sortir collectivement de la sidération.
> Tu fais le constat que l’IA relève d’une industrie lourde dont le développement repose sur l’exploitation de travailleurs.euses sous-prolétarisé.es et sur des besoins démesurés en matières premières, structures, et énergie. En quoi est-ce nécessaire de se représenter cette matérialité là ? Peut-on imaginer que les systèmes d’IA, qui impliquent des capitaux colossaux, puissent au final être conçus pour servir des intérêts autres que ceux du pouvoir dominant ?
Dans le livre, j’utilise un outil critique que je trouve très utile, inventé par le cubernéticien britannique Stafford Beer : l’acronyme POSIWID, qui signifie « the purpose of a system is what it does », « le but d’un système est ce qu’il fait ». Concrètement, ça signifie qu’il faut évaluer la fonction d’un système par ses impacts réels plutôt que par les promesses de ses concepteurs. Lorsqu’on applique cette grille à l’industrie de l’IA, qu’est-ce qui émerge ? Une technique immatérielle, un cloud magique qui génère de la valeur infinie, améliore les conditions de vie du plus grand nombre, « résoud » l’anthropocène, guérit toutes les maladies et transcende l’humanité vers les étoiles ? Que dalle.
Dans les faits, l’industrie de l’IA est une abomination écologique planétaire, qui pollue et détruit tous les écosystèmes qu’elle touche, consomme déjà plus d’électricité qu’une centaine de pays et rejette plus de CO2 que le trafic aérien mondial. C’est une entreprise totale de subrogation du vivant et d’extraction de la force de production, qui précarise et dévalue la condition humaine, qui crée un nouveau prolétariat du clic, réparti selon les anciennes lignes impérialistes de division du travail. C’est une technique de surveillance totale par la prédiction algorithmique, qui efface la diversité des identités, classe, hiérarchise et moyennise les existences comme les pseudosciences racistes du XIXe siècle. C’est une fumisterie au service d’une techno-élite radicalisée, enivrée de sa propre impunité et désormais déterminée à en finir avec la démocratie. C’est un projet sectaire et oppressif, celui d’un monde de castes, un monde artificialisé dominé par une élite sociopathe.
Une IA émancipatrice, au service des communs et du vivant, est-elle possible ? Je ne le crois pas. La technique et son récit politique sont inextricables, et ce récit est fondamentalement suprémaciste. Une informatique alternative est cependant imaginable, à condition de repenser ses conditions même d’existence : sobriété plutôt que croissance ; optimisation plutôt que gigantisme ; localisme, décentralisation et gestion collective plutôt que monopole privé individuel. L’IA, comme toute l’histoire des techniques, rejoue la même histoire de propriété des moyens de production, de modalités d’organisation de la production et du corps social, et de gestion des communs positifs et négatifs.
> Dans un contexte de montée des fascismes et de contrôle généralisé des populations, de quelle manière perçois-tu l’inquiétant rapprochement entre le monde de la Big Tech, de l’ultra-capitalisme, et de celui des pouvoirs autoritaires en place ?
L’hybridation de la techno-élite californienne et des fascismes contemporains, des États-Unis à Israël en passant par la Hongrie, est tout sauf une surprise. Tous deux poursuivent le même but : la mise à mort des structures démocratiques de décision collective au nom du monopole – politique pour l’un, économique pour l’autre. Ce qui se joue actuellement, c’est la fin de quatre décennies de néolibéralisme en radicalisation constante et le dévoilement fasciste des élites politiques, techniques et financières. Ce rapprochement n’est même pas inédit : comme l’ont montre les historiens Jeffrey Herf et Johann Chapoutot, les capitaines d’industrie ont vigoureusement soutenu le projet national-socialiste d’Adolf Hitler, qui décorrélait le « progrès » industriel du progrès social.
Aujourd’hui, Peter Thiel, Elon Musk – qui ont tous deux grandi dans des enclaves ségrégationnistes blanches de l’Afrique du Sud de l’apartheid – ou l’investisseur Marc Andreessen, qui cite allègrement le futurisme italien de Marinetti, allié du fascisme mussolinien, comme source d’inspiration, jouent une partition similaire. « Je pense que la démocratie et le capitalisme ne sont pas compatibles », déclarait Peter Thiel dès 2009. Non seulement cette opinion sécessionniste est partagée par le reste de la Big Tech, mais elle convainc désormais la classe néolibérale, persuadée que l’État-nation du futur fonctionnera en réalité comme une entreprise – un PDG à la place du président, un conseil d’administration à la place du gouvernement, des actionnaires à la place du Parlement.
Cet État contemporain, que Trump est en train de façonner en ce moment même, n’est plus un dispositif de protection de la dignité collective, mais une machine à générer du profit. Or le profit est une entreprise fondamentalement inhumaine, qui repose sur les inégalités de conditions matérielles d’existence. Entretenir et élargir autant que possible ces inégalités est donc au coeur du projet techno-autoritaire, lui-même terminus de la pensée néolibérale d’innovation, de disruption et de privatisation. Aimé Césaire nous avait pourtant prévenus dans son Discours sur le colonialisme : le « très distingué, très humaniste, très chrétien bourgeois du xxe siècle (…) porte en lui un Hitler qui s’ignore ». Quatre-vingt-ans à peine après la fin des atrocités de la Seconde guerre mondiale, un même vent infâme balaie désormais l’Occident, fait à partie égales de fétichisme pour le progrès technique, de haine pour la démocratie et de conviction suprémaciste. L’histoire ne se répète pas, elle bégaie.
[Propos recueillis par Fred]