« La complémentarité homme-machine est une fable »
Fabien BenoitAricle de Usbek&Rica
« Anatomie d'un antihumanisme radical ». Le sous-titre du dernier essai d'Éric Sadin est pour le moins explicite. Dans ce nouveau livre, qu'on peut lire comme la suite logique des deux précédents (La Vie algorithmique et La Silicolonisation du monde, tous deux publiés aux éditions de L'Échappée), le philosophe s'attaque à l'intelligence artificielle, qu'il considère comme « l'enjeu du siècle ». D'après lui, l'IA telle qu'elle se développe aujourd'hui vient parachever l'ambition des grands acteurs du capitalisme numérique de s'infiltrer dans chaque interstice de notre vie privée pour y trouver de nouvelles sources de profit. Face à une évolution qu'il juge quasiment inéluctable, Éric Sadin appelle à faire remonter au plus vite des témoignages et des contre-expertises émanant des hôpitaux, des écoles et des entreprises, terrains sur lesquels les IA commencent à être déployées.
Usbek & Rica : Dans votre précédent ouvrage, La Silicolonisation du monde, vous évoquiez « l’irrésistible ascension du libéralisme numérique » ou, en d’autres termes, la volonté des grands acteurs du numérique de transformer l’intégralité de nos vies en données et d’en tirer profit à chaque instant. En quoi, comme vous le laissez entendre dans votre nouvel essai, l’intelligence artificielle représente-t-elle le stade ultime de ce mouvement ?
Si l’intelligence artificielle représente le nouveau Graal économique de notre temps, c’est qu’en effet, elle fait entrer le libéralisme dans une sorte de stade ultime de son histoire. Et cela pour deux raisons. La première, c’est que l’IA permet de continuellement susciter des opérations marchandes. Car ce qui la caractérise, c’est sa puissance à analyser et à interpréter des masses de données et à formuler en retour des recommandations. Par exemple, la fonction d’un miroir connecté ne vise pas seulement à réfléchir une présence, mais à collecter des données relatives au visage et au corps afin de suggérer des produits ou services supposés appropriés en fonction de l’analyse évolutive des états physiologiques, voire psychologiques. Ce type d’exemple pourrait être décliné sur de longues pages.
« L'IA s’offre une formidable machinerie à générer continuellement des profits »La seconde raison, c’est que l’IA offre, pour le monde de l’entreprise, l’occasion d’optimiser comme jamais les modes de production, pas seulement en automatisant un nombre sans cesse croissant de tâches et en supprimant des emplois à haute compétence cognitive, mais également en instaurant de nouveaux modes de management au moyen de capteurs et de systèmes d’interprétation en temps réel des « mesures de performance » du personnel destinés à définir à chaque instant les bonnes actions à entreprendre. Par cette double prérogative, l’IA s’offre une formidable machinerie à générer continuellement des profits et à instaurer des modes d’organisation hautement rationalisés.
De plus en plus de chercheurs prestigieux préfèrent aujourd'hui travailler pour les laboratoires créés par ces grandes entreprises plutôt que pour la recherche publique. Selon vous, à quel moment le monde de la recherche a-t-il « basculé » du côté de l’industrie, du marché ?
Ce mouvement massif d’affiliation
des ingénieurs et des programmeurs à l’industrie du numérique
remonte au tout début des années 2000, lorsque les grands groupes
ont commencé à disposer d’énormes moyens financiers et se
devaient de mobiliser des compétences scientifiques et techniques
pour se développer. À cette fin, les Google, Amazon, Apple, Uber,
Facebook, etc. surent habilement jouer d’un puissant pouvoir de
séduction, offrant des émoluments importants tout en affirmant
qu’ils faisaient advenir de nouveaux modes de management cool et
« horizontaux » - toute cette rhétorique oiseuse et si
souvent rebattue dont il me semble que nous sommes aujourd’hui
heureusement revenus.
« La technique, en tant que champ relativement autonome, n’existe plus. Seul demeure le techno-économique »
Parallèlement, il s’est opéré une
immixtion des grands groupes de l’industrie du numérique au sein
des centres de recherche publics, des écoles d’ingénieurs et des
grandes universités du monde entier. Dorénavant, toutes les
institutions de recherche et de formation bénéficient de fonds de
sponsoring émanant de l’industrie du numérique qui contribue
ainsi à définir les programmes. Cette inféodation du monde
technoscientifique aux intérêts de l’industrie représente un
drame dans la mesure où aujourd’hui la technique, en tant que
champ relativement autonome, n’existe plus. Seul demeure le
techno-économique. En cela, ce sont des formes de pluralités qui se
trouvent ainsi neutralisées au profit de productions fondées sur
des logiques strictement mercantiles et utilitaristes.
À cette enseigne, il est temps de
contredire les discours formulés par les ingénieurs qui, d’un
côté contribuent à ces développements et qui, d’un autre côté,
ne cessent d’invoquer à tout bout de champ l’« éthique »,
qui correspond désormais à une coquille vide, à un vague
fourre-tout ne produisant rien de concret et qui ne sert qu’à
témoigner de bonnes intentions de façade. À l’opposé de cette
mascarade, nous devrions plus que jamais appeler à une indépendance
de la recherche, et plus encore à développer de tout autres
imaginaires techniques. Je crois que c’est ce qu’il nous manque
cruellement aujourd’hui.
Le Français Yann Le Cun dirige FAIR, le laboratoire d'intelligence artificielle de Facebook. / © Jérémy Barande / Wikimedia (CC) |
Ce qui caractérise l’intelligence
artificielle, c’est que c’est une puissance d’expertise qui ne
cesse de se perfectionner. Ses systèmes auto-apprenants sont
capables d’analyser des situations toujours plus variées et de
nous révéler des états de fait dont certains étaient ignorés à
notre conscience. Et ils le font à des vitesses qui dépassent sans
commune mesure nos capacités cognitives. C’est pourquoi nous
vivons un changement de statut des technologies numériques :
elles ne sont plus seulement destinées à nous permettre de
manipuler de l’information à diverses fins, mais à nous divulguer
la réalité des phénomènes au-delà des apparences.
« La technique se voit attribuée de prérogatives inédites : éclairer de ses lumières le cours de notre existence »En cela, ces systèmes computationnels sont dotés d’une singulière et troublante vocation : énoncer la vérité. La technique se voit attribuée de prérogatives inédites : éclairer de ses lumières le cours de notre existence. En ce sens, nous vivons le « tournant injonctif de la technique ». Il s’agit là d’un phénomène unique dans l’histoire de l’humanité qui voit des techniques nous enjoindre d’agir de telle ou telle manière. Et cela ne s’opère pas de façon homogène, mais s’exerce à différents degrés, qui peuvent aller d’un niveau incitatif, à l’œuvre dans une application de coaching sportif par exemple suggérant tel complément alimentaire, à un niveau prescriptif, dans le cas de l’examen de l’octroi d’un emprunt bancaire, ou dans le secteur du recrutement qui use de robots numériques et de « chatbots » afin de sélectionner les candidats.
Alors, on argue de la fable de la
« complémentarité homme-machine ». En réalité, plus
le niveau de l’expertise automatisée se perfectionnera plus
l’évaluation humaine sera marginalisée. Et cela va jusqu’à
atteindre des niveaux coercitifs, emblématiques dans le champ du
travail, qui voit des systèmes édicter à des personnes les gestes
à exécuter. Le libre exercice de notre faculté de jugement se
trouve substitué par des protocoles destinés à orienter et à
encadrer nos actes. Voit-on la rupture juridico-politique est en
train de s’opérer ?
Éric Sadin / © Stephan Larroque |
L’Intelligence artificielle s’appuie notamment sur des capteurs, des objets connectés, chargés d’agréger des données, des informations, en continu. On parle depuis des années d’un raz-de-marée à venir en la matière mais pour l’heure, il ne s’est toujours pas produit. Dans quelle mesure n’agitez-vous pas un fantasme autour de l’essor de ces technologies pour alimenter votre propos ?
Il faut saisir que ce mouvement ne s’opère pas de façon spectaculaire mais ne cesse pour autant de s’accroître. Que sont les enceintes connectées récemment mises sur le marché ? Des capteurs de nos paroles. Que sont les compteurs Linky ? Des instances de compréhension de nos comportements adossées à l’usage des divers objets électriques au sein de nos domiciles. Que pensez-vous que sera la voiture autonome ? Un organe de suivi de nos conduites au sein des habitacles : analyse des paroles échangées, de nos activités, de nos visages et de nos états, jusqu’à celle de la sudation - de notre sueur - captée par les sièges.
« Au moment où des techniques sont appelées à nous dire la vérité, elles se trouvent maintenant douées de la faculté de parole »
Car la voiture ne fera pas que nous
piloter d’un point à un autre, mais elle nous parlera en toutes
circonstances. À ce titre, il est troublant de relever qu’au
moment où des techniques sont appelées à nous dire la vérité,
elles se trouvent maintenant douées de la faculté de parole. Le
véhicule ne cessera de s’adresser à nous en vue de nous
conseiller, en fonction de nos états, de nous rendre dans telle
pharmacie ou de faire une pause dans tel restaurant, qui auront au
préalable acheté des mots-clés. La voiture autonome s’offrira
comme une instance à parfaitement nous accompagner, dans tous les
sens du terme, en fonction de nos besoins et désirs supposés et de
notre humeur du moment.
C’est cela que je nomme le
« pouvoir-kairos », la volonté de l’industrie du
numérique d’être continuellement présente à nos côtés afin de
chercher à chaque occasion profitable à infléchir nos gestes. Nous
allons de plus en plus être entourés de spectres chargés
d’administrer nos vies. La lutte industrielle verra une compétition
de la présence, chaque acteur s’évertuant à imposer indéfiniment
son empire spectral au dépend de tous les autres.
La voiture autonome Chrysler Pacific hybride de Waymo lors d'une phase
de test dans les rues de Los Altos (Californie) en 2017. / © Dllu-Flickr
(CC)
|
Il n’est pas anodin que les sciences computationnelles aient renouées depuis une dizaine d’années avec le modèle neuronal, qui remonte à la cybernétique. Il se fonde sur le postulat selon lequel le cerveau humain incarne une forme organisationnelle parfaite du traitement de l’information et de l’appréhension du réel et que nos existences, tant individuelles que collectives, devraient dorénavant battre au rythme de cadences hautement dynamiques, conformément à une vision utilitariste du monde.
« Nous n’avons, en aucune manière, affaire à une réplique de notre intelligence, mais à un abus de langage laissant croire que l’IA serait habilitée à se substituer à la nôtre »
Tout un neuro-lexique se
constitue qui emprunte, sans vergogne et sans souci de précision
terminologique, au registre des sciences cognitives. Sont évoqués
des puces « synaptiques », « neuromorphiques »,
des « processeurs neuronaux »... Néanmoins, nous
n’avons, en aucune manière, affaire à une réplique de notre
intelligence, même partielle, mais à un abus de langage laissant
croire que l’IA serait, comme naturellement, habilitée à se
substituer à la nôtre en vue d’assurer une meilleure conduite de
nos affaires. C’est pourquoi, il convient de remettre en cause le
terme « intelligence artificielle ». En vérité, nous
avons plus exactement affaire à un mode de rationalité cherchant à
optimiser toute situation et à satisfaire nombre d’intérêts
privés.
Quand on parle d’une IA qui peut énoncer la vérité et
nous dire comme agir, cela ne s’apparente-t-il pas à une forme de
religion ?
Plus que de religion, je préfère
parler de « surmoi » : une instance à énoncer la vérité à
laquelle nous allons accorder de plus en plus d’aura, à propos de
laquelle nous allons de moins en moins voir qu’elle charrie des
intérêts autant qu’une vision du monde que nous allons peu à peu
considérer comme « naturelle ». Et ça, c’est
terrible, car nous avons affaire à un modèle de société qui
entend supprimer tout défaut et tendre vers le fantasme de la
perfection. Cette ambition relève notamment d’un déni de notre
faillibilité. Or, notre faillibilité suscite le désir
d’expérimenter, l’audace de nous aventurer dans l’inconnu,
elle appelle d’exprimer notre singularité et de témoigner de
notre responsabilité. En cela, elle permet à la pluralité humaine
de se manifester. Car l’exploitation de l’IA impose une vision
hygiéniste du monde qui procède notamment d’un déni de la
subjectivité et de nos facultés, celles précisément que nous
devrions plus que jamais chercher à exprimer.
« C’est la façon dont nous pensons et agissons dans notre vie quotidienne qui est menacée, pas la façon dont nous surfons sur Internet »Mais n’est-ce pas trop difficile d’appréhender ces sujets ? Beaucoup de personnes ignorent encore ce qu’est l’IA. Ne faut-il par commencer par des initiatives plus petites, plus mobilisatrices, je pense par exemple à Solid, le nouveau projet de Tim Berners-Lee - le créateur du web - qui veut nous redonner la maîtrise de nos données ?
C’est la façon dont nous pensons et
agissons dans notre vie quotidienne qui est menacée, pas la façon
dont nous surfons sur Internet. Tim Berners-Lee est resté figé à
son moment historique : le web. Il pense que le problème, c’est le
web. Le problème, ça n’est pas le web, ni la pub sur Internet. La
question centrale regarde celle du dessaisissement en cours de notre
autonomie de jugement et de notre liberté de décision et d’action.
Nous sommes démunis par la vitesse des développements qui nous
empêche de nous prononcer en conscience et qui sont présentés
comme étant inéluctables.
Tim Berners-Lee, l'inventeur du World Wide Web / © ITU Pictures - Flickr |
« Plus on compte nous dessaisir de notre pouvoir d’agir et plus il convient d’être agissant »C’est pourquoi, il convient d’abord de faire remonter des témoignages, de salutaires contre-expertises émanant de la réalité du terrain, là où ces systèmes opèrent, sur les lieux de travail, dans les écoles, les hôpitaux… Nous devrions tout autant manifester notre refus à l’égard de certains dispositifs lorsqu’il est estimé qu’ils bafouent notre intégrité et notre dignité. Et nous devrions enfin développer des contre-imaginaires, de tout autres imaginaires en actes. Contre cet assaut antihumaniste, faisons prévaloir une équation simple mais intangible : plus on compte nous dessaisir de notre pouvoir d’agir et plus il convient d’être agissant. C’est ce principe qui, plus que jamais, devrait nous inspirer et qui, à ma mesure, a déterminé l’écriture de mon livre.
Image à la une : © Stephan Larroque