Le Café Politique

Le sens de l’histoire

"Le métier à tisser Jacquard, mis au point en 1801 est le premier système mécanique programmable avec cartes perforées, il est parfois considéré comme l’ancêtre de l’ordinateur ou du robot. À Lyon, le métier Jacquard fut mal reçu par les ouvriers de la soie qui voyaient en lui une cause possible de chômage. Ce fut la cause de la "Révolte des Canuts", où les ouvriers cassèrent les machines. À l’origine, Jacquard travailla sur ce projet afin de limiter le travail des enfants, qui étaient souvent employés comme aides par leurs parents tisseurs. Mais il regretta toute sa vie les conséquences sociales de cette innovation." Wikipedia

" Nous rendre comme maîtres et possesseurs de la nature " écrivait Descartes dans son "Discours de la méthode", programme qui sert de justification implicite au progrès de la science et des techniques. D’usage familial puis artisanal, les techniques se sont ensuite développées dans le cadre d’organisations collectives bien structurées et hiérarchisées. Grâce à la maîtrise de l’énergie, la force humaine ou animale a été largement remplacée par celle des machines et depuis pas mal d’années déjà nous savons fabriquer des machines capables d’exécuter des tâches répétitives.

Dès la deuxième partie du vingtième siècle, grâce à des écrivains visionnaires comme Isaac Asimov, le robot "intelligent" est entré dans l’imaginaire collectif. Pourtant dans les années d’après-guerre les premiers ordinateurs étaient justes capables de faire des calculs et n’avaient pas grand-chose à voir avec ce que l’on nomme habituellement intelligence. En 1997 la victoire de Deep Blue sur Gary Kasparov aux échecs remit cette question de l’intelligence artificielle sur le devant de la scène. À cette époque ce n’était pas les capacités tactiques ou stratégiques qui faisaient la force de l’algorithme, mais sa puissance de calcul. 20 ans plus tard, en trois jours d’apprentissage AlphaGo Zéro, en partant simplement des règles de base du jeu de go et en s’entraînant à jouer contre lui-même, écrase tous les champions, y compris le modèle d’IA qui avait un an auparavant battu le champion du monde Lee Sedol. Plus surprenant l’IA s’est aussi imposée au poker, jeu où l’intuition et la psychologie jouent de l’avis des professionnels un rôle important.

Le robot autonome et conscient, avec une intelligence équivalente à un humain, reste du domaine de la science-fiction, pourtant l’IA est bien là et pas uniquement pour faire des compétitions avec des joueurs. La capacité des ordinateurs, le stockage massif des données, le perfectionnement des méthodes statistiques et le développement fulgurant du "deep learning" ont permis de fabriquer des programmes qui savent faire des choses, comme l’apprentissage perceptuel, l’organisation de la mémoire ou le raisonnement critique, qui relèvent de ce que l’on nomme habituellement intelligence. Ce sont cependant, comme pour les machines classiques, des collectifs humains qui fabriquent ces programmes "intelligents" à partir de multiples connaissances scientifiques et techniques accumulées par l’humanité. La question n’est pas tant de savoir si ces programmes ont une âme ou s’ils risquent de s’autonomiser et de se révolter, mais de savoir quels usages seront faits de cette IA. Sera-t-elle essentiellement au service des riches et des puissants ou deviendra-t-elle un bien commun au service de tous ?

Si pour l’instant les performances de ces algorithmes sont surprenantes, elles sont bien loin de couvrir l’éventail des capacités psychiques des humains et personne ne sait jusqu’où iront les compétences de l’IA. Certains croient en une "IA forte", arguant du fait que la conscience humaine a un support biologique donc matériel, ils ne voient pas d’impossibilité avec le développement des capacités des ordinateurs et la maîtrise des algorithmes à reproduire des processus identiques à ce que nous nommons "conscience". Ce point de vue ouvre la voie à tous les fantasmes transhumanistes. Débrancher l’ordinateur comme le fait Dave dans le film "L’odyssée de l’espace" de Stanley Kubrick lorsqu’il coupe les processeurs du supercalculateur HAL 9000, peut être vu comme un geste aussi banal que d’éteindre la télévision ou comme l’assassinat d’une intelligence. Pour la plupart des chercheurs en IA cette question est encore pour longtemps d’ordre philosophique. Par contre ces mêmes chercheurs ont conscience que des questions éthiques et politiques sur les usages possibles de l’IA sont à l’ordre du jour. Au-delà des usages malveillants volontaires que l’on peut faire de l’IA, la complexité des algorithmes peut parfois nous rendre incapables d’analyser la pertinence des décisions prises par les programmes. La question du contrôle de l’IA, qui apprend à partir de bases de données gigantesques, est déjà d’actualité.

l’IA aujourd’hui

Au-delà des jeux qui ont surtout servi pour l’expérimentation, les secteurs privilégiés pour l’IA sont ceux qui sont économiquement solvables ou ceux pour lesquels les enjeux de puissance sont importants.

Aucune surprise donc de voir beaucoup d’investissements dans le pilotage des drones militaires ou dans l’utilisation des données et des métadonnées qui permettent de suivre le comportement des individus. La peur du terrorisme a en effet balayé tous les craintes d’un "Big Brother" limitant nos libertés et le contrôle social est hélas maintenant trop facilement accepté.

De même l’importance de l’IA dans la mobilité est incontestable. La puissance publique utilise de plus en plus la masse de données produites par les multiples capteurs pour mieux gérer les flux ou pour améliorer la sécurité. Les constructeurs connectent les véhicules et les rendent de plus en plus autonomes. L’IA, déjà capable de détecter les signes de fatigue ou de comportements anormaux, peut mettre le conducteur sous contrôle et immobiliser le véhicule.

Le trading algorithmique, en traitant des millions de données quasi instantanément, a permis aux banques les plus puissantes d’augmenter sérieusement leurs bénéfices. De même le e-commerce utilise de plus en plus l’IA pour manipuler les comportements d’achats et on commence à vendre de l’IA sous forme d’"assistants personnels" liés à des plateformes d’intelligence artificielle pour aider les individus à gérer leur vie quotidienne.

Quelques usages plus "nobles" et socialement très utiles existent. En santé par exemple l’IA commence à jouer un rôle important dans la prévention en baissant les coûts des diagnostics, c’est le cas des programmes de détection des cancers, notamment de la peau, qui sont très performants et peu onéreux. L’IA peut aussi permettre de réduire considérablement le temps nécessaire à la mise sur le marché d’un nouveau médicament et donc de diminuer le coût de la recherche médicale. L’IA permet aussi d’améliorer le confort des patients ; des logiciels après une période d’apprentissage sont capables de prévenir, 90 minutes avant, un patient diabétique d’une possible phase d’hypoglycémie ou d’hyperglycémie.

Dans l’agriculture l’IA est aussi présente, pour augmenter les rendements, mais aussi pour rendre notre agriculture plus écologique, comme les programmes qui aident à la réduction de l’utilisation de produits phytosanitaires. La justice fait aussi usage de l’IA, notamment pour mieux exploité la jurisprudence, mais cela n’est pas encore très satisfaisant et beaucoup se posent la question du risque des biais ethniques et éthiques liés aux bases de données judiciaires.

Des utilisations plus surprenantes existent déjà, des sociétés vendent des logiciels de détection des émotions sur le visage souvent utilisés pour mieux manipuler les clients. D’autres encore, en général de manière expérimentale, apprennent des programmes à faire des œuvres d’art. Après avoir analysé plus de 10 000 portraits, l’IA " Le comte de Belamy" a produit un tableau, dans les standards habituels du portrait, qui a été vendu 10 000 euros. On peut considérer que les concepteurs du logiciel sont les auteurs du tableau, mais ils ont utilisé des outils bien inhabituels pour un peintre.

Ces exemples d’usages ne sont qu’une partie du potentiel de l’IA, qui va probablement investir tous les secteurs d’activités. Les transformations sociales, économiques et politiques sont difficilement prévisibles, mais il est nécessaire de commencer à se préparer à affronter les effets de cette révolution technoscientifique.

L’économie de l’IA

Le développement des machines a permis de supprimer beaucoup d’emplois pénibles ou répétitifs. Le tracteur a provoqué l’exode rural, mais le développement de la société de consommation a permis de transformer les paysans en ouvriers. Même si cela ne s’est pas toujours bien passé, cf. la révolte des canuts, le progrès technique n’est pas toujours associé au chômage, actuellement en Europe le taux de chômage n’est pas lié à l’usage des robots industriels.

Pour autant beaucoup de métiers vont être profondément transformés, voire quasiment supprimés. Reconvertir ces emplois dans le système productif se heurte à la finitude de la planète et seul le partage du travail ou le développement de services peut permettre d’absorber cette main-d’œuvre qui sera disponible. Pour les optimistes, les travaux intellectuels répétitifs seront remplacés par des activités aussi utiles, qui demanderont des capacités d’initiatives hors de la portée de l’IA. Les pessimistes s’inquiètent de notre capacité à former l’ensemble de la population à des compétences cognitives de haut niveau. La faiblesse relative de notre système éducatif et l’inadaptation de notre système de formation continue, légitiment en bonne partie cette inquiétude. L’inadéquation entre l’offre et la demande d’emplois n’est pas en France un problème facile à résoudre. La mise en avant de la possibilité d’un revenu universel correspond, en partie, à un renoncement à trouver un emploi utile pour tous, à condition que la performance accrue de notre système productif, via la redistribution étatique et la taxation directe ou indirecte des bénéfices de l’IA, puisse payer à tous "du pain et des jeux". Pour résoudre ce problème les croyants dans le transhumanisme, comme Elon Musk, envisagent la "neuro-augmentation" en dopant les capacités cognitives, par des produits chimiques ou des implants cérébraux. La médecine est toujours dans la logique de l’homme réparé, mais l’homme augmenté intéresse de plus en plus les investisseurs et certains sont prêts à mettre des milliards sur d’hypothétiques innovations qui, si elles aboutissent, poseront de sérieux problèmes moraux et politiques.

L’IA utilise beaucoup de données, si certaines sont utilisées directement par les entreprises qui les produisent d’autres sont pour l’instant dans une sorte de no man’s land. Liées à des individus elles ont un caractère privé, mais produites en tant que données par des systèmes collectifs, elles ont aussi souvent un caractère public. Le mouvement open data, qui ne veut pas d’une appropriation étatique pouvant conduire à des excès de contrôle, a voulu en faire un bien commun utilisable par tous, à condition que cela n’aille pas à l’encontre de l’intérêt des individus. Aubaine pour les libéraux qui ont profité de l’occasion pour "marchandiser" les données. La privatisation des données prônée par certains, loin d’être un frein au danger de marchandisation est une fuite en avant libérale qui serait un renoncement à faire des données un bien commun. Le statut des données et le contrôle de leurs usages est certainement un des grands enjeux politiques de demain. Le risque de déshumanisation de nos conditions de vie n’est pas uniquement lié à la volonté de contrôle de la puissance publique ou à la volonté des entreprises de faire de l’argent, l’IA, même construite avec l’intention de rendre des services individuels ou collectifs, peut se traduire dans les faits par une perte d’autonomie. La voiture de demain sera certainement "autonome", mais le conducteur ne le sera certainement pas plus qu’avant.

Les GAFA américaines ou les BATX chinoises ont tellement de puissance qu’il est illusoire de croire qu’une loi nationale ou européenne pourra contrôler leurs activités dans le domaine de l’IA. Comme pour les enjeux environnementaux ou climatiques qui concernent toute l’humanité il faut rapidement dégager un consensus international sur les grands principes. La difficulté principale est la volonté des États les plus performants de faire de l’IA un avantage économique et militaire déterminant. Une régulation locale déséquilibrée peut être un handicap relatif important. C’est le principe du moins disant en terme de régulation qui s’est imposé dans notre mondialisation libérale. Freiner par des contraintes européennes l’émergence de plateformes dans les nouvelles technologies, c’est indirectement donner un avantage économique aux pays comme la Chine ou les EU. Au-delà du différentiel de régulations, le risque pour nous est de croire que l’essentiel de la concurrence se joue au sein de l’Europe alors que le retard pris est déjà considérable, la France n’a plus depuis longtemps de politique industrielle et le pouvoir actuel ne semble pas avoir de vision stratégique pour que l’écosystème économique français participe à l’émergence d’une souveraineté numérique européenne.

Faire de l’IA un enjeu politique

Démocratiser l’IA n’est pour l’instant qu’un slogan de Microsoft, de Google et des entreprises pour qui la démocratie se résume à une société de consommation bien policée. L’IA passionne les philosophes et les intellectuels, mais les politiques, qui ont pourtant un devoir d’anticipation, semblent peu préoccupés par cette question. Mounir Majhoubi Secrétaire d’État chargé du Numérique et Cedric Villani, en charge d’une mission gouvernementale sur cette question, donnent l’impression de vouloir, comme le veut la doxa apolitique du macronisme, dépolitiser les enjeux en simplifiant les problèmes. Certes le retard dans le numérique de nos PME et le risque d’usages malveillants sont soulignés. Mais en gros, ils nous demandent de faire confiance à l’État pour réguler les usages et au droit pour punir les malveillants. "… ces technologies vont apporter plus de santé dans nos vies, de fluidité dans les transports et de bien-être au quotidien" dit Mounir Majhoubi et pour éviter les problèmes la réponse est simplement : "une meilleure éducation populaire et nationale aux évolutions induites par la massification du numérique semble nécessaire". Cédric Villani de son côté sent bien le danger de ces IA développées par les GAFA ou BATX et il analyse avec pertinence le risque de voir les réseaux sociaux empiéter sur le fonctionnement des institutions démocratiques, Facebook par exemple, en filtrant les messages, peut facilement influer sur le résultat d’une élection. Pourtant, prétextant le nécessaire désamorçage des angoisses philosophiques, Cédric Villani ne veut pas se départir de la naïve confiance qu’il a dans la capacité de nos politiques actuels à gérer les enjeux de l’IA et à nous conduire vers "le meilleur des mondes possibles".

Malheureusement, l’humanité n’a pas fait la preuve de sa capacité à bien gérer les révolutions technologiques. La dernière en date, celle d’Internet a apporté beaucoup d’espoir en changeant nos manières de communiquer, mais au final a créé plus d’opportunités pour les riches et les puissants que pour les pauvres. Les limites de la main invisible du marché sont bien là, car les écarts de condition d’accès aux ressources numériques entre les individus sont énormes. Même si chacun défend ses intérêts au mieux dans une logique libérale notre société deviendra de plus en plus hiérarchique et inégalitaire. Les travaux de la London School of Economics en 2016 ont conclu qu’effectivement Internet, qui s’est développé dans un monde dérégulé, avait augmenté les inégalités et ce sont les plus diplômés qui ont retiré les plus gros bénéfices de cette innovation. Les logiques du système économique actuel ne peuvent que mener à une appropriation par une minorité de la plupart des bénéfices de l’IA.

Nos démocraties libérales européennes, qui n’ont de légitimité que sur l’étendue de leur territoire, ont accepté de laisser la bride sur le cou aux puissances économiques mondialisées, elles sont donc quasi incapables de contraindre les développeurs de l’IA à œuvrer pour l’intérêt général. Ce renoncement ne peut que profiter à une élite fortement dotée en compétence numérique et en capital financier et donc augmenter les tensions sociales et les tendances dites "populistes". À terme c’est tout le système politique mondial, de plus en plus incapable de garantir les valeurs qui sont censées le fonder, qui risque de se trouver déstabilisé. Péril supplémentaire en perspective pour une humanité qui a de plus en plus de mal à gérer ses conflits géopolitiques et qui voit son horizon bien obscurci par le changement climatique et les problèmes environnementaux.

Démocratiser l’IA, qui commence par faire en sorte que les citoyens puissent participer lucidement aux choix politiques liés à l’émergence de ces technologies, est une nécessité.