Gilles Babinet : « Il faut réfléchir à ce qui nous différencie des algorithmes, et réinventer notre singularité »

Entrepreneur et président de la Mission Café IA, Gilles Babinet suggère, dans son dernier ouvrage Le péril IA – Devenir des machines ou rester vivants ?, de remettre la technologie à la place qui est la sienne, sans pour autant y renoncer, et de réfléchir à ce qui nous distingue des algorithmes, pour que nous ne finissions pas nous-mêmes par être « automatisés » et déshumanisés.

Futura : Vous faites partie des meilleurs spécialistes français du numérique et de l'IA. Pourquoi avez-vous voulu écrire ce livre maintenant ?

Gilles Babinet : Cela fait déjà longtemps que j'ai ce projet en tête. C'est quelque chose qui me tient particulièrement à cœur. Il y a une telle accélération de l'intelligence artificielle, liée à toute une série d'enjeux politiques, sociaux et économiques, qu'il m'a semblé intéressant de chercher à expliquer l'étendue des perspectives sur chaque grand sujet : le travail, la singularité humaine, les risques géopolitiques, etc.

Futura : Pour autant, vous parlez d'un péril IA dans votre ouvrage ? Qu'entendez-vous par là ?

Gilles Babinet : Le livre n'est pas catastrophiste. Il évoque les opportunités offertes par cette technologie, mais aussi l'importance de mettre en place un certain nombre de garde-fous pour éviter les risques qui y sont liés.

Cela fait plusieurs décennies que j'observe l'évolution d'Internet et, comme beaucoup à ses débuts, j'ai été extrêmement optimiste sur son potentiel. On pensait qu'il allait révolutionner l'éducation, résoudre les asymétries d'information, générer une croissance forte sans inflation.

La réalité, c'est que ça ne s'est que très partiellement produit, et que des problèmes que personne n'avait vraiment envisagés sont apparus. Les scandales Snowden en 2013 et Cambridge Analytica en 2018 ont douché beaucoup d'espoirs. Avec l'IA, je ne veux pas répéter cet optimisme naïf.

Futura : Cependant, plus que la technologie en elle-même, c'est l'usage que l'on en fait qui est déterminant ?

Gilles Babinet : La technologie est indissociable du contexte économique et politique dans lequel elle naît. C'est pour cette raison qu'elle n'est jamais véritablement neutre.

La machine à vapeur est portée par la sophistication du capital au XIXe siècle. Le moteur à explosion est breveté en 1857, mais il faudra attendre 1930 pour qu'il génère des gains de productivité - 75 ans plus tard - parce qu'entre-temps il a fallu inventer le permis de conduire, le code de la route, les stations-service, la normalisation des carburants. La technologie ne suffit jamais : c'est tout un écosystème social et institutionnel qui doit se construire autour.

Aujourd'hui, la concentration des capitaux entre quelques géants du numérique et la radicalisation politique favorisent le développement de l'IA, mais il est très incertain que cela serve uniquement l'intérêt du plus grand nombre. C'est précisément ce que je voulais mettre en avant.

Futura : D'une certaine manière, l'IA vient parachever un vieux rêve de l'humanité, celui de la machine qui va résoudre tous les problèmes, simplifier toutes les tâches, et devenir une servante éternelle. Cette technologie a donc également une dimension anthropologique particulièrement forte ?

Gilles Babinet : C'est un sujet profondément anthropologique. Nous assistons à une transformation civilisationnelle absolument radicale et nous ne nous organisons pas pour y faire face. Nous devrions former les gens et déterminer collectivement la place que doit occuper l'algorithme dans la vie de la Cité. C'est ce que j'essaye de faire avec la Mission Café IA.

Il y a toute une série de questions que nous devrions collectivement nous poser que nous ne nous posons pas. C'est d'ailleurs très étonnant : l'IA est probablement, parmi tous les grands enjeux mondiaux, celle qui est la plus susceptible de changer la vie des gens à court terme - et elle est pourtant quasi absente des débats politiques.

Futura : Un problème dont on parle très peu, c'est l'épuisement des métaux critiques nécessaires au fonctionnement du numérique, notamment le cuivre. C'est un phénomène qui s'aggrave d'année en année. Est-ce que cela pourrait constituer un frein au développement de l'IA ?

Gilles Babinet : Je ne souscris pas à la posture catastrophiste sur ce point. Le marché génère des adaptations réelles : les laptops d'Apple sont désormais fabriqués avec des matériaux largement recyclés, et la quantité de matière nécessaire pour produire un ordinateur ne cesse de diminuer. Je ne crois pas que la barrière minéralogique arrêtera le développement de l'IA, pas plus que la barrière énergétique - elle peut le ralentir, mais pas au point d'en changer la dynamique fondamentale. Nous trouvons continuellement des innovations qui améliorent radicalement le ratio calcul versus matière et énergie. Cela ne veut évidemment pas dire qu'il n'y a pas d'enjeu environnemental immédiat et tangible - il y en a un, et il est sérieux.

Futura : Justement, l'IA est en train de redéfinir notre rapport au travail, à la sécurité, à l'information, à la santé... Comment ce « reset » peut-il reprogrammer nos sociétés ?

Gilles Babinet :  Il faut d'abord admettre que notre modèle de société est déjà assez dysfonctionnel. La démocratie libérale n'a pas tenu toutes ses promesses : aux États-Unis, 40 % des individus prendront des neuroleptiques à un moment de leur vie. La croissance du vote populiste en Europe, aux États-Unis et ailleurs en est un autre symptôme.

Ce qui va changer avec l'IA, c'est que la valeur cardinale de nos sociétés - être le plus intelligent et le plus productif possible - va être remise en cause par des machines qui produiront plus et réfléchiront plus vite que nous. Il faut donc réfléchir à ce qui nous différencie des algorithmes, et réinventer notre singularité.

Ce défi arrive de surcroît dans un contexte de pression climatique, géopolitique et démographique inédit - certaines études évoquent un pic de population mondiale dès 2055 - et dans des sociétés vieillissantes, où l'audace politique devient structurellement plus difficile à mobiliser.

Futura : Dès lors, comment définir notre singularité et éviter que nous ne devenions nous-mêmes des machines ? Quels sont les leviers à notre disposition ?

Gilles Babinet : Seulement 2 % de notre design psychologique vient du temps historique - tout le reste vient de nos 300 000 ans de préhistoire. Nous devons renouer avec ce qui nous a façonnés : être davantage sensibles au monde, à la nature, renforcer le collectif et la collaboration que le modèle libéral a progressivement érigés. Homo sapiens n'est vraisemblablement pas fait pour passer sa journée entière à réfléchir seul devant un écran. Si nous ne prenons pas cela en compte, le risque d'être cannibalisés par la machine est réel.

Avec l'IA, nous arrivons peut-être au bout de l'aventure technologique telle que nous la connaissons depuis l'origine du temps historique - 6 000 ans au cours desquels nous avons inventé le feu, l'électricité, l'ordinateur. Nous pourrions assister à la fin d'une civilisation qui a structurellement lié son émancipation au progrès technique, du simple fait que ce progrès sera désormais largement assuré par l'IA elle-même. C'est l'hypothèse inverse de celle d'Elon Musk - et c'est peut-être le début d'une ère entièrement nouvelle.