Entre fantasmes et risque d’« IApocalypse », les vraies menaces de l’intelligence artificielle au crible des chercheurs français

Depuis l’été, c’est plutôt par leurs méfaits que les algorithmes autonomes d’OpenAI, Anthropic, Google ou encore Meta se sont illustrés. Illustration - Aymeline Chemin / Photos - Photo Agency - stock.adobe.com

« Avancer vite et casser des choses. » L’adage est bien connu dans la Silicon Valley. Il a été popularisé par le jeune Mark Zuckerberg, à l’époque où son réseau social, Facebook, déferlait sur la planète. Une manière de signifier que l’innovation à la californienne n’est pas affaire de précautions. Quinze ans plus tard, les nouveaux seigneurs de l’intelligence artificielle ont intégré la leçon. Le 8 septembre, Jacob Coxon, chercheur chez l’un des leaders du secteur, Anthropic, quittait bruyamment cette industrie, formulant dans une salve de tweets viraux sa crainte de voir une IA « tous nous tuer d’ici à la fin de la décennie ». La faute à la progression de systèmes qu’il qualifie de « bientôt surhumains, capables de pirater n’importe quoi (…) et d’acquérir un pouvoir et des ressources réels ». Sur X, son collègue Evan Hubinger embrayait aussitôt : le responsable de la sûreté d’Anthropic estime, lui, à « plus de 10 % » les chances d’une fin du monde imminente.

Le…