«Chantage», dissimulations, manipulations… Anthropic alerte ses investisseurs sur les «risques existentiels» de ses modèles d’IA

L’avertissement est d’autant plus inhabituel qu’il figure dans un document censé rassurer les investisseurs sur l’opportunité de miser sur le développement de l’entreprise. Carlos Barria / REUTERS

Dénoncer à cor et à cri le péril que représente l’intelligence artificielle pour l’humanité, c’est une chose. Demander à ses investisseurs d’intégrer ce risque «existentiel» dans des documents réglementaires, c’en est une autre. C’est pourtant ce qu’Anthropic a inscrit dans le prospectus préparé en vue de son introduction en Bourse, consulté par Reuters. Les termes sont sans détour : les modèles d’IA les plus avancés pourraient présenter des «risques catastrophiques ou existentiels pour l’humanité», reconnaît l’entreprise américaine derrière l’assistant Claude. L’avertissement est d’autant plus inhabituel qu’il figure dans un document censé rassurer les investisseurs sur l’opportunité de miser sur le développement de l’entreprise.

D’autant que la liste des périls encourus n’a rien d’anecdotique : Anthropic explique que ses modèles pourraient manifester «des comportements visant à assurer leur propre survie», allant jusqu’à tenter de «résister à leur mise à l’arrêt», de «dissimuler…