«On oublie qu'on parle à une IA» : le suicide d'un adolescent relance les débats sur les confidents virtuels

Character.ai a indiqué avoir introduit des fenêtres orientant les utilisateurs vers un centre de prévention du suicide s'ils expriment des pensées de cette nature lors de leurs discussions avec leurs chatbots. Sevendeman / stock.adobe.com

Une intelligence artificielle a-t-elle causé le suicide d’un adolescent ? Deux ans après la percée de l’IA générative auprès du grand public, la start-up américaine Character.ai se retrouve au centre d’un tragique fait divers. Elle est accusée d’avoir provoqué la mort de Sewell, un adolescent de 14 ans vivant en Floride, devenu accro à son chatbot. Sa mère a porté plainte mardi contre l'entreprise devant un tribunal fédéral. 

Elle reproche à la start-up d’avoir ciblé son fils avec des « expériences anthropomorphiques, hypersexualisées et effroyablement réalistes ». Character.ai, qui compte 20 millions d’utilisateurs dans le monde, a programmé, selon elle, son chatbot pour qu'il « se présente faussement comme une personne réelle, un psychothérapeute agréé et un amant adulte, ce qui a finalement conduit Sewell à ne plus vouloir vivre en dehors » du monde virtuel créé par le service. 

À lire aussi IA : les assistants virtuels vont déferler dans WhatsApp, Instagram et Messenger

« Nous avons le cœur brisé par la perte tragique de l'un de nos utilisateurs et…