Quand l’IA répond « comme Dieu » : la nouvelle industrie qui bouscule la foi

« Les voies du Seigneur sont impénétrables » pour les humains, mais apparemment pas pour l'intelligence artificielle. L'arrivée des chatbots a permis l'essor d'une nouvelle industrie destinée aux croyants, notamment aux États-Unis. Le nombre d'applicationsapplications religieuses intégrant un agent conversationnelagent conversationnel explose, et elles rencontrent un succès phénoménal.

La plupart de ces outils sont entraînés sur des textes religieux, peuvent répondre aux questionnements des utilisateurs en citant des versets, et se présentent comme de simples assistants spirituels. Toutefois, certains sont programmés pour répondre comme s'ils étaient Dieu lui-même. Et bien entendu, s'il existe généralement un accès gratuit, un abonnement est requis pour un usage régulier.

Entre ouverture spirituelle et risques de dérive

Des applications comme Bible Chat, Hallow ou Pray.com cumulent chacune plusieurs dizaines de millions de téléchargements. Dans un article du New York Times, des chefs religieux se sont exprimés au sujet de cette « faith tech ». Certains, comme le rabbin Jonathan Romain, les voient d'un bon œilœil. Pour eux, ce serait une porteporte d'entrée vers la foi pour une génération qui n'a jamais mis les pieds dans une église ou une synagogue. D'autres s'en inquiètent, notamment pour des raisons de confidentialité. Si des croyants partagent leurs secrets les plus intimes avec l'IA, il existe un risque que ces informations se retrouvent un jour sur le Web. C'est déjà arrivé avec ChatGPT.

De plus, l'utilisation des chatbots n'est pas sans danger pour la santé mentale. En plus d'être sujets aux hallucinations, comme tous les grands modèles de langage, ces outils sont à l'origine d'un nouveau phénomène baptisé psychose liée à l’IA, ce qui rend ce type d'utilisation particulièrement préoccupante. Trop flatteurs et serviles, ils ont tendance à aller dans le sens de l'utilisateur et confirmer son point de vue, ce qui peut l'entraîner dans une bouffée délirante. De plus, quelle est l'utilité d'un guide spirituel qui vous dit toujours ce que vous voulez entendre ? Les fondateurs de ces services affirment qu'il s'agit d'une simple aide qui ne remplace pas la connexion humaine. Mais trop de personnes pourraient en devenir dépendantes. Ces applications transforment la religion en une véritable industrie lucrative, mais les profits risquent de se faire au détriment des croyants.