Suicides, meurtres : sur les réseaux sociaux, les violentes vidéos de «minions» inquiètent

Des vidéos qui n’ont «rien d’innocentes», a prévenu le créateur de contenus Noah glenn Carter, dans une vidéo publiée le 9 janvier. Sur TikTok et Instagram, des contenus d’un nouveau genre s’amoncellent depuis quelques semaines : ils mettent en scène des «Minions», ces personnages jaunes inspirés de la franchise de dessins animés Moi moche et méchant s’adonnant à des activités violentes et particulièrement explicites, comme des meurtres, des suicides ou des attaques en série. 

Ces productions, réalisées à l’aide de l’intelligence artificielle Runway, et mises en ligne sous le hashtag «Miniongore», s’inspirent de vidéos violentes réelles, censurées sur les réseaux sociaux, explique le site 404média , qui a repéré cette tendance. 

«Tellement de choses sont publiées alors qu’elles ne devraient pas l’être»

Cette tendance, débutée en Russie, s’est rapidement propagée sur les réseaux sociaux. Dans l’une d’elles, notamment, qui accumule des centaines de milliers de vues sur le réseau social chinois TikTok, met en scène un de ces personnages jaunes assis devant un ordinateur, qui insère un fusil dans sa bouche avant de se tirer, à bout portant, une balle dans la tête. Une scène effrayante qui reprend le décor et les sons de la vidéo de suicide de l’Américain Ronnie McNutt, qui s’était tué d’une balle dans la tête le 31 août 2020, au cours d’un live Facebook suivi par des centaines de spectateurs. Une autre reprend encore le décor de la fusillade de Christchurch, double-attentat commis en 2019 en Nouvelle-Zélande dans deux mosquées par le terroriste suprémaciste Brenton Tarrant. 

Des contenus qui ont provoqué l’ire de nombreux créateurs de contenus, qui appellent à la vigilance des internautes. «Il y a une tonne de vidéos générées par IA de Minions qui ont l’air innocentes. Mais elles n’’en sont rien», appuie ainsi l’Américain NoahGlennCarter dans une vidéo publiée sur TikTok, qui comptabilise près de 9,3 millions de personnes sur le réseau social «Des gens prennent des vidéos qui ne seraient pas autorisées sur les réseaux et remplacent les gens par des Minions. (...) Tellement de choses sont publiées alors qu’elles ne devraient pas l’être à cause de cette tendance », poursuit-il. 

Contacté par 404média, TikTok a affirmé «supprimer tout contenu qui enfreint ses règles communautaires, qu’il ait été modifié ou non par l’IA. Cela inclut ses politiques interdisant « le contenu haineux  ainsi que le contenu sanglant, horrible, dérangeant ou extrêmement violent  », précise encore le site. L’entreprise chinoise a affirmé avoir pris des mesures pour supprimer les contenus créés par intelligence artificielle qui pourraient violer ces politiques, en mettant continuellement à jour ses règles de détection de ce type de contenus.