Préserver à tout prix le «potentiel humain» pour les siècles à venir, le controversé credo des long-termistes

« Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? » En mars 2023, cette lettre ouverte du Future of Life Institute, appelant l’ensemble des laboratoires de recherche à suspendre durant six mois « l’entraînement des modèles d’intelligence artificielle » de pointe et signée par des personnalités comme Elon Musk, avait fait la une des médias. Six mois plus tard, Sam Altman était brutalement débarqué de la tête d’OpenAI par son conseil d’administration. Un courant de pensée ayant séduit une partie de la Silicon Valley réunit ces deux actualités : le long-termisme.

DÉCOUVREZ LES AUTRES ÉPISODES

Le brutal bond en avant de l’IA, illustré par la création de ChatGPT, a mis en lumière ce mouvement conceptualisé par deux philosophes, le suédois Nick Bostrom et l’écossais William MacAskill. Ce dernier écrivait…