« Avoir un accès aux employés et pouvoir les embêter » : des consultants d’Accenture bientôt chez Anthropic pour contrôler la sécurité de ses modèles

Le directeur général d’Anthropic a proposé un plan visant à « maîtriser le rythme de progression de l’IA ». LUDOVIC MARIN / AFP

Dario Amodei veut joindre la parole aux actes. Anthropic, l’entreprise à la pointe de l’intelligence artificielle (IA) qu’il dirige, a choisi le cabinet de conseil Accenture comme évaluateur indépendant de la sécurité de ses modèles et ce quelques jours à peine après avoir proposé un plan en trois étapes visant à « maîtriser le rythme de progression de l’IA ». La première d’entre elles consistait à donner un accès permanent « semblable à celui d’un employé » à une équipe d’évaluateurs tiers, amenés à surveiller les activités de cette fourmilière d’ingénieurs.

Cet accompagnement sera piloté par Faculty, la division IA du cabinet américain et ancienne start-up rachetée pour 1 milliard de dollars au début de l’année. Environ 400 employés, pour la majorité ingénieurs en IA et experts en mégadonnées, avaient alors été transférés. Ces employés auront pour mission d’évaluer la vulnérabilité des modèles, de réaliser des audits et de tester les mesures de protection mises en place par la…