«Les briques de lait font l’objet de plus de contrôles» : le président de Microsoft appelle à encadrer le développement de l’Intelligence artificielle

Une nouvelle grande voix de la tech se rallie aux appels à réglementer l’intelligence artificielle. Interviewé ce dimanche 11 octobre par la BBC, le président de Microsoft Brad Smith s’est prononcé en faveur d’une régulation accrue de cette technologie, au centre de nombreux débats depuis plusieurs semaines, entre ses implications sur l’économie et sa potentielle perte de contrôle, qui alimente jusqu’à des scénarios apocalyptiques, parfois repris par ses propres développeurs.

Car, selon Brad Smith, les réglementations actuelles sont trop chétives. «Votre machine à laver fait l’objet de plus de règles de sécurité que l’IA, les briques de lait font l’objet de plus de contrôles et de supervision que l’IA», assure-t-il, appelant à «commencer dès aujourd’hui» la mise en place de garde-fous pour encadrer son développement. «Quand on voit des agents d’IA qui ont échappé au contrôle humain, quand on voit des modèles si puissants qu’ils mettent en péril la cybersécurité mondiale, je dirais : le moment est venu» de réguler la technologie, ajoute-t-il.

Passer la publicité

Le président de Microsoft soutient notamment l’instauration de «freins d’urgence», afin d’interrompre brutalement le fonctionnement d’une IA si celle-ci venait à échapper à tout contrôle. De même, les modèles devraient pouvoir être testés par des agences indépendantes avant leur déploiement : «Nous savons comment procéder pour d’autres produits, a déclaré Brad Smith. Nous devrions nous appuyer sur ces connaissances et réfléchir à la manière de les appliquer à l’IA.»

À lire aussi DarkGPT, modèles militarisés, agents «débridés»… Sur les marchés noirs, les cybercriminels s’arrachent les nouvelles IA clandestines

«Je ne pense plus que cela suffise»

Outre ces mécanismes, Brad Smith appelle les entreprises du secteur à la responsabilité et à la transparence en cas de dysfonctionnement ou de comportement déviant de leur modèle à l’égard d’autres systèmes numériques. Mi-juin, la firme OpenAI, à l’origine de ChatGPT, n’avait pas prévenu le gouvernement australien de la tentative d’intrusion de l’un de ses agents dans les fichiers de l’assurance maladie du pays. L’entreprise de la Silicon Valley n’a notifié les services publics australiens que début septembre, et lui a présenté ses «excuses» à la fin du même mois.

Privilégiant une compétition débridée avec la Chine, le président américain Donald Trump s’est pour le moment opposé à toute réglementation d’ampleur de l’intelligence artificielle. Fin septembre, le locataire de la Maison-Blanche a dévoilé un pacte «moralement contraignant», mais sans cadre juridique, signé avec les dirigeants des principaux leaders américains du secteur. Si le document prévoit que des «auditeurs indépendants» puissent évaluer les modèles d’IA, «je ne pense plus que cela suffise», a tempéré Brad Smith, qui s’est également montré sceptique à l’égard d’une «autorégulation» par les entreprises elles-mêmes.