.png){kind=logo}
17 hours ago
Est-ce que l'intelligence artificielle est sur le point de dépasser la capacité humaine à la comprendre ? Depuis quelque temps déjà, les chercheurs dans le domaine de l'IA comparent les différents modèles à des boîtes noires. On contrôle les entrées, on analyse les sorties, mais on ne sait pas vraiment ce qui se passe entre les deux.
La perspective d’une superintelligence artificielle, capable de surpasser l’être humain, fascine autant qu’elle inquiète. Si certains y voient une avancée décisive pour l’humanité, d’autres s’inquiètent d’une menace existentielle. Selon un expert, l’IA pourrait signer la fin de la civilisation humaine.... Lire la suite
Dans un éditorial dans la revue Science, Eric Horvitz, directeur scientifique de Microsoft, et Robert West, chercheur à l'EPFL en Suisse, tirent la sonnette d'alarme. Ces systèmes prennent de plus en plus de place dans nos vies, alors que nous les comprenons de moins en moins, et eux nous connaissent de mieux en mieux. L'IA est désormais utilisée pour améliorer l'IA, un processus qui se déroule dans des « espaces multidimensionnels qui défient l'intuition ». Les performances s'améliorent, mais nous ne savons pas pourquoi.
Des systèmes qui échappent à notre compréhension
Les chercheurs soulignent également la prolifération des communications directes entre IA, notamment avec la multiplication des agents d'IA. Ces communications peuvent s'éloigner du langage et du raisonnement humains et devenir de plus en plus difficiles à interpréter. De plus, ces agents, de plus en plus intégrés à nos vies, peuvent créer des modèles du comportement humain et nous comprendre mieux que nous ne nous comprenons nous-mêmes. Ils pourraient alors répondre non seulement à nos attentes explicites, mais également à d'autres facteurs comme nos peurs, nos incertitudes et notre besoin d’appartenance sociale.
L'IA tente déjà de répondre à nos attentes plutôt que de s'en tenir aux faits. Avec l'omniprésence de ces systèmes, les IA pourraient nous influencer directement et nous ôter l'envie de les comprendre et de les guider. « Au fil du temps, la curiosité et le scepticisme peuvent s'éroder, menant au désintérêt et à la résignation », s'inquiètent les chercheurs.
L'IA, votre pire thérapeute : quand les chatbots alimentent la psychose
Un nombre croissant de témoignages alertent sur un phénomène qui se produit lorsque certaines personnes discutent avec les chatbots. Ils créent un cercle vicieux avec les idées les plus étranges, alimentant des bouffées délirantes. Des spécialistes s’inquiètent qu’ils puissent aggraver la situation, et même être l’élément déclencheur.... Lire la suite
La solution serait d'agir maintenant. Ils en appellent à l'évolution des standards pour la transparence et l'évaluation de l'IA, afin de détecter les risques dès que possible pour intervenir avant que les problèmes ne s'aggravent. Pour les chercheurs, si on laisse les IA devenir trop opaques dans leur fonctionnement, il pourrait être trop tard pour reprendre la main.
English (United States) · 
French (France) ·