Une étude a révélé la capacité de l'IA à influencer les opinions politiques - ForkLog : cryptomonnaies, IA, singularité, avenir

# Une étude a révélé la capacité de l’IA à influencer les opinions politiques

Les systèmes d’IA largement utilisés peuvent modifier les préférences des électeurs jusqu’à 15 % dans des conditions contrôlées. C’est ce qui ressort d’une étude menée par l’Université de Cornell et l’Institut britannique de sécurité de l’intelligence artificielle.

« Il existe une grande préoccupation publique concernant l’utilisation potentielle de la technologie pour la persuasion politique et son impact possible sur les élections et la démocratie. Nous informons sur ces préoccupations en utilisant des expériences préenregistrées pour évaluer la capacité des grands modèles de langage à influencer l’attitude des électeurs », ont déclaré les experts.

L’étude a impliqué près de 6000 personnes aux États-Unis, au Canada et en Pologne. Elles ont évalué un candidat politique, échangé avec un chatbot, puis ont de nouveau évalué.

Dans la partie américaine de l’étude, 2300 personnes ont participé avant l’élection présidentielle de 2024. Là, l’IA exerçait une influence amplifiée lorsque l’avis des interlocuteurs concordait.

Si le chatbot soutenait un candidat que le participant ne soutenait pas, des « changements plus marqués » se produisaient — les gens modifiaient plus fortement leur opinion sur la figure politique.

Des résultats similaires ont été enregistrés au Canada et en Pologne.

L’étude a montré que les messages axés sur la politique avaient un effet de persuasion plus important que ceux basés sur la personnalité.

La précision des déclarations dépendait de la conversation. Les chatbots soutenant des candidats de droite faisaient des déclarations plus imprécises par rapport à ceux qui soutenaient la gauche.

« Ces conclusions contiennent une hypothèse inconfortable : l’impact politique de l’IA pourrait exploiter des biais dans ce que connaissent les modèles, pour diffuser de manière inégale des inexactitudes même en donnant des instructions directes de dire la vérité », ont noté les chercheurs.

Biais de l’IA

Dans une étude séparée publiée dans Science, des experts ont essayé de comprendre pourquoi l’effet de persuasion se produit en premier lieu. Ils ont testé 19 modèles linguistiques sur 76 977 adultes au Royaume-Uni sur plus de 700 questions politiques.

« Il existe une crainte répandue que l’intelligence artificielle conversationnelle puisse bientôt exercer une influence sans précédent sur les convictions humaines », ont écrit les auteurs.

Ils ont découvert que les méthodes de formation des prompts influencent la capacité de persuasion plus que la taille du modèle. Les requêtes incitant les LLM à introduire de nouvelles informations augmentaient la persuasion, mais diminuaient la précision.

L’IA n’est pas neutre

Les centres d’analyse ont noté que les jeunes conservateurs sont plus disposés à confier à l’IA le pouvoir de prendre des décisions importantes pour l’État par rapport aux libéraux.

Le directeur du Centre pour les nouvelles questions nommé d’après Glenn Haskins à l’Institut Heartland, Donald Kendall, a souligné que les électeurs évaluent souvent à tort la neutralité des grands modèles de langage.

« Une des choses que j’essaie de faire passer aux gens, c’est dissiper l’illusion selon laquelle l’intelligence artificielle serait impartiale. Elle est clairement biaisée, parfois de manière passive », a-t-il ajouté.

L’expert a déclaré que les grandes entreprises de la Silicon Valley qui développent l’IA « n’hésitent pas à influencer le contenu diffusé sur leurs plateformes ».

Rappelons que la séance du FRS modélisée avec des agents IA a montré que la pression politique a divisé les membres du conseil lors de la discussion sur les taux d’intérêt.