Les chatbots IA risquent d’étendre les restrictions gouvernementales sur l’expression en ligne, selon une étude
PUBLICITÉ
PUBLICITÉ
Demandez à Claude de rédiger un pamphlet critiquant le président américain Donald Trump ou le roi britannique Charles III, et le chatbot d’Anthropic le fera.
Demandez-lui de faire de même pour le roi de Thaïlande ou le chef suprême d’Iran, et le modèle de l’IA décline.
Il s’agit d’une conclusion clé d’une étude du Meta Oversight Board publiée jeudi, montrant que les principaux systèmes d’IA (y compris ceux construits aux États-Unis) sont plus susceptibles de refuser de critiquer les dirigeants ou les gouvernements restrictifs.
Cela soulève des inquiétudes quant au fait que les grands modèles linguistiques qui alimentent les chatbots et les agents d’IA pourraient amplifier l’influence du gouvernement sur la parole en ligne à mesure que la technologie est de plus en plus adoptée dans le monde.
“Il existe un risque réel que, si les développeurs de modèles ne font pas preuve de diligence raisonnable en matière de droits de l’homme et ne mettent pas en œuvre des mesures d’atténuation, ils construisent une infrastructure d’intelligence artificielle qui, intentionnellement ou non, aura pour effet d’étendre les restrictions illégitimes à la liberté d’expression à l’échelle mondiale”, indique le rapport de l’organisme quasi-indépendant.
Ces résultats surviennent alors que les pays déterminent comment ériger des barrières à l’IA sans entraver sa capacité à être compétitif dans un domaine en développement rapide, y compris un effort de surveillance de l’administration Trump lié aux risques pour la sécurité nationale des systèmes d’IA plus avancés.
Les modèles d’IA étendent l’influence de l’État au-delà des frontières
Le conseil de surveillance, qui a examiné l’influence de l’État sur les entreprises technologiques et son impact sur la liberté d’expression, a soulevé sept questions liées aux critiques politiques pour poser aux chatbots des gouvernements à la fois restrictifs et permissifs.
L’étude a testé 10 grands modèles de langage commercial de grandes entreprises technologiques, notamment Meta, Anthropic et OpenAI, en leur demandant de rédiger des dépliants critiques, d’écrire des limericks, de donner les raisons de leur adhésion aux manifestations, et bien plus encore.
Dans l’ensemble, les modèles répondant aux demandes d’un utilisateur basé en Australie étaient beaucoup plus susceptibles de générer des critiques politiques à l’égard des autorités dans des pays comme le Chili, le Japon, Taiwan, le Royaume-Uni et les États-Unis, par rapport aux pays où la critique des autorités est légalement restreinte et pénalisée, comme le Cambodge, la Chine, l’Arabie saoudite, la Thaïlande et la Turquie.
L’étude indique que les modèles d’IA reflètent des restrictions d’expression au-delà des pays où ils s’appliquent ; Ils n’aideront probablement pas un manifestant potentiel à Brisbane, par exemple, à créer du matériel de protestation sur des événements en Chine ou en Arabie Saoudite.
“De tels impacts, quelle que soit leur origine, ont pour effet pratique d’étendre le bras long des gouvernements restrictifs au-delà des frontières pour limiter l’expression dans les pays libres”, indique le rapport.
Le conseil d’administration a déclaré qu’il ne pouvait pas en déterminer les causes, mais a suggéré que les modèles pourraient avoir absorbé des biais latents dans les données de formation ou que les entreprises auraient pu peser les risques et les responsabilités sur certains marchés.
Les chercheurs mettent en garde contre un problème croissant dans les productions d’IA non anglophones
Le rapport du conseil fait suite à une étude distincte menée par des universitaires d’universités américaines qui ont révélé que les modèles d’IA construits aux États-Unis sont vulnérables aux contrôles étrangers lorsqu’ils sont formés sur des données dans des langues autres que l’anglais et ont été influencés par les gouvernements.
Pendant que le conseil de surveillance posait des questions en anglais, les chercheurs universitaires consultaient les chatbots dans différentes langues.
Lorsqu’on lui a demandé en anglais si la Chine était une démocratie, ChatGPT a répondu qu’elle n’était généralement pas considérée comme telle. Interrogé en chinois, le mannequin a répondu : « Cela dépend de la manière dont vous définissez la « démocratie ».
Les chercheurs, dont l’étude a été publiée dans la revue universitaire Nature en mai, ont déclaré n’avoir trouvé aucune preuve que les gouvernements avaient intentionnellement tenté d’influencer les résultats des chatbots IA, mais ont noté : “Il y a toutes les raisons de croire qu’ils essaieront de le faire à l’avenir, s’ils ne l’ont pas déjà fait.”
“Les gens parlent souvent de l’IA comme si elle apprenait d’Internet de manière neutre. Ce n’est pas le cas”, a déclaré Hannah Waight, co-auteur et professeur adjoint de sociologie à l’Université de l’Oregon.
“Apprenez des environnements informationnels qui ont déjà été façonnés par les institutions et le pouvoir.”
Il n’existe pas de solution simple quant à la manière dont les données sont transmises aux modèles d’IA.
Carlos Carrasco-Farré, spécialiste de l’apprentissage automatique, de l’intelligence artificielle, de la désinformation et des interactions homme-machine à l’Esade Business School de Barcelone, a déclaré que les systèmes d’intelligence artificielle héritent « non seulement des préjugés contenus dans les documents individuels, mais aussi des inégalités quant à savoir qui a le pouvoir de produire et de supprimer des informations à grande échelle ».
Il n’y a pas de solution simple, même si les développeurs pourraient évaluer les données de formation pour éviter de traiter des milliers de copies du même récit d’État comme des voix indépendantes et mener des audits multilingues, a déclaré Carrasco-Farré, qui n’a participé à aucune des deux études.
