Publié le •Mis à jour
Plus de 100 organisations, dont Amnesty International et Save the Children, exhortent les gouvernements à rendre l’intelligence artificielle sûre pour les enfants lors d’un appel commun, un jour avant la tenue par les Nations Unies de leur premier sommet mondial sur la gouvernance de l’IA.
PUBLICITÉ
PUBLICITÉ
La coalition, dirigée par le groupe de défense des droits de l’enfant 5Rights Foundation, affirme que l’IA nuit déjà aux enfants et que les approches réglementaires actuelles ne leur permettent pas d’intervenir lorsqu’il est trop tard.
Cet avertissement intervient alors que les poursuites se multiplient contre les sociétés d’IA, telles que Character Technologies et OpenAI, concernant les effets de la technologie sur les enfants, en particulier les chatbots « compagnons » conçus pour simuler des relations émotionnelles en cours et prétendent que leurs chatbots d’IA sont commercialisés comme étant sans danger pour les enfants sans avertissements appropriés.
Dans une déclaration publiée lundi avant le premier Dialogue mondial des Nations Unies sur la gouvernance de l’IA, le groupe soutient que les gouvernements devraient se concentrer sur les modèles commerciaux qui, selon eux, sont à l’origine du problème.
“Les enfants nous ont donné un diagnostic clair du problème”, a déclaré Leanda Barrington-Leach, directrice exécutive de 5Rights.
“Ils ne nous demandent pas de bloquer l’innovation dans le domaine de l’IA, mais il ne devrait pas non plus s’agir de réparer les dégâts après que des dégâts se soient produits.”
La coalition appelle à dix mesures qu’elle souhaite que les gouvernements prennent pour prévenir tout préjudice causé aux enfants.
Elles consistent notamment à exiger des entreprises qu’elles démontrent que les systèmes d’IA sont sans danger pour les enfants avant leur lancement, à imposer des sanctions financières aux entreprises dont les produits violent les droits des enfants, à interdire les éléments de conception qui exploitent les vulnérabilités psychologiques des enfants et à interdire l’utilisation commerciale des images, des voix et des données biométriques des enfants.
Le groupe maintient qu’aucune nouvelle loi n’est nécessaire pour y parvenir, mais seulement la mise en œuvre des engagements que les gouvernements ont déjà pris dans le cadre de la Convention des Nations Unies relative aux droits de l’enfant et du Pacte numérique mondial des Nations Unies, un cadre mondial qui engage les gouvernements à respecter le droit international et les droits de l’homme en ligne.
“Tant que les entreprises seront récompensées pour leur rapidité, leur engagement et l’exploration de données plutôt que pour leur sécurité, nous continuerons à traiter les symptômes pendant que la maladie devient endémique”, a-t-il déclaré, ajoutant que le respect des droits de l’enfant “doit devenir une condition pour faire des affaires, et non un supplément facultatif”, a-t-il déclaré.
