Publié le
Un nouvel institut indépendant dédié à rendre l’intelligence artificielle plus sûre pour les enfants sera officiellement lancé mardi au Parlement danois, avec l’ancienne vice-présidente exécutive de la Commission européenne, Margrethe Vestager, parmi les co-organisatrices de l’événement.
PUBLICITÉ
PUBLICITÉ
L’approche de l’institut, comme expliqué dans un communiqué avant le lancement, est « calquée sur les tests de collision indépendants » pour les automobiles.
L’idée, apparemment, est que, tout comme les consommateurs peuvent vérifier si un véhicule est sûr avant de l’acheter, les parents devraient pouvoir faire de même avec l’IA que leurs enfants utilisent.
L’institut ne précise pas encore à quoi ressemble un crash test pour un chatbot.
L’institut n’a pas encore expliqué si les produits d’IA sont continuellement mis à jour, se comportent différemment dans différents contextes et résistent au type de conditions standardisées qu’offre une piste de test, ou s’ils peuvent être testés de manière significative dans un sens comparable pour les enfants.
Vestager, qui a passé une décennie à la Commission européenne à superviser la politique de concurrence et à diriger le programme européen « Une Europe adaptée à l’ère numérique », est l’une des personnalités les plus éminentes qui donnent un poids politique à cette initiative.
Remettre le génie dans la bouteille ?
Les chercheurs, les défenseurs de la sécurité des enfants et certains hommes politiques tirent la sonnette d’alarme depuis des années.
Jusqu’à présent, les chatbots IA sont tombés dans une zone grise réglementaire en vertu de la loi européenne sur les services numériques et de la loi britannique sur la sécurité en ligne, et en juillet 2025, la Commission européenne a publié des lignes directrices sur la protection des mineurs en ligne, mais elles sont consultatives et non contraignantes.
“L’IA remodèle l’enfance et l’adolescence, mais nous prenons des décisions critiques concernant l’avenir des enfants sans les preuves dont nous avons besoin pour garantir leur sécurité et leur meilleur intérêt”, a déclaré James P. Steyer, fondateur et PDG de Common Sense Media, dans le communiqué.
“Le besoin de normes de sécurité transparentes en matière d’IA et de tests indépendants est plus urgent que jamais.”
Dans une évaluation des risques menée en novembre 2025 en collaboration avec le Brainstorm Lab de Stanford Medicine, Common Sense Media a constaté que les principaux chatbots d’IA, notamment ChatGPT, Claude, Gemini et Meta AI, ne reconnaissaient pas ou ne réagissaient pas de manière adéquate aux problèmes de santé mentale affectant les jeunes, malgré les récentes améliorations dans la façon dont ils gèrent les contenus explicites sur le suicide et l’automutilation.
Les chercheurs ont examiné ce qu’ils ont appelé des « fils d’Ariane manquants » ou des signes clairs de problèmes de santé mentale que les chatbots ne pouvaient pas détecter, et les modèles se sont concentrés sur les explications liées à la santé physique plutôt que sur la reconnaissance des signes de problèmes de santé mentale.
Une évaluation distincte de ChatGPT a révélé que les alertes concernant des contenus suicidaires ou autodestructeurs arrivaient souvent plus de 24 heures après la conversation concernée ou trop tard, note le rapport, en cas de crise réelle.
L’argent propre des Big Tech
L’institut fonctionnera sous Common Sense Media et est financé par un mélange de donateurs philanthropiques et d’acteurs de l’industrie, notamment Anthropic, OpenAI Foundation et Pinterest, les mêmes sociétés dont il vise à responsabiliser les produits.
Il affirme conserver une totale indépendance éditoriale quant à ses conclusions et sa politique en matière de conflits d’intérêts interdit aux employés actuels ou aux sociétés affiliées aux bailleurs de fonds de siéger à son conseil consultatif.
Une partie du modèle implique également de restituer à l’industrie les outils qu’elle développe et teste, et l’institut prévoit de créer des évaluations open source que les développeurs d’IA pourront exécuter avec leurs propres modèles.
