Publié le
L’intelligence artificielle peut prédire la personnalité d’un utilisateur en fonction de son historique de discussion, selon une nouvelle étude.
PUBLICITÉ
PUBLICITÉ
dans un étude pré-impriméeDes chercheurs de l’ETH Zurich ont demandé à 668 utilisateurs de ChatGPT aux États-Unis et au Royaume-Uni de partager avec eux des copies de leur historique de discussions et ont formé un modèle d’intelligence artificielle pour déduire des traits de personnalité à partir de ces discussions.
Les chercheurs ont collecté et analysé plus de 62 000 chats, en les classant selon les sujets sur lesquels ils se sont concentrés.
Le modèle d’IA formé a ensuite tenté d’estimer la probabilité que l’utilisateur ait cinq traits de personnalité connus sous le nom de « Big Five » dans la recherche en psychologie : l’agrément, la conscience, la stabilité émotionnelle, l’extraversion et l’ouverture.
Les participants ont également été évalués à l’aide d’un test psychologique standard pour déterminer leurs principaux traits de personnalité.
Son modèle d’IA raffiné était capable de détecter avec précision les traits de personnalité d’un utilisateur avec une précision allant jusqu’à 61 %, selon le rapport. L’IA était particulièrement efficace pour prédire l’agrément et la stabilité émotionnelle, mais avait du mal à être consciencieuse.
L’IA a eu plus de succès lorsqu’elle avait un historique de discussion plus long à analyser, ce qui suggère que plus une personne utilise l’IA, plus sa personnalité est susceptible d’être identifiée, selon l’étude.
Bien que les risques pour les individus soient relativement faibles, les chercheurs notent qu’il existe des « risques importants à grande échelle » si de mauvais acteurs exploitent les données de personnalité.
Ils estiment par exemple que ces données pourraient conduire à « des campagnes de manipulation à grande échelle diffusant de la désinformation et/ou de la propagande politique ».
Les chercheurs espèrent que leurs découvertes pourront être utilisées pour développer des outils réduisant le risque de partager trop de données personnelles avec l’IA, comme un système qui pourrait supprimer automatiquement les informations d’identification.
