À l'instar des États membres, un groupe d'eurodéputés propose d'interdire, sur tout le territoire de l'UE, les services d'intelligence artificielle générant des contenus dénudant des individus sans leur consentement.
Ce texte, adopté en commission mercredi, a pour objectif « d'interdire les applications de nudification, qui provoquent des souffrances au profit de quelques-uns », a précisé Michael McNamara (Renew), l'un des rescapés de cette initiative.
« C'est une victoire significative pour les femmes et les enfants en Europe », s'est réjouie Kim van Sparrentak (Verts), une élue néerlandaise impliquée dans le projet.
Cet amendement, qui s'inscrit dans le cadre de la législation européenne sur l'IA, a obtenu l'aval des commissions des libertés civiles et du marché intérieur du Parlement européen.
Il vise à établir « une interdiction stricte des systèmes de nudification utilisant l'IA pour manipuler ou créer des images sexuellement explicites ressemblant à des personnes réelles, sans leur accord », selon un communiqué du Parlement.
Cet amendement sera soumis au vote devant l'ensemble des eurodéputés lors de la séance plénière prévue le 26 mars. Si le feu vert est donné, un accord devra être trouvé entre le Parlement et les États membres de l'UE pour que la mesure entre en vigueur.
Par ailleurs, les représentants des 27 pays membres avaient déjà validé une proposition franco-espagnole de modification visant également à proscrire les services d'IA générant des images sexuelles non consenties et pédopornographiques.
Cette initiative répond à l'indignation suscité par la récente fonctionnalité de Grok, l'assistant IA d'Elon Musk, permettant aux utilisateurs de créer des deepfakes vertigineusement réalistes d'individus, incluant des femmes et des enfants, en enlevant leurs vêtements à partir de photos réelles.
Cette situation a déclenché un tollé mondial, conduisant à l'ouverture d'une enquête par l'UE.
Suites aux critiques, xAI, la firme d'Elon Musk, avait limité en janvier la génération d'images à ses abonnés payants et assuré qu'elle bloquerait la création de contenus sexualisés « dans les juridictions où cela est illégal ».
