Il a été récemment découvert que des données d’apprentissage supplémentaires pour l’IA générative d’images sont vendues sur Internet, ce qui permet de créer des images ressemblant à de vrais mineurs. Parmi ces données, on retrouve celles d'anciens enfants artistes japonais, et les images générées avec ces données, qui contiennent des contenus à caractère sexuel, sont également commercialisées sur des sites Internet distincts.
Image Generative AI fonctionne en apprenant à partir d’une grande quantité de données visuelles, ce qui lui permet de générer des images détaillées simplement en recevant des instructions textuelles. Bien qu’il soit généralement difficile de créer des images qui ressemblent à des personnes spécifiques en saisissant uniquement leur nom, certains systèmes d’IA peuvent y parvenir en apprenant des données supplémentaires, appelées fichiers « LoRA ».
Le journal Yomiuri Shimbun a identifié un site Internet en langue anglaise qui vend ces données supplémentaires sur plusieurs artistes pour enfants, tant nationaux qu'internationaux, au prix d'environ trois dollars en cryptomonnaie par fichier. Des données sur les femmes adultes à vendre ont également été trouvées. Les images sexuelles générées à partir de ces données d'enfants artistes japonais se vendaient plusieurs centaines de yens sur un autre site Web japonais.
La création d'images sexuelles à partir de données de mineurs soulève de sérieuses préoccupations juridiques. Selon le ministère japonais de la Justice, la loi interdisant la pédopornographie exige que la victime soit un véritable mineur pour que la réglementation s'applique. Bien que les images générées par ordinateur qui ressemblent à de vrais mineurs puissent être réglementées, les experts notent que les images générées par l'IA peuvent ne pas entrer dans cette catégorie si elles ne ressemblent pas entièrement aux caractéristiques physiques de vrais mineurs, laissant ainsi un vide juridique.
Takashi Nagase (長瀬貴志), ancien juge et professeur à l'Université de Kanazawa, souligne que «L’utilisation abusive de l’IA et de données supplémentaires a révélé une violation des droits des mineurs. Il existe un risque que les dégâts s’étendent sous la surface. La situation n’est pas couverte par les lois actuelles, il est donc nécessaire d’envisager une législation spécifique pour réglementer les images sexuelles de mineurs générées par l’IA.« .
Les progrès de la technologie de l’IA ont apporté de nombreux avantages, mais ils posent également de sérieux défis éthiques et juridiques. La capacité de générer des images réalistes de mineurs avec un contenu inapproprié révèle une menace sérieuse pour la protection des droits de l'enfant. Il est impératif que des mesures législatives appropriées soient mises en place pour lutter contre ces nouveaux types d’exploitation et garantir que les technologies émergentes ne soient pas utilisées au détriment des plus vulnérables. La coopération internationale et la mise à jour constante des lois seront essentielles pour relever efficacement ces défis.
L'entrée Lolis deviendrait la ruine des IA a été publiée pour la première fois dans .
