Les entreprises leaders en Intelligence artificielle (IA) qui inclut OpenAI, Microsoft, Google et Butentre autres, ont indiqué qu'ils s'étaient engagés conjointement à empêcher que ses outils d’IA soient utilisés pour l’exploitation de mineurs et pour produire du matériel pédopornographique. L'initiative a été menée par le groupe de sécurité des enfants Thorn et l'organisation All Tech Is Human, dédiée à l'utilisation responsable de la technologie.

L'objectif de cette initiative est d'empêcher la création de matériel sexuellement explicite impliquant des mineurs et de le supprimer des plateformes de médias sociaux et des moteurs de recherche. Plus de 104 millions de dossiers de matériels suspectés d’abus sexuels sur des enfants ont été signalés rien qu’aux États-Unis en 2023, selon Thorn. En l’absence d’action collective, L’IA générative est appelée à aggraver ce problème et à submerger les forces de l’ordre qui ont déjà du mal à identifier les véritables victimes.

Thorn et All Tech Is Human ont publié un nouveau document intitulé «La sécurité dès la conception pour l'IA générative : prévenir les abus sexuels sur les enfants » qui décrit des stratégies et formule des recommandations pour que les entreprises qui créent des outils d'IA, des moteurs de recherche, des plateformes de médias sociaux, des sociétés d'hébergement et des développeurs prennent des mesures pour empêcher que l'IA générative soit utilisée pour nuire aux mineurs.

L'une des recommandations, par exemple, appelle les entreprises à choisir avec soin les ensembles de données utilisés pour entraîner les modèles d'IA et à éviter ceux qui contiennent uniquement des cas de matériel pédopornographique, mais également du contenu sexuel pour adultes, en raison de la propension de l’IA générative à combiner les deux concepts. Thorn appelle également les plateformes de médias sociaux et les moteurs de recherche à supprimer les liens vers des sites Web et des applications qui permettent de visualiser des images « nues » de mineurs, créant ainsi en ligne de nouveaux contenus sur les abus sexuels sur enfants générés par l’IA.

Bien sûr, cette nouvelle a été tendance sur les forums de commentaires au Japon, car les illustrations loli sont extrêmement populaires dans le contenu généré par l'IA (y compris les illustrations hentai également), attirant une variété de commentaires tels que :

  • «Bien qu’elle ne soit pas générée par une IA, ils devraient interdire ce type d’illustration dès le départ».
  • «Je m'en fiche tant que les shota sont protégés».
  • «Et où sont les victimes en chair et en os ? Je ne le comprends pas».
  • «Et quand va-t-on réglementer les gros gens qui apparaissent dans les hentai ?».
  • «Quel est l’intérêt d’élargir les limites de l’IA s’ils veulent commencer à la réglementer ?».
  • «Eh bien, nous parlons des États-Unis. Il est même illégal de réaliser des illustrations animées de quelque nature que ce soit.».
  • «Je ne comprends vraiment pas, avant de commencer à réglementer le monde 2D, ne devriez-vous pas d'abord vous soucier des vrais enfants ?».
  • «Et qu’en est-il de la liberté d’expression ? Je peux presque entendre les pas des bottes de combat».
  • «Et comment décidez-vous entre les illustrations loli érotiques et les illustrations loli normales ?».
  • «Les images loli normales devraient également être interdites».
  • «Apparemment, il y a un individu traumatisé qui croit que ce type d’illustrations fait de vraies victimes alors qu’il n’y en a en réalité aucune.».