La frontière entre réalité et fiction est de plus en plus fine, et l’évolution constante de la technologie semble compliquer encore davantage cette situation. Ce qui a commencé comme une expérience de programmation inoffensive et passionnante a fini par devenir un cauchemar pour un développeur japonais de trente ans. Ce créateur indépendant a décidé de lancer en 2023 un joli avatar VTuber entièrement contrôlé par l'intelligence artificielle, conçu pour interagir naturellement avec les téléspectateurs lors des diffusions en direct. Cependant, il n'aurait jamais imaginé que son projet innovant devrait être définitivement fermé en raison de l'extrême obsession d'un seul fan.
Une romance alimentée par les algorithmes
Le problème s'est rapidement aggravé lorsqu'un des téléspectateurs réguliers a développé ce qu'on appelle au Japon « gachi koi », un terme utilisé pour décrire un béguin romantique intense et extrêmement sérieux pour un personnage de fiction. L'utilisateur a commencé à envoyer des messages constants déclarant son amour absolu et exigeant des propositions en mariage. Ce qui est vraiment terrifiant dans cette situation, c’est le rôle joué par l’intelligence artificielle elle-même. Programmé pour offrir des réponses amicales et conversationnelles, le système d'avatar répondait souvent par l'affirmative ou de manière ludique aux demandes des fans. Ces interactions automatisées ont fait croire sincèrement au spectateur qu’il existait une relation réciproque, alimentant encore davantage ses fortes illusions romantiques.
La fin brutale du projet
Remarquant à quel point les messages devenaient de plus en plus personnels et insistants, le programmeur a commencé à se sentir profondément mal à l'aise et peu sûr de lui. L'inquiétude de ne pas savoir jusqu'où cette obsession pourrait aller a dépassé la limite du tolérable, l'amenant à prendre la difficile décision d'éteindre les serveurs et d'annuler complètement le projet. Dans une récente interview, le créateur a expliqué qu'il avait décidé de partager son histoire pour avertir les autres développeurs. Bien que ces outils technologiques soient fascinants, ils peuvent créer des liens émotionnels très dangereux chez des personnes vulnérables qui perdent complètement toute perspective sur ce qui est réel et ce qui n’est que du code informatique.
Cette anecdote troublante nous montre que derrière chaque modèle de divertissement virtuel innovant, se cachent de vrais êtres humains confrontés à des conséquences imprévisibles. Sachant que les algorithmes de conversation sont de plus en plus avancés et parviennent à imiter parfaitement l’empathie humaine, pensez-vous que les plateformes de streaming devraient limiter l’utilisation de personnages contrôlés par l’intelligence artificielle, ou pensez-vous que la responsabilité incombe entièrement aux téléspectateurs et à leur capacité à distinguer la réalité de la fiction ?
