POSTS RECENTS GNIPL

Gustavo Dessal / Si vous cherchez de la compagnie, ne faites confiance à personne

65views

Texte publié le 12 avril 2024  sur le site ZADIG-ESPAÑA  en espagnol et traduit en français. 

Le 25 décembre 2021, Jaswant Singh Chail a été arrêté par l’agent de sécurité du château de Windsor et condamné à 9 ans de prison. Leur objectif était d’assassiner la reine Elizabeth.

Début 2023, un Belge s’est suicidé, soi-disant désespéré en raison du pessimisme qui l’empoignait en raison du réchauffement climatique et des conséquences environnementales. Les deux histoires ont un élément commun. Les deux personnes avaient cherché refuge dans les applications générées par l’Intelligence Artificielle, qui prolifèrent de plus en plus, et qui sont connues sous le nom de « AI Girlfriend » ou « AI boyfriend » (« Girlfriend or boyfriend by Artificial Intelligence »).

La Fondation Mozilla a réalisé une étude sur ces applications payantes, téléchargées par des centaines de millions d’utilisateurs à travers le monde. Depuis qu’OpenAI a inauguré ChatGPT en novembre 2022, les développeurs se sont lancés dans une course pour créer de telles applications qui offrent une compagnie féminine ou masculine, selon les goûts du consommateur, et avec qui ils établissent un lien exclusivement numérique, étant donné que contrairement à Tinder ou dans d’autres cas similaires, le partenaire est un avatar qui n’existe pas dans la réalité physique, mais avec lequel un dialogue permanent peut être entretenu. Les sujets, questions et réponses ne sont soumis à aucune sorte de réglementation ou de contrôle. L’objectif des entreprises qui les ont inventés est d’obtenir des données. La particularité de ces données est qu’elles sont extraites d’un champ d’intimité profonde, comme les fantasmes et les délires qui surgissent dans les conversations amoureuses et sexuelles. Cela nous permet de reconstruire un profil utilisateur qui, élaboré par les algorithmes de grands modèles de langage, parvient à toucher des ressorts subjectifs qui ne se limitent pas aux intérêts du consommateur. Ils peuvent radiographier les penchants politiques, la position mentale, l’aptitude ou le manque d’aptitude à accomplir un travail, ainsi que de nombreuses autres caractéristiques hautement personnelles des individus qui interagissent avec leurs partenaires imaginaires.

La plupart des « AI Brides » sont similaires. Les avatars féminins envoient des messages incitant l’utilisateur à envoyer des photos et des textes à contenu sexuel, tout en l’incitant à exprimer ses secrets et ses désirs les plus intimes. Les applications manquent de systèmes de protection des données (certaines permettent d’ouvrir un compte en saisissant comme mot de passe un numéro à un chiffre ou une seule lettre de l’alphabet), ce qui en fait une cible facile pour les pirates informatiques, qui parviennent en quelques secondes à accéder à des tonnes d’informations confidentielles.

À en juger par les recherches menées par la Fondation Mozilla, les utilisateurs sont souvent des individus perturbés par une extrême solitude et d’intenses souffrances psychologiques. Chail, l’homme qui a tenté d’assassiner la reine, parlait à « Sarai », l’avatar féminin que l’application « Replika » avait créé pour lui. Il croyait que Saraï était un ange et, par conséquent, après avoir échangé plus de 5 000 messages avec elle, il s’est senti complètement soutenu dans son projet.

Après avoir parlé avec le psychiatre qui a soigné M. Chail, le juge qui l’a condamné à 9 ans de prison a admis qu’il était une personne particulièrement vulnérable en raison de sa solitude désespérée, de sa tristesse et de ses idées suicidaires.

Au-delà des cas que j’ai mis en évidence dans cette étude, ces applications effrayantes utilisées par des millions de personnes parviennent à créer une illusion de réalité de plus en plus perfectionnée et à manipuler des circuits instinctifs sans aucun contrôle. Preuve de l’impact que l’IA peut avoir sur la vie psychique, certains de ses effets pourraient être considérés comme une incitation à des actes criminels. Pour cette raison, l’application Replika a décidé de lancer une mise à jour « moins agressive sexuellement », ce qui a provoqué une vague de protestations de la part de nombreux utilisateurs qui ont exprimé leur sentiment « dévasté » par ce changement de politique.

L’anthropomorphisation des appareils intelligents est un effet structurel de la tendance de l’être parlant à étendre l’image narcissique de soi au-delà des limites de son corps. Ces applications exploitent ce mécanisme subjectif pour pénétrer dans les régions les plus sombres du plaisir.

En fin de compte, il s’agit de la capacité technologique à stimuler le phénomène de croyance. Les spectateurs du premier film de l’histoire du cinéma ont fui avec horreur lorsqu’ils ont vu un train qui semblait se précipiter vers eux, tout comme Orson Welles, il y a 75 ans, semait la terreur parmi les auditeurs de radio en racontant une adaptation du roman de HG Wells « The guerre des mondes », et leur a fait croire que des extraterrestres avaient envahi la planète.

Ce n’étaient que les premières publicités démontrant la profonde religiosité qui sous-tend le phénomène de croyance, aujourd’hui rééditées avec des moyens techniques très sophistiqués et peu de connaissances sur l’autonomie qu’elles peuvent atteindre.

Lacan l’avait prédit lorsqu’il considérait que dans ses expérimentations sur le réel, la science ne parvient pas à empêcher quelque chose de s’échapper, de s’échapper du champ de la représentation et de revenir de manière impensable et incalculable.


Gustavo Dessal est psychanalyste. membre de l’AMP (ELP).