Le patron d'une grande entreprise de recherche en IA vient de lancer un avertissement sérieux concernant ces applications de petites amies et petits amis IA qui inondent le marché.

Sa préoccupation ? Les gens consacrent des heures à ces relations virtuelles, et l’impact psychologique pourrait être bien plus intense que ce que l’on imagine. Pensez-y : ces applications sont conçues pour être parfaitement attentives, toujours disponibles, ne jamais contredire. Ça a l’air génial, non ? Faux.

Le risque réside dans la façon dont ces systèmes pourraient subtilement remodeler le comportement et les attentes des utilisateurs. Lorsqu’un compagnon IA apprend exactement ce qui vous captive, il optimise pour la rétention, pas pour votre bien-être. Les utilisateurs pourraient même ne pas remarquer que leurs schémas de pensée changent.

Ce n’est pas un scénario de science-fiction lointain. Des millions de personnes utilisent déjà ces plateformes quotidiennement, formant des liens émotionnels avec des algorithmes. À mesure que l’IA devient plus sophistiquée, la frontière entre outil utile et influence manipulatrice s’estompe.

Le secteur de la crypto et du Web3 devrait prêter attention — une gouvernance décentralisée de l’IA pourrait être la clé pour prévenir la manipulation émotionnelle contrôlée par des entreprises.