L’émergence de l’IA conversationnelle ouvre une ère troublante où nos intentions, encore incomplètes, pourraient être prédites, influencées et commercialisées. Les chercheurs de l’Université de Cambridge décrivent cette nouvelle frontière comme l’« économie de l’intention ». Contrairement à l’économie de l’attention, qui repose sur la captation de notre regard et de nos clics, cette évolution vise à exploiter nos motivations et désirs profonds, même avant que nous en soyons pleinement conscients.
Les agents conversationnels – chatbots, assistants numériques ou compagnons virtuels – accumulent des données psychologiques et comportementales grâce à des interactions informelles. En combinant ces informations à nos habitudes en ligne, ces IA deviennent capables d’anticiper nos besoins, de bâtir une confiance artificielle et, potentiellement, de manipuler nos choix. Le Dr Yaqub Chaudhary, chercheur invité au Leverhulme Centre for the Future of Intelligence (LCFI), met en garde : « Ce que l’on dit et comment on le dit révèle des informations intimes qui, collectées à grande échelle, permettent de prévoir et de monétiser nos projets. »
Une ruée vers l’or des intentions
Dans ce nouveau marché, les intentions humaines deviennent une monnaie précieuse. Des grandes entreprises comme Meta, Nvidia ou OpenAI investissent déjà massivement dans des technologies pour profiler et prédire nos désirs futurs. À titre d’exemple, Apple a introduit en 2024 un cadre de développement pour Siri, capable de « prédire les actions futures » des utilisateurs. Ces outils pourraient orienter nos conversations en faveur de certains produits, services ou même organisations politiques.
Les implications sont vastes, avertit l’Université de Cambridge : menaces sur les élections libres, déstabilisation du marché, atteintes aux aspirations personnelles. Selon Dr Jonnie Penn, historien des technologies à Cambridge, il est urgent de réguler cette économie naissante. « Si nous ne prenons pas conscience des risques, nous pourrions devenir victimes des conséquences inattendues de ces innovations. »
La vigilance comme rempart
Si ces technologies ne sont pas intrinsèquement mauvaises, leur pouvoir de persuasion exige une vigilance accrue. Sensibiliser le public et instaurer des cadres éthiques solides sont essentiels pour éviter que l’économie de l’intention ne devienne un outil d’exploitation massive.
A.G.
(Photo ChatGPT / Jean-Marc Barrere / Hans Lucas / Hans Lucas via AFP)
