La economía de la intención: cómo la inteligencia artificial podría anticipar y comercializar tus deseos
En un futuro cercano, la IA podrá anticiparse a nuestras decisiones y comercializarlas antes de que seamos conscientes de ellas. Expertos alertan sobre el surgimiento de la «economía de la intención» y los riesgos de manipulación social y comercial, si no se regula a tiempo.
Por Enrique Coperías
Expertos en ética de la IA de la Universidad de Cambridge advierten sobre un inquietante mercado de señales digitales de intención, que abarca desde compras hasta elecciones políticas. Imagen generada con DALL-E
En un futuro cercano, los asistentes de inteligencia artificial (IA) podrían anticipar e influir en nuestras decisiones desde sus etapas más tempranas, llegando incluso a comercializar estas intenciones en tiempo real con empresas capaces de satisfacerlas, antes de que seamos conscientes de haber tomado una decisión.
Especialistas en ética de la IA de la Universidad de Cambridge, en el Reino Unido, alertan sobre el surgimiento de un «nuevo mercado lucrativo, pero inquietante, de señales digitales de intención», que abarca desde la compra de entradas de cine hasta la elección de candidatos políticos. Este fenómeno, denominado economía de la intención, plantea interrogantes éticas y sociales de gran calado.
Investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de la Universidad de Cambridge señalan en un nota de prensa que la proliferación de la inteligencia artificial generativa y nuestra creciente interacción con chatbots —programas informáticos diseñados para simular conversaciones humanas, generalmente a través de texto o voz— están abriendo una nueva era de tecnologías persuasivas, tal como sugieren recientes anuncios de los gigantes tecnológicos.
Con acceso a enormes cantidades de datos psicológicos y de conducta
Agentes de IA con características antropomórficas, desde asistentes virtuales hasta tutores y compañeros digitales, tendrán acceso a enormes cantidades de datos psicológicos y de comportamiento, que son obtenidos con frecuencia a través de conversaciones informales.
Estas tecnologías combinarán el análisis de nuestros hábitos digitales con una sorprendente capacidad para imitar personalidades y anticipar respuestas deseadas, creando así vínculos de confianza que podrían ser utilizados para la manipulación social a gran escala.
“Se están invirtiendo recursos masivos para incorporar asistentes de IA en todos los aspectos de la vida, lo que nos lleva a cuestionarnos qué intereses y objetivos están realmente detrás de estos supuestos asistentes.”
Según Chaudhary, es crucial reflexionar sobre el impacto potencial de este nuevo mercado en valores fundamentales como las elecciones libres, una prensa independiente y una competencia económica equitativa, antes de enfrentar consecuencias inesperadas.
En un artículo reciente publicado en la Harvard Data Science Review, Chaudhary y Jonnie Penn, historiador de la tecnología del LCFI, describen la economía de la intención como una extensión de la economía de la atención, pero enfocada en el tiempo: perfilar cómo la atención y el estilo de comunicación del usuario se conectan con patrones de comportamiento y decisiones futuras.
«Aunque algunas intenciones son pasajeras, identificar y centrarse en las más persistentes será altamente rentable para los anunciantes», explica Chaudhary en la nota de prensa de la Universidad de Cambridge.
Analizarán desde nuestras preferencias políticas hasta la edad y el género
En este nuevo paradigma, los grandes modelos lingüísticos (LLM) podrían analizar, de manera económica, elementos como la cadencia, la política, el vocabulario, la edad, el género, la historial digital e incluso las preferencias del usuario por la adulación o el elogio. Recordemos que los LLM son sistemas de inteligencia artificial entrenados con enormes cantidades de texto para comprender y generar lenguaje natural. Utilizan técnicas avanzadas, como las redes neuronales, para realizar tareas como responder preguntas, traducir y crear contenido.
Esta información, combinada con sistemas de pujas en tiempo real, maximizaría las probabilidades de cumplir objetivos comerciales, como vender una entrada de cine con sugerencias como: «Me comentaste que estabas agotado, ¿te reservo esa entrada para la película de la que hablamos?».
Ya hay herramientas de IA capaces de captar, predecir y comercializar los planes y objetivos humanos. La conciencia pública sobre lo que se avecina será clave para evitar que tomemos un camino equivocado, advierten los autores del estudio. Imagen generada con DALL-E
Manipulaciones a escala hoy inimaginable
Los investigadores de esta investigación, que recoge la revista Harvard Data Science Review, advierten de que estas tecnologías podrían ser empleadas para dirigir conversaciones hacia los intereses de plataformas, anunciantes, empresas e incluso organizaciones políticas, y dar pie a una manipulación a gran escala.
Aunque la economía de la intención es aún una aspiración para la industria tecnológica, sus primeras señales son visibles en investigaciones y declaraciones de grandes empresas tecnológicas. Por ejemplo, una entrada del blog de OpenAI en 2023 hacía una llamado a recolectar «datos que expresen la intención humana» en cualquier idioma y formato, mientras que un ejecutivo de Shopify mencionó la existencia de chatbots diseñados para captar explícitamente las intenciones de los usuarios. Asimismo, Nvidia, Meta y Apple han anunciado desarrollos que sugieren avances en esta dirección.
Chaudhary cita ejemplos como el sistema CICERO de Meta, capaz de alcanzar un nivel humano en juegos de diplomacia al deducir y predecir intenciones para usar diálogos persuasivos en su beneficio.
Con un enorme potencial destructivo
«Lo que expresamos en una conversación, cómo lo hacemos y las inferencias que pueden extraerse en tiempo real son mucho más íntimos que los registros de interacciones en línea —advierte Chaudhary. Y añade—: Ya existen herramientas de IA diseñadas para elicitar, inferir, recopilar, registrar, comprender, predecir e incluso manipular y mercantilizar los planes y objetivos humanos».
Por su parte, Penn, apunta lo siguiente: «Durante décadas, la atención ha sido la moneda de cambio en internet. Compartirla con plataformas como Facebook e Instagram impulsó la economía digital. Ahora, la economía de la intención podría convertir nuestras motivaciones en la nueva moneda de intercambio».
Sin duda alguna, las señales sobre nuestras decisiones futuras antes de que las tomemos conscientemente, obtenidas mediante el análisis de datos psicológicos, comportamientos en línea y patrones de comunicación, permitirán a las empresas anticiparse a nuestras necesidades y deseos, y abrirá nuevas oportunidades comerciales, pero también planteará riesgos éticos y sociales relacionados con la manipulación y la privacidad.
Penn subraya que, aunque estos avances no son intrínsecamente negativos, poseen un enorme potencial destructivo, si no se regulan. «La conciencia pública sobre lo que se avecina será clave para evitar que tomemos un camino equivocado», concluye este especialista. ▪️
Información facilitada por la Universidad de Cambridge
Fuente: Harvard Data Science Review
