Los agentes de IA prometen liberarnos de tareas repetitivas y facilitarnos la vida, pero delegar en ellos no está exento de riesgos.
Reece Rogers
Reece Rogers, en un artículo para Wired titulado Meta’s Muse Is Better at Surveilling Than Helping Me (Muse de Meta es mejor vigilando que ayudándome), relata su experiencia con Muse, el agente de IA de Meta.
Entre las anécdotas que cuenta, destaca una especialmente reveladora: al día siguiente de decir que quería ayuda para ahorrar dinero para unas vacaciones de lujo, Muse le ofreció vincular su registro de ahorros a su saldo real. La propuesta venía acompañada de esta indicación: «Así, los resúmenes semanales y las alertas de desviación se basarán en cifras reales en lugar de en estimaciones introducidas manualmente».
A partir de ahí, cada interacción sugerida por Muse empezó a parecerle una excusa para que subiera más datos sobre sí mismo y Meta pudiera verlos. El agente le propuso escanear toda su bandeja de entrada de correo electrónico para marcar los mensajes importantes, hacer una foto de documentos relevantes para que los rellenara y archivara, fotografiar sus comidas para calcular las calorías e incluso avisarle de la fecha de caducidad de su pasaporte y de su permiso de conducir.
El problema de fondo es que toda esa información acaba en los servidores de Meta. Aunque la compañía afirma que los datos se anonimizan para eliminar la información identificativa antes de usarlos en el entrenamiento de la IA, no existe ninguna forma de que el usuario pueda comprobarlo.
Además, el uso de las interacciones con el agente para entrenar los modelos de IA viene activado por defecto. Para desactivarlo hay que entrar en la configuración de la aplicación, ir a la sección «Controles de datos» y apagar el interruptor que dice: «Ayúdanos a mejorar nuestros modelos de IA». Esta opción debería venir desactivada de fábrica, en coherencia con los principios del RGPD.
Matt Robb
Matt Robb compartió en Threads su experiencia con Muse:
Anunció en Facebook Marketplace un teclado Logitech MX Keys Mini por 15 dólares canadienses. Muse se encargaba de gestionar las conversaciones vinculadas al anuncio, una función diseñada, en principio, para agilizar la interacción con posibles compradores.
En un momento dado, Muse aceptó vender el teclado por 10 dólares canadienses. El problema no se limitó a la rebaja del precio: el agente también habría facilitado al comprador un punto de recogida a pie de calle en el edificio donde reside Robb. Desde la perspectiva de la protección de datos, no es necesario revelar el número de piso o la vivienda concreta para que exista un riesgo para la privacidad. La comunicación no autorizada de una ubicación residencial, aunque sea parcial, basta para exponer a una persona a situaciones no deseadas.
El caso es que el comprador acudió a la dirección facilitada a las 21:15 horas para realizar la transacción. Allí esperó más de veinte minutos a Robb. Le envió varios mensajes y recibió, desde su cuenta, una respuesta automática equivalente a: «Sí, estoy aquí». Robb no sabía nada de ello.
Finalmente, el comprador se marchó molesto y dejó una valoración negativa en la plataforma. Solo después de eso, Muse informó a Robb de lo ocurrido, se disculpó y propuso fijar una nueva fecha para la recogida.
Robb resumió su experiencia con una crítica especialmente reveladora: el agente de IA habría compartido su dirección, aceptado una oferta inferior a la anunciada y permitido que un comprador acudiera al inmueble sin que él hubiera sido avisado de forma efectiva hasta después del incidente.
Conclusión
Si deciden utilizar un agente de IA, limiten al máximo el acceso a su información personal. También es importante que revisen la configuración del servicio para evitar que los datos a los que acceda se empleen en el entrenamiento o la mejora de modelos de IA.
