Reece Rogers, en un artículo para Wired titulado Meta’s Muse Is Better at Surveilling Than Helping Me (Muse de Meta es mejor vigilando que ayudándome), relata su experiencia con Muse, el agente de IA de Meta.
Entre las anécdotas que cuenta, destaca una especialmente reveladora: al día siguiente de decir que quería ayuda para ahorrar dinero para unas vacaciones de lujo, Muse le ofreció vincular su registro de ahorros a su saldo real. La propuesta venía acompañada de esta indicación: «Así, los resúmenes semanales y las alertas de desviación se basarán en cifras reales en lugar de en estimaciones introducidas manualmente».
A partir de ahí, cada interacción sugerida por Muse empezó a parecerle una excusa para que subiera más datos sobre sí mismo y Meta pudiera verlos. El agente le propuso escanear toda su bandeja de entrada de correo electrónico para marcar los mensajes importantes, hacer una foto de documentos relevantes para que los rellenara y archivara, fotografiar sus comidas para calcular las calorías e incluso avisarle de la fecha de caducidad de su pasaporte y de su permiso de conducir.
El problema de fondo es que toda esa información acaba en los servidores de Meta. Aunque la compañía afirma que los datos se anonimizan para eliminar la información identificativa antes de usarlos en el entrenamiento de la IA, no existe ninguna forma de que el usuario pueda comprobarlo.
Además, el uso de las interacciones con el agente para entrenar los modelos de IA viene activado por defecto. Para desactivarlo hay que entrar en la configuración de la aplicación, ir a la sección «Controles de datos» y apagar el interruptor que dice: «Ayúdanos a mejorar nuestros modelos de IA». Esta opción debería venir desactivada de fábrica, en coherencia con los principios del RGPD.
Conclusión
Cuando interactuamos con modelos o agentes de IA, debemos tener siempre presente que la información que compartimos puede terminar en los servidores de las grandes tecnológicas. Y una vez allí, perdemos el control sobre ella. Por ello, es importante revisar las configuraciones y comprobar que nuestra informacion no se utilizará para entrenar a los modelos de IA, aunque es un acto de fe, pues no hay forma de verificarlo.
