PROTECCIÓN DATA

Peligros de los chatbots de IA aduladores. Primer estudio científico

En una ocasión anterior publiqué un artículo sobre suicidios inducidos por sistemas de IA. Lo enlazo aquí, ya que guarda relación con el tema que nos ocupa hoy. Chatbots aduladores Investigadores del MIT y la Universidad de Washington publicaron en febrero de 2026 un estudio titulado Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians …

Leer más…

La AEPD alerta a la Unión Europa: Los asistentes de IA filtran conversaciones de usuarios

La Agencia Española de Protección de Datos ha remitido al Comité Europeo de Protección de Datos una nota informativa relativa al estudio Tu asistente de IA está filtrando tus conversaciones, elaborado por el Instituto de Investigación IMDEA Networks.  La AEPD solicita su difusión entre todas las autoridades europeas de protección de datos con el fin …

Leer más…

IA en entornos complejos: lo que revela Emergence World

Evaluar los modelos de IA en tareas aisladas no basta. La verdadera prueba está en observar cómo se comportan cuando interactúan entre sí durante largos períodos de tiempo y en entornos complejos. Eso es exactamente lo que hizo Emergence World, una plataforma diseñada para estudiar dinámicas sociales emergentes entre agentes impulsados por IA. El experimento: …

Leer más…

¿Estamos ante una burbuja en la inteligencia artificial?

Hay economistas que sostienen que en torno a la inteligencia artificial (IA) se ha formado una burbuja especulativa que podría estar cerca de estallar. Otros, en cambio, defienden que se trata de una inversión en una tecnología transformadora que exige un fuerte desembolso para alcanzar el máximo potencial. Wall Street publicó el 26 de mayo …

Leer más…

IA y dignidad humana: la respuesta de la Iglesia católica en Magnifica Humanitas

En enero de 2025, el Papa Francisco aprobó Antiqua et nova, una nota sobre la relación entre la IA y la inteligencia humana. Sobre ello les hablé en otro artículo que dejo enlazado aquí. Ahora, el Papa León XIV ha dado un paso más, publicando la primera encíclica dedicada íntegramente a la custodia de la …

Leer más…

Cuando la IA se replica sola: ¿un nuevo paradigma en ciberseguridad?

Los expertos en inteligencia artificial llevan tiempo advirtiendo sobre los riesgos de una IA descontrolada. En una investigación realizada en un entorno controlado por la organización Palisade Research, una IA logró clonarse a sí misma de forma autónoma y lanzar ciberataques autorreplicantes sin intervención humana. Replicar implica reproducir un sistema completo, capaz de perpetuarse por …

Leer más…

error: Contenido protegido por derechos de autor. Queda prohibida la reproducción, distribución, transformación, transcripción y almacenamiento de este contenido, sin la autorización previa y expresa del titular de los derechos. Para pedir dicha autorización, diríjase al titular enviando un correo electrónico a info@protecciondata.es