Carli Michelle Heller, residente en Bonita Springs (condado de Lee, Florida), fue detenida el 30 de septiembre de 2026 por proferir amenazas de violencia a través del chatbot Claude de Anthropic.
El 26 de septiembre escribió en Claude algo como: «Voy a acribillar la oficina del sheriff ahora mismo, joder». Al día siguiente añadió: «Esta es la última oportunidad, al 100 %; ya me harté. Hoy conseguí una puta arma nueva. Que te jodan».
Los sistemas de seguridad de Anthropic detectaron el contenido amenazante, lo escalaron a un equipo humano de revisión y este informó a las autoridades. Heller fue arrestada sin incidentes en su domicilio. Está acusada de amenaza escrita o electrónica de violencia, delito que puede conllevar hasta 15 años de prisión. Se declaro no culpable, argumentando que utilizaba el chatbot como un diario personal y que no tenía intención de llevar a cabo las amenazas. Se encuentra pendiente de juicio.
Brasil
Un agricultor brasileño de 36 años, residente en São Gabriel da Palha, mantuvo durante casi dos meses una serie de conversaciones con ChatGPT en las que detalló planes para asesinar a su hijo de 8 años, atacar a otras personas y luego quitarse la vida. Entre los mensajes que envió al chatbot figuran frases como: “Le ofrecí 50.000 reales para que me matara a mí y a mi hijo, pero no quiso porque se trataba de un niño» y «quisiera saber de dónde viene este deseo de matar gente. Me gusta la sensación de ver sufrir a otra persona».
El hombre no mantenía contacto con su hijo, pero debía pagar una pensión alimenticia a la madre. Para evitarlo, intentó contratar a un sicario por 50.000 reales para ejecutar el asesinato. En las conversaciones también mencionó que disponía de un arma de fuego, una cuerda y cianuro, y que planeaba realizar ataques contra policías, puntos de venta de drogas, escuelas e iglesias con el objetivo de causar el mayor número posible de víctimas antes de morir.
Los sistemas de seguridad de OpenAI detectaron el contenido como una amenaza grave e informaron al FBI, que transmitió la alerta al Ministerio de Justicia de Brasil a través del CyberLab (Laboratorio de Operaciones Cibernéticas).
Un día antes de la fecha en la que, según los investigadores, el hombre pretendía ejecutar el plan, la policía lo detuvo. El sospechoso reconoció haber realizado las búsquedas y conversaciones, pero negó tener intención real de llevar a cabo los actos.
El hombre permanece en prisión preventiva mientras continúan las investigaciones.
Francia
Un hombre de 37 años, residente en Estrasburgo y con antecedentes psiquiátricos, mantuvo una conversación con ChatGPT en la que expresó su intención de comprar una pistola Glock para «matar a un agente del servicio de inteligencia de la CIA, del Mossad o de la DGSI».
Los sistemas de moderación de OpenAI detectaron el contenido como una amenaza grave de violencia física. La empresa informó al FBI, que a su vez transmitió la alerta a las autoridades francesas.
El 3 de abril de 2026, el RAID (unidad de élite de la Policía Nacional francesa) lo arresto en su domicilio sin incidentes. No se encontró ninguna arma ni indicios de un plan concreto, ni cómplices ni material sospechoso.
La fiscalía de Estrasburgo archivó el caso al considerar que «no había infracción suficientemente caracterizada», ya que el hombre se había limitado a interactuar con una IA. Debido a su estado de salud mental, fue internado en un psiquiátrico forzosamente.
Conclusión
Algo que debemos comprender es que la privacidad en los chatbots de IA no existe. Por eso insisto tanto en no compartir información personal ni de terceros.
Las directrices del Comité Europeo de Protección de Datos reconocen expresamente que las empresas pueden compartir datos con las autoridades en casos individuales de posibles delitos o amenazas graves a la seguridad pública. Esta cesión puede ampararse en el artículo 6.1.f) del RGPD, es decir, en el interés legítimo, siempre que se respete el principio de proporcionalidad, así, no puede tratarse de una vigilancia sistemática ni de un monitoreo preventivo generalizado de todos los usuarios.
Los usuarios tiene, en su mayoría, una falsa sensación de privacidad cuando interactúan con la IA, olvidando que la interacción puede ser registrada y analizada. Si no lo sabía, ya lo saben.
