En este artículo vamos a analizar casos que ocurrieron en Estados Unidos, para dar respuesta al título.
Mark Walters contra OpenAI
Mark Walters, un conocido locutor de radio defensor del derecho a poseer y portar armas en Estados Unidos, presentó una demanda contra OpenAI, alegando que ChatGPT había generado información difamatoria sobre su persona. Esta demanda es pionera porque plantea cuestiones novedosas sobre la responsabilidad de la inteligencia artificial generativa en la difusión de desinformación.
El caso surge del reportaje que Fred Riehl, un reportero de AmmoLand.com, estaba realizando sobre una denuncia de la Fundación de la Segunda Enmienda (SAF) contra Bob Ferguson, fiscal general del estado de Washington. Durante sus interacciones con ChatGPT, la herramienta afirmó que Walters había sido denunciado por fraude y malversación de fondos de la SAF.
ChatGPT indicó a Riehl que Walters, siendo tesorero y director financiero de la SAF, había «malversado fondos para gastos personales sin autorización ni reembolso, manipulando los registros financieros y los extractos bancarios para ocultar sus actividades». ChatGPT se equivocó completamente. Walters nunca desempeñó el cargo de tesorero ni director financiero de la SAF ni fue acusado legalmente de ningún delito.
Walters demandó a OpenAI porque las acusaciones falsas y maliciosas de su herramienta ChatGPT, tras ser expresadas públicamente, dañaron su reputación, exigiendo una indemnización por daños y perjuicios.
OpenAI solicitó la desestimación del caso, pero la Corte Superior de Georgia denegó dicha moción, permitiendo que siguiera adelante. Entonces, OpenAI presentó una nueva moción sobre la base de un interrogante: ¿debemos considerar, en todo caso, los resultados de las herramientas de IA generativa como afirmaciones fácticas? OpenAI argumenta que no, señalando sus descargos de responsabilidad y advertencias sobre la falta de fiabilidad de ChatGPT. Además, cabe destacar el hecho de que OpenAI advierte que los resultados de ChatGPT no son supervisados por ningún humano.
Lo cierto es que los usuarios de ChatGPT, incluido Riehl, reciben repetidas advertencias, incluso en las Condiciones de Uso que rigen las interacciones con ChatGPT, de que puede proporcionar información inexacta. Riehl reconoció que tenía experiencia previa con ChatGPT y sabía que la herramienta le había proporcionado respuestas completamente ficticias en ocasiones anteriores.
La jueza Tracie Cason de la Corte Superior del Condado de Gwinnett desestimó en su resolución, de 19 de mayo de 2025, la demanda por difamación de Mark Walters, pues no demostró que OpenAI actuara con negligencia o dolo cuando ChatGPT generó declaraciones falsas sobre él en respuesta a la consulta de un tercero.
La jueza destacó que OpenAI había emitido amplias advertencias sobre las limitaciones de ChatGPT. En el proceso se puedo comprobar que, durante sus interacciones con ChatGPT, Riehl se encontró con las siguientes advertencias: «El sistema puede ocasionalmente generar información incorrecta o engañosa» y «ChatGPT puede generar información inexacta sobre personas, lugares o hechos».
Walters ha apelado la sentencia ante la Corte Superior de Georgia, y el caso se encuentra pendiente de resolución a enero de 2026.
Wolf River Electric contra Google
Wolf River Electric es una empresa de energía solar de Minnesota. De forma repentina, observaron un aumento inusual de contratos cancelados. Cuando pidieron explicaciones a los antiguos clientes, las respuestas los dejaron estupefactos. Los clientes dijeron que se habían echado atrás tras enterarse, por búsquedas en Google, de que la empresa había llegado a un acuerdo con el fiscal general del estado por prácticas de venta engañosas. La empresa nunca había sido demandada por el gobierno, y mucho menos había llegado a un acuerdo en un caso relacionado con tales reclamaciones.
AI Overview implicó a cuatro de los directivos de la empresa por su nombre, y para respaldar sus afirmaciones, citó cuatro enlaces: tres artículos de noticias y un comunicado del fiscal general. Sin embargo, ninguno de los enlaces mencionaba una demanda contra Wolf River Electric.
La compañía presentó una demanda contra Google en marzo de 2025 ante un tribunal estatal, en la que reclama daños por valor de entre 110 y 210 millones de dólares. Google solicitó trasladar el caso a un tribunal federal, y este fue asignado al juez Jeffrey Bryan del Tribunal de Distrito de Estados Unidos en Minnesota.
La Sección 230 de la Communications Decency Act de 1996 dispone que los proveedores de un servicio informático interactivo no pueden ser considerados responsables como editores o emisores de contenido proporcionado por otro «proveedor de contenido de información». Cabe la duda de si la IA generativa tiene tal consideración.
A fecha de enero de 2026 no se conoce la resolución del caso.
Robby Starbuck contra Meta
Robby Starbuck es un activista conservador conocido por su campaña contra las políticas DEI (Diversidad. Equidad e Inclusión).
Cuenta que, mientras navegaba por X, encontró capturas de pantalla publicadas por un usuario que contenían información falsa sobre él, generada por Meta AI, el chatbot de inteligencia artificial de Meta basado en el modelo Llama. El texto de las capturas afirmaba que Starbuck estuvo en el Capitolio de Estados Unidos durante el asalto del 6 de enero de 2021, y que tenía vínculos con QAnon. Ese día, Starbuck estaba en su casa en Tennessee y nunca fue arrestado ni vinculado a tales actividades.
La IA de Meta lo describió como un «nacionalista blanco», lo acusó de negacionista del Holocausto y llegó a sugerir que representaba un peligro para sus propios hijos, recomendando que le quitaran la custodia de estos. Estas alucinaciones del modelo de IA causaron un daño inmediato y severo: Starbuck y su familia recibieron amenazas de muerte, su reputación profesional se vio manchada y perdió oportunidades laborales en un momento crítico de su carrera como influencer.
Starbuck exigió a Meta que corrigiera la información falsa, pero la compañía tardó meses en responder de manera satisfactoria, lo que agravó el problema. Ante la falta de respuesta, Starbuck presentó una demanda por difamación en la Corte Superior de Delaware el 29 de abril de 2025. Pidió más de 5 millones de dólares como indemnización, además de una orden judicial para que Meta eliminara permanentemente toda la información falsa generada por su IA y tomara medidas preventivas.
En agosto de 2025, ambas partes anunciaron un acuerdo amistoso. Como parte del acuerdo, Starbuck fue designado como consultor para el equipo de Políticas de Producto de Meta, con el objetivo de abordar sesgos políticos y mejorar la precisión de la IA.
Conclusión
A mi juicio, la responsabilidad recae en quien utiliza la información proporcionada por la IA generativa sin verificar previamente los resultados, pues es sabido que estos pueden contener errores. Nuestro juicio, el pensamiento crítico y la verificación son cruciales.
