La posibilidad de que los robots sustituyan a los seres humanos en determinados trabajos es una realidad que se acerca y que nos lleva a plantear qué pasará en caso de provocar un accidente, es decir, qué respuesta cabe ante una posible responsabilidad por daños.
Para tratar de resolver la cuestión planteada, me referiré a una conferencia de D. Manuel Marchena, Presidente de la Sala Segunda, de lo Penal, del Tribunal Supremo, que pronunció en el 7º Congreso Internacional sobre el Derecho de Daños, que tuvo lugar en Madrid en los días 7 y 8 de marzo de 2024, que tituló «Inteligencia artificial y responsabilidad civil por daños». Dejo aquí la ponencia.
Marchena plantea que el concepto de «robot» no es unívoco, así, cabe «una concepción morfológica, muy vinculada a la literatura y el cine, en la que el robot se presenta como un dispositivo o androide capaz de ejecutar tareas hasta hace bien poco realizadas por humanos».
Los robots pueden causar daños personales y materiales. Pensemos en los coches autónomos que, mientras circulan por una carretera, pueden causar daños personales y materiales. Ya ha ocurrido en China y cabe pensar quién responde en esos accidente.
El Parlamento Europeo en su resolución de 16 de febrero de 2017 con recomendaciones a la Comisión sobre normas de derecho civil sobre robótica, incluye en su apartado 59 una petición a la Comisión para que –cuando realice una evaluación de impacto de su futuro instrumento legislativo– explore, analice y considere las implicaciones de todas las posibles soluciones jurídicas frente a la acción de los robots, a saber:
- Establecer un régimen de seguro obligatorio en los casos en que sea pertinente y necesario para categorías específicas de robots, similar al existente para los automóviles, en el que los fabricantes o los propietarios de robots estarían obligados a suscribir un contrato de seguro por los posibles daños y perjuicios causados por sus robots.
- Establecer un fondo de compensación que no solo garantice la reparación de los daños o perjuicios causados por un robot ante la ausencia de un seguro.
- Establecer un fondo de compensación que garantice la reparación de los daños o perjuicios causados por un robot ante la ausencia de un seguro.
- Permitir que el fabricante, el programador, el propietario o el usuario puedan beneficiarse de un régimen de responsabilidad limitada si contribuyen a un fondo de compensación o bien si suscriben conjuntamente un seguro que garantice la compensación de daños o perjuicios causados por un robot.
- Decidir si conviene crear un fondo general para todos los robots autónomos inteligentes o crear un fondo individual para cada categoría de robot, así como la elección entre un canon único al introducir el robot en el mercado o pagos periódicos durante la vida del robot.
- Crear un número de matrícula individual que figure en un registro específico de la Unión que asegure la asociación entre el robot y el fondo del que depende y que permita que cualquier persona que interactúe con el robot esté al corriente de la naturaleza del fondo, los límites de su responsabilidad en caso de daños materiales, los nombres y las funciones de los participantes y otros datos pertinentes.
- Crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente.
Los últimos trabajos normativos de la Unión Europea apuntan hacia una responsabilidad civil objetiva del operador del sistema de inteligencia artificial basada en la gestión del riesgo. Para Marchena «la responsabilidad objetiva, frente al criterio histórico de imputación del daño proclamado por el artículo 1902 del Código Civil, basado en la conducta negligente, no resuelve todos los problemas».
La responsabilidad civil objetiva implica la inversión de la carga de la prueba. La víctima, acreditado el daño y la relación causa–efecto, tiene derecho a ver reparado el menoscabo físico o patrimonial que ha sufrido. De este modo, podemos evitar «las dificultades derivadas del desafío probatorio que ha de asumir el perjudicado y que exige identificar e individualizar al desencadenante del daño entre todos aquellos que hayan participado en el proceso productivo del robot: el fabricante, operario, propietario, programador o diseñador, a lo que necesariamente habría que sumar al formador o instructor, con una papel cada vez más relevante en la toma de decisiones de una máquina capaz de resolver por sí misma algunas de las encrucijadas decisorias en las que puede llegar a encontrarse».
No cabe duda que la robótica del futuro exige una revisión del vigente marco jurídico, empezando por la Directiva 85/374/CEE, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos.
Si queremos que el robot responda de sus actos, más bien de las consecuencias de estos, parte de la doctrina plantea la necesidad de dotarles de personalidad jurídica, principalmente, cuando los robots tengan un alto grado de autonomía. Marchena justifica que se le otorgue personalidad propia a los robots para «evitar que la víctima de unos daños ocasionados por un dispositivo de esta naturaleza tenga que iniciar un peregrinaje jurisdiccional que comienza desde el momento mismo de definir contra quién ha de ser dirigida la demanda. El programador, el fabricante, el operador o el propietario son algunos de los destinatarios potenciales de una reclamación que no está exenta de serios problemas jurídicos».
Otorgarle personalidad jurídica a los robots permitiría atribuirles obligaciones, como el pago de una renta básica y universal para las personas desempleadas, y resarcitorias de los perjuicios ocasionados por su uso o acción. También permitiría la acción de repetición del empresario contra el dependiente (robot), prevista en el artículo 1.904 del Código Civil, si el robot tuviera un patrimonio propio (el propio robot tiene valor que variará en función de su amortización).
No obstante, hay voces contrarias a otorgarles personalidad propia a los robots. La profesora Núñez Zorrilla argumenta que «cuando el robot produce un daño al único sujeto al que puede imputársele la responsabilidad como sujeto en principio culpable, no es al robot, sino a la persona que tiene su titularidad, lo que no excluye posibilidad de que el agraviado pueda reclamar del agente material del daño (robot) un contenido concreto de la reparación, si ello es lo que más le satisface».
El profesor Cerdeira Bravo de Mansilla plantea equiparar a los robots con los esclavos del derecho romano clásico, carentes ambos de libertad y racionalidad, y al peculio de estos con la necesidad de dotar un seguro que cubra los posibles daños causados por aquellos. Como alternativa, también, propone personificar los robots como «cosas personificadas» y se pregunta si el molde donde mejor encajaría tal personificación no sería a través de las Fundaciones mediante una «personalidad fundacional» con un patrimonio adscrito a un fin (reparar los posibles daños causados por los robots). Con esta fórmula no serían responsables ni el creador, ni el usuario, ni siquiera el robot, sino la Fundación misma que respondería con todo su patrimonio.
Ante la necesidad que causa el vacío legal existente, Marchena propone «la creación de una normativa completamente nueva y distinta, en la que servirían de gran ayuda los Principios de Derecho Europeo de la Responsabilidad Civil, más avanzados y actualizados, en los que tiene cabida y está presente esta nueva realidad industrial», si bien no hay que menospreciar los actuales regímenes de responsabilidad civil que están funcionando bien.
Conclusión
No cabe duda que la complejidad, la conectividad, la opacidad, la vulnerabilidad, la capacidad de ser modificados mediante actualizaciones, la capacidad de autoaprendizaje y la autonomía potencial de los sistemas de inteligencia artificial, así como la multitud de los agentes involucrados, representan un gran reto para el legislador que, más pronto que tarde, tendrá que afrontar.
El siguiente video es una parodia, pero nos ayuda a plantearnos qué pasaría de ser cierto.
