136

Paulina Navarrete Medina

Facultad de Derecho - Universidad de Valparaíso - Chile

La segunda cuestión que debemos considerar en este punto es que en muchas ocasiones la intrincada relación entre humanos y máquinas exacerba la dificultad de demostrar la causalidad, especialmente cuando la inteligencia artificial y la supervisión humana están entrelazadas 43.

Por último, podemos incluso llegar a un aumento exponencial de la dificultad de la víctima para establecer la relación causal en aquellos casos en que la implementación de un sistema de IA depende significativamente de la interacción con otras tecnologías que a su vez están dotadas de IA. En este caso, es la característica de la interconectividad la que complejiza el escenario para la víctima.

En concreto, podemos distinguir los siguientes supuestos en la incertidum-bre causal que pueden configurarse en casos en que esté involucrada la IA 44:

a) Causalidad alternativa con causante de daño no identificado. Este pri-mer supuesto se produce cuando existe una pluralidad de posibles causantes del daño, no obstante, no todos o bien sólo uno de ellos lo ha causado, pero resulta imposible identificarlo.

Consideremos, por ejemplo, el supuesto en que dos fuentes externas proporcionan información necesaria para el funcionamiento de un sistema de IA. Las dos fuentes entregan datos erróneos y el sistema causa un daño sin que pueda determinarse de cuál de las dos fuentes recibió los datos erróneos que lo llevaron a causar el daño 45. Pensemos en concreto en un sistema de IA que opera en el ámbito sanitario y que ha proporcionado un diagnóstico médico errado lo que provocó un grave daño a un paciente. Agreguemos que el sistema ha sido entrenado con una gran cantidad de datos que pro-

43 Véase GRIFFIN (2021), pp. 100-101; ROE (2019), p. 332.

44 Se sigue en esta parte el esquema propuesto en MARTÍN-CASALS (2022), pp. 231-259 y se agregan ejemplos específicos de casos en que se involucra un sistema de IA.

45 KARNER et al. (2021), p. 36.