126

Paulina Navarrete Medina

Facultad de Derecho - Universidad de Valparaíso - Chile

b) Opacidad: alude a la falta de transparencia en los criterios, factores, datos o instrucciones 17 que han considerado los sistemas de IA para tomar una decisión. Esto dificulta comprender y explicar cómo en un supuesto concreto un determinado sistema de IA ha tomado sus decisiones.

La opacidad está directamente relacionada con una baja interpretabilidad del sistema. Se entiende por interpretabilidad el grado en que un ser humano puede entender la causa de una decisión tomada por un determinado modelo, sobre todo cuando la decisión no es directa 18.

c) Interconectividad: Alude a la interconexión e interacción permanente de los sistemas de IA. Como consecuencia de esa permanente conexión con otros sistemas, una IA puede actuar con datos que son externos y no siempre son conocidos al tiempo de su diseño o fabricación.

d) Apertura: se dice que a diferencia de los productos tradicionales estos sistemas permanecen abiertos ya que están sujetos a actualizaciones y me-joras. Esta continua necesidad de una entrada externa implica un cambio en la noción clásica de producto, el que en algún momento se termina.

Para comprender de mejor manera las características de la IA, particu-larmente la autonomía y la opacidad, citamos un caso expuesto por Cobo y Lloret 19:

Al principio de la pandemia de la COVID-19 trabajábamos en un sistema de detección que localizaba, a partir de una radiografía, a los pacientes que potencialmente tenían neumonía con características compatibles con la que se producía por dicha enfermedad. El sistema funcionaba muy bien, y logramos muy rápidamente que obtuviera resultados magníficos, con una eficiencia cercana al 100%. Como hay que predicar con el ejemplo, no nos dejamos llevar por la emoción y aplicamos herramientas de interpretabilidad para

17 ATIENZA (2022), p. 58.

18 COBO y LLORET (2023), p. 58.

19 COBO y LLORET (2023), p. 58.