Transparencia algorítmica ¿un problema normativo o tecnológico?
Barra lateral del artículo
Palabras clave:
Contenido principal del artículo
Resumen
Con la evolución de las tecnologías, cada vez va a ser más frecuente que ciertas decisiones tales como selección de personal, otorgamiento de crédito o selección de parejas, sean adoptadas por sistemas de inteligencia artificial estructurados sobre la base de algoritmos de aprendizaje automático. Muchas de esas decisiones pueden contener sesgos que derivan en decisiones discriminatorias que afectan al sujeto sobre el que recae dicha decisión.
Para revelar cómo se adoptaron dichas decisiones, se ha recurrido a la idea de transparencia en materia de algoritmos, implementándola a través de regulaciones. Dicho enfoque normativo o regulatorio resulta insuficiente para resolver el problema planteado, principalmente, porque ignora una premisa básica: la transparencia no es solamente un problema legal, sino también un problema tecnológico, que adquiere relevancia cuando se considera la naturaleza de los algoritmos involucrados, esto es, algoritmos de aprendizaje automático.
Los algoritmos de aprendizaje automático, por su parte, constituyen una tecnología idónea para obtener una automatización de procesos más sofisticada, pues supone acceder a reglas más inteligentes, potentes y flexibles, que se van corrigiendo a medida que los datos de la muestra van evolucionando y reconociendo variaciones en función de muchísimos factores. Sin embargo, el grado de sofisticación de estos algoritmos conlleva una complejidad de sus modelos que, a su vez, inciden en la dificultad para su interpretación.
El enfoque normativo desconoce la complejidad antes mencionada, generando un marco regulatorio insuficiente y rígido. El presente artículo propone superar dicha visión a través de propuestas flexibles, comprendiendo el rol de la tecnología, reconociendo su valor y estimulando su uso. En definitiva, propuestas que fomenten y fortalezcan la innovación en Chile.
Detalles del artículo
Carlos Fernando Araya Paz, Universidad Católica de Chile
Carlos Araya Paz es Abogado. Licenciado en Ciencias Jurídicas y Sociales de la Facultad de Derecho de la Universidad Adolfo Ibáñez. Diplomado en Propiedad Intelectual de la Pontificia Universidad Católica de Chile. Abogado Director del Estudio Jurídico Magliona Abogados.
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
CUHSO por Universidad Católica de Temuco se distribuye bajo una Creative Commons, Atribución 4.0 Internacional (CC BY 4.0).. Basada en una obra en https://cuhso.uct.cl.
En todos los casos, los derechos de autor son conservador por los autores.
Las obras publicadas en CUHSO pueden ser compartidas, copiadas y distribuidas en cualquier medio o formato. Se autoriza la adaptación, remezcla, transformación y creación a partir de las obras. Al seguir esta licencia, los principios anteriores no pueden ser revocados.
Debe reconocerse la autoría, proporcionar un enlace a la licencia e indicarse si se han efectuado cambios. Puede hacerlo de cualquier manera razonable, pero no de una manera que sugiera que tiene el apoyo del licenciador o lo recibe por el uso que hace. Las obras publicadas en CUHSO no pueden ser utilizadas con fines comerciales. Cualquier obra derivada de contenidos publicados en CUHSO