Jornada sobre Inteligencia Artificial (IA) y Derechos Humanos
Jornada sobre Inteligencia Artificial (IA) y Derechos Humanos
Los días 6 y 7 de mayo, en el Salón Azul de la Facultad y la Universidad Católica de Cuyo, en su sede San Luis, se llevó a cabo una jornada sobre Inteligencia Artificial (IA) y Derechos Humanos. La actividad fue organizada por el Departamento de Derecho Público II, el Centro de Estudios “Integración Regional & Derechos Humanos” y la Facultad de Derecho de la Universidad Católica de Cuyo (sede San Luis).
El 6 de mayo se realizó la conferencia de apertura “Algoritmo y Constitución”, a cargo de Francisco Balaguer Callejón, autor del libro La constitución del algoritmo y profesor de la Universidad de Granada (España). La actividad contó además con unas palabras introductorias de Calogero Pizzolo, quien centró su intervención en el concepto de sesgo algorítmico y en los desafíos que este plantea dentro del desarrollo y aplicación de sistemas de inteligencia artificial. Desde el comienzo de su exposición, propuso reflexionar sobre la idea de neutralidad tecnológica, señalando que muchas veces existe, según sus palabras, “una ilusión” en torno a la creencia de que los algoritmos son neutrales y de que la ciencia encargada de desarrollarlos persigue necesariamente ese objetivo.
Sin embargo, remarcó que cualquier persona que trabaje o investigue dentro de esta materia rápidamente advierte que esa supuesta neutralidad no existe. En ese sentido, explicó que los algoritmos incorporan inevitablemente los sesgos y las perspectivas de quienes los diseñan y programan. De esta manera, sostuvo que el sesgo no aparece únicamente en el resultado final del sistema, sino que atraviesa todo su ciclo de vida, desde el diseño inicial hasta la utilización concreta de los datos y la toma de decisiones automatizadas.
A partir de allí, se dedicó a definir qué es un algoritmo, describiéndolo como un programa matemático que funciona a partir de la carga de datos. Sobre este punto puso especial énfasis, señalando que “cómo se cargan esos datos da origen al sesgo”. Con esto buscó remarcar que la información utilizada para alimentar estos sistemas no es neutral ni objetiva por sí misma, sino que puede reproducir criterios, selecciones y prejuicios ya existentes.
Durante su exposición también explicó que estos mecanismos pueden tener consecuencias concretas y profundas en distintos ámbitos de la vida social y jurídica. Como ejemplo, mencionó el ámbito del proceso penal, donde un algoritmo podría llegar a intervenir en decisiones vinculadas a medidas restrictivas de derechos, como la prisión preventiva. Según sostuvo, situaciones de este tipo pueden impactar directamente sobre parámetros de convencionalidad protegidos por los tratados internacionales de derechos humanos.
En ese marco, advirtió sobre la necesidad de analizar críticamente el funcionamiento de estas herramientas tecnológicas y las consecuencias que pueden generar cuando son utilizadas en espacios sensibles vinculados a la administración de justicia y la protección de derechos fundamentales. Sobre estas cuestiones continuó desarrollando su exposición hasta dar paso a los distintos paneles de especialistas y expositores de la jornada.
El 7 de mayo tuvo lugar el espacio “Dialogando-Debatiendo”, bajo el título “IA, desinformación y democracia”. Participaron como polemistas: Calogero Pizzolo, director del Centro de Estudios “Integración Regional & Derechos Humanos” de la Universidad de Buenos Aires, y Rafael Rubio, catedrático de Derecho Constitucional de la Universidad Complutense de Madrid.
El 8 de mayo, en la Facultad de Derecho de la Universidad Católica de Cuyo (sede San Luis), se desarrolló el panel “Gobernanza de la sociedad digital”, con exposiciones de Joaquín Sarrión Estévez, Roberto Cippitani, Isabel Cornejo Plaza y Melina Maluf Martínez. La coordinación estuvo a cargo de Gretel Cali Velasco. Posteriormente, se desarrolló el panel titulado “IA y administración digital: el debate sobre la toma de decisiones automatizadas”, con exposiciones de Andrea Mensa González, Lizbeth Xochitl Padilla Sanabria y Leandro Eduardo Astrain Bañuelos. La coordinación estuvo a cargo de Marcelo Blanco. La jornada concluyó con la conferencia de clausura “¿Nuevos o viejos derechos y garantías en la sociedad algorítmica?”, a cargo de Calogero Pizzolo.