COM online: Opacidad algorítmica y derechos humanos: comparación crítica UE-EEUU

En el marco del VIII Congreso sobre Derechos Humanos: Derechos Humanos e Inteligencia Artificial, "a" es el título de la comunicación que presenta en línea .

Este es el resumen de sus autores: Este trabajo analiza el impacto de la opacidad algorítmica sobre los derechos humanos en el contexto normativo de la Unión Europea (UE) y Estados Unidos (EE.UU.). A partir de un enfoque jurídico-crítico, se argumenta que la opacidad no es únicamente un fenómeno técnico, sino una condición estructural que impide la rendición de cuentas, obstaculiza la trazabilidad de las decisiones automatizadas y vulnera principios fundamentales como la igualdad, la no discriminación, la privacidad y el debido proceso. Se examina cómo la UE, mediante el reglamento 2024/1689, ha adoptado un enfoque preventivo basado en obligaciones legales de transparencia, inteligibilidad y evaluación de impacto en derechos fundamentales. Por el contrario, se demuestra que el marco estadounidense permanece fragmentado, dependiente de regulaciones sectoriales o estatales, sin una arquitectura jurídica coherente a nivel federal. A través de casos emblemáticos (Syri, Iborderctrl, Compas, Saferent), se ilustra la materialización práctica de la opacidad y sus efectos desproporcionados sobre grupos vulnerables. Finalmente, se destaca la asimetría tecnológica global, subrayando que la mayoría de los sistemas de IA desplegados en la UE son desarrollados en EE.UU., lo que plantea desafíos de aplicación extraterritorial del derecho europeo y limita su eficacia real. Frente a ello, se propone una serie de principios normativos comunes, orientados a consolidar una gobernanza algorítmica garantista basada en la trazabilidad, la inteligibilidad y el control democrático, como condiciones indispensables para garantizar una protección estructural de los derechos humanos en entornos cada vez más automatizados.

Puedes ampliar la información sobre el VIII Congreso sobre Derechos Humanos: Derechos Humanos e Inteligencia Artificial en la web: https://derechoshumanos.mainel.org/