LA EVALUACIÓN DE IMPACTO ALGORÍTMICO EN LOS DERECHOS FUNDAMENTALES (DÚO) - ARANZADI

9788411246231

25,26 € IVA incl.

Descripcion

El presente trabajo constituye una aportación teórica, pero también práctica, acerca de los criterios que deben permitirnos diseñar y usar las herramientas normativas que, en los próximos años, deberán guiar el desarrollo de sistemas basados en inteligencia artificial, con potencial impacto sobre los derechos fundamentales. El autor dedica una parte importante de su trabajo a estudiar la naturaleza jurídica de las llamadas evaluaciones de impacto algorítmico en nuestro ordenamiento jurídico, a analizar cómo se produce la recepción de una práctica habitual en los sistemas del derecho común que más allá de las directrices éticas a las que responden, están basadas en un traspaso de la responsabilidad y de la obligación de ponderar, un ejercicio que ahora se exige a empresas y administraciones públicas implicadas. En un escenario normativo dominado por el enfoque de riesgo, como el propuesto por la Unión Europea, el papel de las evaluaciones de impacto algorítmico deviene clave. A los juristas nos corresponde, cuanto antes, aceptar este nuevo paradigma, comprendiendo los efectos del principio de responsabilidad proactiva y tratando de definir, con criterios jurídicos estables, qué elementos deben formar parte de ese juicio y cómo deben interpretarse los resultados. Un desafío, pero también una oportunidad, que la obra aprovecha para establecer los términos de un debate necesario. SUMARIO: NOTA PRELIMINAR. AGRADECIMIENTOS PRÓLOGO A MODO DE INTRODUCCIÓN: JUSTIFICACIÓN DEL TEMA, DEFINICIÓN DE OBJETIVOS Y OPORTUNIDAD DEL PRESENTE TRABAJO PRIMERA PARTE LA EVALUACIÓN DE IMPACTO ALGORÍTMICO (EIA) Y LA PONDERACIÓN DE DERECHOS FUNDAMENTALES I. Antecedentes y origen del principio de responsabilidad proactiva II. La ponderación ex ante de los derechos fundamentales en juego 1. El principio de proporcionalidad en sede judicial 2. El principio de proporcionalidad como límite interno a la función del legislador 3. Particulares y administraciones públicas con funciones de evaluación y ponderación de derechos ex ante 3.1. El precedente de la AEPD y su expansión competencial 3.2. El caso del llamado derecho al olvido: un falso derecho, a juzgar por un falso tribunal? 3.3. La LIA: una normativa basada en el enfoque de riesgo III. Contenido de la evaluación de impacto algorítmico (EIA) y juicio de proporcionalidad 1. Objeto de evaluación (decisión algorítmica automatizada) y límites de los sistemas de IA en función de la tecnología concreta 2. Publicidad de los informes EIA y obligación de registro público: una ponderación compartida con el público? 3. Gestión interna de (auto)evaluaciones de impacto algorítmico: hacía un modelo de debido proceso, justicia y equidad en la co-construcción de una Inteligencia Artificial confiable 4. Acceso significativo por parte de desarrolladores, investigadores y auditores. La revisión y mejora continua del sistema 5. La evaluación de impacto dispar (disparate impact assessment) IV. Naturaleza jurídica y papel de las EIA en la protección efectiva de los derechos fundamentales V. Las EIA como herramienta esencial para la minimización de riesgos, sesgos y daños SEGUNDA PARTE METODOLOGÍA PARA LA EVALUACIÓN DE IMPACTO ALGORÍTMICO (EIA). MODELOS EN PERSPECTIVA COMPARADA I. La definición del contexto, alcance y naturaleza del sistema de IA como punto de partida para la EIA II. El enfoque de la EIA: consecuencias y derechos, tecnología, terceros implicados y riesgos 1. En función de las consecuencias: derechos e intereses legítimos potencialmente afectados 2. En función de la tecnología empleada 3. En función de la participación de terceros: proveedores, clientes, vendedores, auditores y desarrolladores. Sobre el Third Party Risk Management 4. En función de los principales riesgos 4.1. Riesgo de desinformación 4.2. Riesgo de discriminación. A vueltas sobre el disparate impact assessment 4.3. Riesgo de indefensión y segunda oportunidad algorítmica III. Elementos de la EIA IV. Motivación y ponderación en la EIA 1. El juicio de necesidad (relativizado) 2. El juicio de idoneidad 3. La proporcionalidad en sentido estricto V. Modelos de EIA en perspectiva comparada 1. Canadá y el Algorithmic Impact Asssessment Tool 2. La herramienta AIA del Gobierno de Estados Unidos 3. Países Bajos y el modelo FRAIA 4. OEIAC. El modelo PIO (Principios, Indicadores y Observables) 5. Ada Lovelace Institute 6. Model Rules del European Law Institute CONCLUSIONES EPÍLOGO REPERTORIO BIBLIOGRÁFICO