Mérida, Enero Sábado 28, 2023, 06:57 am

Inicio

Opinión



Legislación europea a la IA por Alberto José Hurtado B.

Diario Frontera, Frontera Digital,  Alberto José Hurtado B., Opinión, ,Legislación europea a la IA por Alberto José Hurtado B.
Alberto José Hurtado B.


El 21 de abril de 2021, la Unión Europea (UE) anunció la Artificial Intelligence Act, un proyecto de ley para armonizar las normas que deben regir la inteligencia artificial (IA) en sus Estados miembros. Los objetivos de esta legislación son deseables para todos los países del mundo que aun no han pensado en un marco jurídico propio, pero reconocen la importancia de esta tecnología y sus riesgos asociados, y son conscientes de lo perjudicial que sería el incremento de la confrontación entre China y Estados Unidos por el liderazgo tecnológico mundial.


Esta propuesta normativa se encuentra en estado consultivo, pendiente de debate y aprobación, pero ello no aminora la preponderancia que tiene como marco innovador de la regulación de las actividades alrededor de la tecnología más disruptiva de la presente década. De su contenido sobresale el rígido régimen sancionador que propone, la categorización de las actividades que se pueden llevar a cabo con esta tecnología, y la clasificación de los sistemas basados en IA.


El régimen sancionatorio está estructurado en varios tramos, y puede llegar a 30 millones de euros o a un 6% de la facturación global anual de la organización que desarrolle e incorpore IA en sus actividades. Esta rigidez pretende, por un lado, que las sanciones sean efectivas, proporcionales y disuasorias y, por otro lado, minimicen los riesgos de la masificación desordenada de la IA.


En relación con los usos de esta tecnología, en el proyecto de ley se identifica una serie de actividades prohibidas, entre las que se encuentran: a) aquellas que manipulan el comportamiento humano, sus opiniones y decisiones; b) las que proceden de las autoridades públicas para evaluar y supervisar la confiabilidad de los ciudadanos en función de su comportamiento social, actividad que puede llevar a sistemas de puntuación social y al trato desfavorable y discriminatorio de la población; y c) las que vigilan masivamente con identificación biométrica remota en tiempo real todas las actividades que se realizan en la sociedad, cuyo uso se ha justificado en la lucha antiterrorista.


Y respecto a los sistemas basados en IA, estos se clasifican en cuatro niveles de riesgo, que van desde lo inaceptable hasta lo mínimo aceptable. Los sistemas que sí están permitidos se agrupan en: 1) de alto riesgo y 2) el resto.


Para los primeros, se definen nueve grandes bloques de requisitos: a) que exista un sistema de gestión de riesgos orientado a la mejora continua; b) que los datos con los que el sistema aprende sean de alta calidad y se implementen medidas de gobierno del dato; c) concentrado en la documentación técnica que el responsable del sistema debe proporcionar; d) acerca de la retención de registros de información, aspecto relevante cuando se quiere explicar qué ha hecho el sistema, qué ha aprendido y qué datos ha utilizado; e) centrado en la transparencia, para que el usuario sepa en todo momento cómo funciona el sistema, de manera clara y entendible; f) ahonda en la supervisión humana, para garantizar que el humano tenga siempre un mecanismo mediante el cual pueda interrumpir el funcionamiento del sistema; g) asociado con la robustez del sistema, h) para garantizar la precisión de sus actividades, evitando conductas moralmente riesgosas, e i) la ciberseguridad de los sistemas.


La normativa así propuesta aplica a los sistemas de IA que se comercialicen en la UE, pero también a aquellos que, aunque desarrollados en cualquier otra parte del mundo, sean utilizados en la región europea. De este modo, la UE demuestra disposición a innovar con esta ley que esperamos sirva de base para el resto del mundo.


*@ajhurtadob






Contenido Relacionado