Luz verde al anteproyecto de ley sobre la gobernanza de la Inteligencia Artificial

Cabe destacar, entre sus principales novedades, el establecimiento de numerosas prohibiciones y obligaciones, así como rigurosas restricciones para los sistemas “de alto riesgo”. Según el RIA, se consideran de alto riesgo, entre otros, los sistemas de IA que se utilicen en ámbitos críticos como la educación, el empleo, la administración de justicia, o los empleados para la puntuación de individuos o la gestión del control fronterizo.

Por su parte, tienen la consideración de prácticas prohibidas, entre otras, el uso de técnicas subliminales para manipular decisiones sin consentimiento (por ejemplo, un chatbot que identifica usuarios con adicción al juego y les incita a entrar en una plataforma de juego online) o la clasificación biométrica de las personas por raza u orientación política, sexual o religiosa (por ejemplo, un sistema de categorización facial biométrica capaz de deducir la orientación política de una persona mediante el análisis de sus fotos en redes sociales).

Es conveniente recordar, que la aplicabilidad directa del RIA en lo que respecta a las prácticas prohibidas fue el 2 de febrero y serán objeto de sanción a partir del próximo 2 de agosto con multas que pueden alcanzar hasta los 35 millones de euros o el 7% del volumen de facturación.

Desde el área de Consultoría de Forvis Mazars ayudamos a nuestros clientes, previo análisis del inventario de sistemas y modelos de IA que soporten sus procesos, a definir un marco de gobierno que les permita implementar las medidas necesarias para cumplir los requisitos establecidos en la normativa sobre Inteligencia Artificial.

Puede consultar información adicional sobre la aprobación del Reglamento Europeo de Inteligencia Artificial en nuestra publicación :  Entrada en vigor del Reglamento Europeo de IA