Este 2 de febrero han comenzado a ser aplicables las obligaciones asociadas a las prácticas de IA prohibidas en el Reglamento UE, así como los requisitos para promover la alfabetización en materia de IA. Te contamos qué implican estas obligaciones dirigidas a proveedores y responsables de sistemas de IA y cómo se debe garantizar la formación de todos los usuarios y empresarios.
Conforme al artículo 4 del RIA, los proveedores y responsables de sistemas de inteligencia artificial deberán adoptar medidas para garantizar, un nivel suficiente, de conocimientos sobre IA entre su personal y quienes se encarguen en su nombre, del funcionamiento o utilización de estos sistemas.
El Reglamento no detalla específicamente un catálogo exhaustivo de actividades de formación en IA que deban llevarse a cabo, sino que establece un marco general que implica la necesidad de una sólida formación en IA para diversos actores involucrados en su desarrollo, implementación y uso.
A la hora de definir el programa formativo se habrá de tener en cuenta distintos factores como: los conocimientos técnicos, experiencia, educación, formación, de los proveedores y responsables de sistemas IA, así como el contexto en el que vayan a ser utilizados esos sistemas de IA, y las personas o grupos de personas sobre los vayan a utilizarse los sistemas de IA.
Del conjunto del texto legal, podemos inferir cuatro grandes bloques de temas formativos:
- Conocimiento técnico: entendimiento profundo de los algoritmos, modelos y técnicas de IA.
- Ética: conciencia de los desafíos éticos asociados a la IA, como la privacidad, los derechos de propiedad industrial e intelectual, la discriminación, la transparencia, y el respeto a los derechos humanos
- Impacto social: comprensión de las implicaciones sociales, económicas y medioambientales del uso de IA.
- Legislación: conocimiento del marco legal aplicable a la IA, incluyendo el propio RIA.
Pero quizás, el desafío más importante de este nuevo paso, en el proceso de entrada en vigor gradual de la RIA, lo constituye la obligación de implantar las medidas para evitar las prácticas de IA prohibidas (Art 5 RIA), entendiendo por tales aquellas que suponen una amenaza para las personas ( manipulación cognitiva del comportamiento de personas o grupos vulnerables, scoring social en función de su comportamiento, status o características personales y sistemas de identificación o categorización biométrica).
Las medidas ha adoptar habrán de ir enfocadas a impedir la introducción en el mercado de este tipo de sistemas IA prohibidos, la puesta en servicio o su utilización.
A este respecto hemos de recordar que el régimen de sanciones para las empresas que infrinjan las prohibiciones establecidas en el RIA contempla multas de hasta el 7% del volumen de negocios mundial total de la empresa o 55 millones de euros lo que sea superior.
También es interesante destacar que la Agencia Española de Supervisión de Inteligencia Artificial (Aesia) podrá inspeccionar las prácticas prohibidas de IA a partir del 2 de febrero de 2025.
Con este nuevo escenario y a pesar de que la implementación del reglamento se encuentra en fase inicial, son muchas las empresas que están afrontando el desafío, adoptando diversas medidas, como:
- La generación de un inventario, en el que identificar los distintos sistemas o modelos IA que utilizan y evaluar su conformidad con el reglamento y el análisis de riesgo en su utilización.
- Implantación de programas de capacitación en IA para sus empleados y definición de mejores prácticas para el desarrollo y uso de IA
- Actualización de sus políticas y procedimientos internos para garantizar su adecuación al Reglamento.
- Colaboración y revisión de normativa con proveedores para garantizar que los sistemas IA que adquieren cumplen con los requisitos de RIA.
Sin lugar a duda, la implementación de este nuevo marco normativo es un proceso complejo y gradual que requerirá el acompañamiento de expertos que permitan a las compañías avanzar más rápidamente y con mayor seguridad en su cumplimiento.
