El pasado 10 de diciembre de 2024, el Senado Federal de Brasil aprobó un nuevo marco legal para regular la Inteligencia Artificial (Proyecto de Ley Nº 2338/23). Con la aprobación del Senado, el texto ahora procederá a la deliberación en la Cámara de Diputados y, si es aprobado, será enviado para la sanción presidencial.
La legislación propuesta fue elaborada por la Comisión Temporal Interna sobre Inteligencia Artificial (CTIA), que consolidó un texto enfocado en equilibrar la protección de los derechos de las personas afectadas por los sistemas de IA y las obligaciones regulatorias aplicables a los agentes de inteligencia artificial. Estos agentes incluyen desarrolladores, distribuidores e implementadores, cada uno con responsabilidades específicas.
Para mayor claridad, los implementadores de IA son entidades o individuos que aplican sistemas de inteligencia artificial en sus operaciones, integrándolos en sus procesos o servicios. Los desarrolladores de IA son responsables de la creación, diseño y mantenimiento de los sistemas de IA. Por último, los distribuidores son aquellos que comercializan o median en la venta y suministro de sistemas de IA desarrollados.
El marco legal adopta un enfoque basado en riesgos, clasificando los sistemas de IA en categorías como riesgo excesivo, cuyo uso está prohibido en ciertos casos, y alto riesgo, que requiere evaluaciones de impacto algorítmico (Artículos 13-28). Las principales obligaciones y responsabilidades para implementadores, distribuidores y desarrolladores de IA incluyen las siguientes:
(i) Para implementadores: Mantener documentación sobre precisión y seguridad; mitigar sesgos discriminatorios; garantizar una supervisión humana adecuada; transparencia en las operaciones y resultados del sistema; y realizar evaluaciones de impacto en todas las etapas del ciclo de vida de la IA.
(ii) Para desarrolladores: Registrar medidas de gobernanza; realizar pruebas para garantizar niveles de seguridad; mitigar sesgos discriminatorios; proporcionar información a los implementadores; y promover la responsabilidad social y la sostenibilidad.
(iii) Para distribuidores: Garantizar el cumplimiento normativo de los sistemas comercializados; proporcionar información clara sobre funcionalidad y riesgos asociados; facilitar la comunicación entre desarrolladores e implementadores cuando sea necesario; y garantizar que los sistemas distribuidos estén debidamente registrados y certificados, cuando corresponda.
Los sistemas de IA de propósito general y generativos tienen obligaciones adicionales destinadas a prevenir riesgos específicos.
La propuesta establece el Sistema Nacional de Regulación y Gobernanza de la Inteligencia Artificial (SIA), coordinado por la Autoridad Nacional de Protección de Datos (ANPD), con el apoyo del Consejo Permanente para la Cooperación Regulatoria en Inteligencia Artificial (CRIA) y el Comité de Expertos y Científicos en Inteligencia Artificial (CECIA). También se prevén sanciones similares a las de la Ley General de Protección de Datos (LGPD), incluyendo multas de hasta 50.000.000 BRL (cincuenta millones de reales) por infracción.
De este modo, el texto busca regular temas controvertidos como la integridad informativa y los derechos de autor. En cuanto a los derechos de autor, establece que los titulares de derechos pueden prohibir el uso de su contenido o exigir una remuneración cuando se utilice para el desarrollo de IA.
Por lo tanto, el Marco Legal representa un avance regulatorio significativo, situando a Brasil a la vanguardia en la regulación de la inteligencia artificial. Sin embargo, también plantea desafíos para que empresas y desarrolladores ajusten sus prácticas para cumplir con los nuevos requisitos.
Para apoyar a los agentes en asuntos relacionados con esta novedad legislativa, ClarkeModet Brasil cuenta con profesionales especializados que pueden ofrecer soluciones personalizadas, prevenir riesgos y garantizar el cumplimiento normativo. Estamos preparados para asistir a nuestros clientes en la adaptación a este nuevo panorama legal.
