La Comisión Europea ha anunciado la implementación del Acto de Inteligencia Artificial (IA) de la Unión Europea, una legislación pionera diseñada para regular el desarrollo y uso de sistemas de esta tecnología en esta región.
Esta normativa es la primera de su tipo a nivel mundial y establece un marco legal integral para garantizar que la IA se utilice de manera segura y ética, protegiendo los derechos fundamentales de los ciudadanos europeos.
El Acto de IA clasifica los sistemas según su nivel de riesgo, abarcando desde riesgos inaceptables, que ahora se consideran prohibidos, hasta sistemas de riesgo limitado, que están sujetos a obligaciones de transparencia. Los sistemas de riesgo mínimo en su mayoría no están regulados, entre las que se encuentran la mayor parte de las aplicaciones del mercado como lo son videojuegos y filtros de spam.
La mayoría de las obligaciones recaen en los proveedores de sistemas de IA de alto riesgo, los cuales deben asegurar, entre otros requisitos, la gestión del peligro que implicado a lo largo del ciclo de vida del sistema de IA, la gobernanza de datos y el diseño de sistemas que permitan una supervisión humana de forma efectiva.
Los sistemas de IA prohibidos incluyen aquellos que emplean técnicas manipuladoras, subliminales, que exploten vulnerabilidades relacionadas con la edad o circunstancias socioeconómicas, formas de categorización biométrica, puntaje social, de deducción de emociones en centros educativos y de trabajo y sistemas de reconocimiento facial en tiempo real en espacios públicos.
El GPAI pide que todos los proveedores de modelos GPAI proporcionen documentación técnica y respeten la Directiva de Derechos de Autor, entre otras obligaciones.
Los modelos GPAI que presenten un riesgo sistémico deben realizar evaluaciones de modelos, pruebas adversarias y garantizar protecciones de ciberseguridad adecuadas.
La gobernanza del Acto de IA se centralizará en la Oficina de IA que se establecerá dentro de la Comisión Europea para supervisar la implementación efectiva y el cumplimiento por parte de los proveedores de modelos GPAI.
Este Acto de IA representa un paso significativo hacia el establecimiento de un equilibrio entre fomentar la innovación en el campo de la IA y asegurar que su desarrollo y uso se realicen de manera responsable, con un enfoque firme en los derechos humanos y la seguridad.
También te puede interesar Arabia Saudita invierte 40 billones de dólares en inteligencia artificial; la inversión más grande de la historia.
