Unión Europea avanza en regulación de la inteligencia artificial. Un acto legislativo con impacto global que afectará a usuarios, incluyendo en Colombia.

La Unión Europea ha marcado un precedente significativo en la regulación de la inteligencia artificial (IA) con la aprobación de su Ley de IA, un marco normativo que busca establecer un equilibrio entre la innovación tecnológica y la protección de los derechos ciudadanos. Aunque la ley entró en vigor el 1 de agosto de 2024, su aplicación plena y sus consecuencias se perfilan gradualmente, con la Oficina Europea de la IA preparándose para asumir sus funciones de supervisión a partir de agosto de 2026.

La oficina europea de la IA, garante de la transparencia y la responsabilidad

La Oficina Europea de la IA, una entidad clave en este nuevo ecosistema regulatorio, iniciará sus operaciones de supervisión con un enfoque primordial en el cumplimiento del artículo 50 de la Ley. Este artículo detalla las obligaciones de transparencia que recaen sobre los proveedores e implementadores de diversos sistemas de IA, estructurándose en siete puntos esenciales para garantizar la claridad y la rendición de cuentas en el uso de estas tecnologías.

Entre las disposiciones más destacadas, se establece que las personas que interactúen con sistemas de inteligencia artificial deben ser conscientes de ello, a menos que la naturaleza de la interacción sea evidentemente clara para un usuario razonablemente informado y perspicaz. Esta medida busca eliminar la ambigüedad y asegurar que los usuarios comprendan cuándo están interactuando con una máquina.

Adicionalmente, los proveedores de sistemas de IA que generen contenido tienen la obligación de marcar sus resultados de manera que sean “legibles por máquina y detectables como generados o manipulados artificialmente”. Esta exigencia es fundamental para combatir la desinformación y los contenidos engañosos, como los deepfakes.

En el ámbito de la privacidad y la ética, los equipos de IA diseñados para reconocer emociones o recopilar datos personales deben informar explícitamente al usuario sobre esta funcionalidad. Sin embargo, esta obligación no aplica para aquellos sistemas de IA cuyo uso esté permitido por la ley en el contexto de investigaciones de delitos penales, donde la seguridad pública prevalece.

Los implementadores de sistemas de IA que produzcan información falsa o engañosa también deberán revelar que el contenido ha sido generado o manipulado artificialmente. Esta medida refuerza el compromiso de la ley con la veracidad de la información y la integridad del discurso público.

Para facilitar la implementación de estas directrices, la Oficina de la IA promoverá la elaboración de códigos de práctica. Estos códigos tienen como objetivo estandarizar la identificación de contenido producido por inteligencia artificial desde la primera interacción, simplificando el proceso tanto para los desarrolladores como para los usuarios.

En esencia, estas normativas buscan empoderar a los ciudadanos, permitiéndoles discernir qué tipo de contenido están consumiendo y cómo la IA puede influir en su creación. Los creadores de videos, audios o imágenes generados con IA deberán indicar claramente el uso de estas herramientas en sus producciones. La Comisión Europea será la encargada de monitorear el cumplimiento de estas disposiciones, con la facultad de sancionar a los desarrolladores de sistemas de IA y a las empresas productoras de contenido que infrinjan la ley. Es importante señalar que esta legislación no aplica a personas naturales que utilicen herramientas de IA con fines de entretenimiento personal.

Plazos, adhesiones y el combate a las amenazas digitales

La ley ha concedido una prórroga de cuatro meses para el contenido generado por sistemas preexistentes, otorgando a las empresas de IA y a aquellas que se benefician de estas tecnologías un plazo para adaptar sus contenidos y métodos de producción a la nueva normativa. Este período de gracia busca una transición ordenada y menos disruptiva para la industria.

En respuesta a este marco regulatorio, aproximadamente 200 empresas ya se han adherido al código de buenas prácticas establecido por la Ley Europea. Esta adhesión refleja el reconocimiento de la necesidad de una “soberanía tecnológica” y la urgencia de combatir fenómenos como los deepfakes, las imágenes ilegales y los ciberataques, tal como argumentó la Unión Europea al promulgar la ley.

En este contexto, la Oficina de la IA ha recibido la potestad de investigar actuaciones empresariales relacionadas con la inteligencia artificial. Esto incluye la capacidad de solicitar información, exigir la trazabilidad de los sistemas o requerir acceso a los modelos de IA, todo ello con el fin de resolver casos en los que se considere que se vulnera la ley aprobada.

Clasificación de riesgos y régimen sancionatorio

La Ley de IA clasifica los sistemas de inteligencia artificial en cuatro categorías de riesgo, cada una con un nivel diferente de supervisión y exigencias:

• Riesgo inaceptable: Esta categoría abarca prácticas consideradas peligrosas o contrarias a los valores fundamentales de la UE, como la manipulación psicológica, la puntuación social por parte de gobiernos y el reconocimiento facial en tiempo real en espacios públicos. Estos sistemas están prohibidos.

• Alto riesgo: Los sistemas clasificados en esta categoría, como los utilizados en infraestructuras críticas, educación, empleo o aplicación de la ley, están sujetos a una revisión estricta. Deben pasar por evaluaciones rigurosas de calidad y seguridad antes de ser introducidos en el mercado.

• Riesgo limitado: Para estos sistemas, se imponen obligaciones de transparencia, lo que implica que los usuarios deben ser conscientes de que están interactuando con una IA.

• Riesgo mínimo o nulo: Esta categoría incluye sistemas de bajo impacto, como filtros de correo no deseado o videojuegos con IA, que están exentos de la mayoría de las restricciones, aunque se promueven códigos de conducta voluntarios.

Estas restricciones también se aplicarán a las empresas que, aunque no estén radicadas en la UE, puedan afectar a consumidores dentro del mercado europeo, garantizando así un alcance global de la protección.

El régimen sancionatorio de la ley es robusto. Las infracciones graves pueden acarrear multas de hasta 35 millones de euros o el 7% de la facturación global anual de la empresa infractora, lo que sea mayor. En el caso de la difusión de información falsa a los reguladores, la sanción puede ascender hasta los 7,5 millones de euros o el 1,5% de la facturación global.

Cada país miembro de la Unión Europea deberá establecer una agencia especializada para supervisar a las empresas locales y gestionar las denuncias. Además, los estados integrantes de la UE tendrán la obligación de crear entornos de prueba seguros, conocidos como “sandboxes regulatorios”, para que las empresas puedan evaluar sus productos de IA y corregir posibles errores antes de su lanzamiento al mercado.

Se prevé que para finales de 2027, la Ley de IA de la Unión Europea esté plenamente implementada y operativa en todo su vigor, consolidando a la región como pionera en la regulación ética y responsable de la inteligencia artificial.