Inteligencia artificial y revisión humana reforzarán la lucha contra el reclutamiento

La medida fue anunciada este viernes 28 de agosto por la ministra TIC, Alexandra Falla Zerrate, luego de una reunión con representantes de la Asociación Latinoamericana de Internet (ALAI) y otros actores del ecosistema digital. Durante el encuentro se analizaron acciones concretas para enfrentar la circulación de contenidos utilizados por estructuras delincuenciales para acercarse a menores de edad mediante redes sociales.

De acuerdo con el Ministerio, el nuevo grupo tendrá como una de sus principales funciones realizar seguimiento a los compromisos asumidos por las plataformas tecnológicas y verificar las acciones implementadas para prevenir, identificar y retirar publicaciones relacionadas con esta problemática.

La cartera también planteó la necesidad de fortalecer las herramientas tecnológicas disponibles para detectar este tipo de contenidos. En particular, se abordó el uso de inteligencia artificial como mecanismo para identificar y filtrar publicaciones que puedan estar vinculadas con procesos de captación o reclutamiento de menores.

Sin embargo, durante la reunión se destacó que las herramientas automatizadas deben estar acompañadas de procesos de revisión humana. La medida busca mejorar la capacidad de identificar publicaciones que puedan superar los filtros tecnológicos y que requieran una evaluación adicional.

En este sentido, la ministra Falla Zerrate señaló la importancia de que los actores del ecosistema digital cuenten con equipos capaces de comprender las diferentes formas de comunicación utilizadas en Colombia, tanto visuales como verbales y escritas. El objetivo es fortalecer la identificación de contenidos que puedan representar un riesgo para niños, niñas y adolescentes.

Otro de los puntos abordados estuvo relacionado con la efectividad de los mecanismos actuales de moderación. Según Raúl Echeverría, director ejecutivo de ALAI, las plataformas consiguen retirar actualmente más del 90 % de los contenidos identificados relacionados con esta problemática.

Frente a este resultado, el Ministerio TIC planteó como reto disminuir aún más el porcentaje de publicaciones que consiguen evadir los mecanismos de detección. La meta expuesta por la ministra es avanzar hacia el 100 % de neutralización de estos contenidos.

La estrategia también contempla una mayor articulación entre las entidades del Estado, las plataformas tecnológicas, los diferentes actores del ecosistema digital y las familias. Para el Ministerio TIC, la protección de los menores en los entornos digitales requiere acciones coordinadas que permitan responder de manera preventiva y oportuna.

La creación del grupo especializado se suma así a las medidas anunciadas por la cartera para fortalecer la vigilancia sobre las plataformas y hacer seguimiento a las acciones implementadas frente al reclutamiento de menores.

El Ministerio TIC indicó que la protección de niños, niñas y adolescentes constituye una prioridad y que las nuevas acciones estarán orientadas a mejorar la capacidad de prevención, detección y eliminación de contenidos asociados con esta problemática en internet.