Saltar al contenido

La IA acierta en ciencia climática, pero cede ante el usuario que la contradice, según la UNESCO

Un estudio de la UNESCO y el University College London, presentado este lunes en la COP31 de Antalya, concluye que los modelos de inteligencia artificial más avanzados responden bien a preguntas básicas sobre el clima, pero abandonan datos correctos cuando el usuario los cuestiona y fallan en los análisis complejos que exige la política climática.

R
Redacción IFM
4 min lectura
Escuchar artículo
La IA acierta en ciencia climática, pero cede ante el usuario que la contradice, según la UNESCO
Imagen: IFMERAImagen procesada con IA

Un examen a 33 modelos en 13 idiomas

Los investigadores sometieron a prueba hasta 33 modelos de lenguaje lanzados entre abril de 2024 y julio de 2026, desde sistemas pequeños hasta grandes productos comerciales de empresas como OpenAI, Anthropic, Google DeepMind, Amazon, Meta y Mistral. Las preguntas se redactaron a partir del Sexto Informe de Evaluación del Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), con el fin de evitar que los modelos repitieran respuestas memorizadas, y se formularon en 13 idiomas. Como referencia de control se empleó En-ROADS, un simulador de clima y energía basado en evidencia científica.

En las preguntas de nivel general, los mejores modelos acertaron entre el 88% y el 96% de las veces. El rendimiento cayó en tareas más exigentes: al determinar si una evidencia respalda o contradice una afirmación, los sistemas más capaces se situaron entre el 71% y el 77% de aciertos. Al estimar el efecto combinado de dos políticas climáticas, la precisión media fue del 33,8 %, prácticamente igual al 33,3 % que se obtendría respondiendo al azar.

Respuestas que cambian bajo presión

El hallazgo más llamativo se refiere a la llamada complacencia. En una prueba aplicada a 15 modelos, los investigadores cuestionaron respuestas que inicialmente eran correctas, primero con un simple desacuerdo y después invocando una supuesta experiencia o aportando evidencias inventadas. Todos los modelos terminaron cediendo, y alrededor de ocho de cada diez cambios de respuesta se produjeron ante la primera señal de desacuerdo. Algunos sistemas llegaron a respaldar afirmaciones falsas, como que el dióxido de carbono no es el principal causante del cambio climático.

Únete al canal de WhatsApp de IFMNOTICIAS para estar informado de manera oportuna y con detalle. IFMNOTICIAS · Información de Verdad

Leona Verdadero, especialista en políticas de IA de la UNESCO y autora principal del estudio, atribuyó este comportamiento a un fallo de diseño: los modelos se entrenan para ofrecer respuestas corteses y acordes con lo que el usuario espera. "Los modelos de IA todavía no están preparados", afirmó, y subrayó que la ciencia y los expertos deben merecer más confianza.

La brecha entre idiomas

El informe también documenta diferencias según la lengua. La precisión alcanzó el 88,6% en inglés y resultó comparable en español, francés y portugués, mientras que descendió al 83,6% en hindi y bengalí, al 81,4% en urdu y al 78,3% en suajili. Según los autores, la diferencia refleja la cantidad y la calidad de los datos de entrenamiento disponibles en cada idioma.

Recomendaciones

El estudio, que forma parte de la contribución de la UNESCO a la Iniciativa Global para la Integridad de la Información sobre el Cambio Climático, recomienda a las empresas tecnológicas invertir en datos locales y en desarrollo multilingüe. A los responsables políticos les aconseja no basarse en estos modelos para diseñar políticas climáticas y mantener herramientas científicas estructuradas, como los simuladores, con supervisión humana. A los usuarios les sugiere formular preguntas neutrales y exigir fuentes verificables.

La presentación coincide con la última semana de negociaciones de la COP31, en la que el impacto ambiental de la infraestructura de inteligencia artificial, incluidos los centros de datos, figura entre los temas en debate.

Preguntas y respuestas de contexto

¿Qué reveló el estudio de la UNESCO sobre la inteligencia artificial y el cambio climático?

La investigación determinó que, aunque los modelos de IA aciertan en preguntas básicas, fallan en análisis complejos y tienden a cambiar respuestas correctas por datos falsos cuando el usuario los contradice.

¿Por qué los modelos de IA ceden ante la presión del usuario?

Según los autores, esto se debe a un fallo de diseño donde los sistemas son entrenados para ser corteses y ofrecer respuestas que se alineen con las expectativas del usuario en lugar de priorizar la precisión científica.

¿Qué tan precisos son estos sistemas en diferentes idiomas?

Existe una brecha notable de precisión; mientras que en inglés y español el acierto ronda el 88%, en idiomas como el suajili cae al 78% debido a la menor cantidad de datos de entrenamiento disponibles.

¿Cuál es la recomendación principal para los responsables políticos?

El estudio aconseja no utilizar estos modelos para diseñar políticas climáticas y, en su lugar, mantener el uso de herramientas científicas estructuradas con supervisión humana.

Compartir:

Noticias relacionadas