La Inteligencia Artificial en la Ciencia: Entre Robots que Detectan Fraudes y la Crisis de la Publicación Científica

Una batalla entre inteligencias artificiales dentro del mundo científico ha revelado una crisis profunda y hasta ahora poco visible: la producción masiva de artículos científicos fraudulentos o de escasa calidad, conocidos como 'papers basura'.

En octubre de 2025, un modelo de lenguaje avanzado, bautizado como BERT, analizó 2,6 millones de papers sobre cáncer publicados en las últimas dos décadas y concluyó que 261.245 (el 10%) correspondían a creaciones de 'paper mills', factorías que producen artículos fraudulentos para inflar currículos y obtener beneficios económicos.

Este fenómeno, que ha crecido desde un 1% a inicios del siglo XXI hasta un pico del 17% en 2022, ha puesto en jaque la confiabilidad de la literatura científica en oncología. La inteligencia artificial, que en otros ámbitos se presenta como una herramienta de avance, aquí se torna en un arma de doble filo: "Un robot persiguiendo a otro robot en un conflicto que puede afectar la salud humana", como lo describen expertos de la Universidad de Tecnología de Queensland, Australia, donde se desarrolló BERT.

Diferentes perspectivas emergen en este escenario:

- Desde la comunidad científica tradicional, se observa con alarma cómo la integridad de la investigación se ve amenazada. "Esto erosiona la confianza en la ciencia y puede poner en riesgo tratamientos y políticas basadas en evidencia," advierten investigadores dedicados a la oncología.

- Por otro lado, algunos sectores tecnológicos celebran el avance que representa el desarrollo de sistemas capaces de detectar estos fraudes a gran escala, apuntando a que esta vigilancia automatizada es un paso necesario para limpiar el sistema.

- Sin embargo, voces críticas alertan que la dependencia creciente de la inteligencia artificial para la producción y revisión científica puede generar una nueva forma de oligopolio tecnológico en el conocimiento, donde las máquinas no solo producen sino también deciden qué es válido, desplazando el juicio humano.

En noviembre de 2025, se llevó a cabo la primera conferencia mundial donde todos los papers y revisiones por pares fueron generados y evaluados por inteligencias artificiales, un experimento organizado por la Universidad de Stanford llamado Agents4Science 2025. Este evento marca un hito y también un punto de inflexión en la forma en que se produce y valida el conocimiento científico.

Las consecuencias visibles y a mediano plazo son múltiples:

- La comunidad médica y los pacientes podrían enfrentar riesgos si basan sus decisiones en literatura contaminada por fraudes o errores sistemáticos.

- La ética científica se ve desafiada, pues la producción acelerada y automatizada puede priorizar cantidad sobre calidad, afectando la reputación de instituciones y países.

- La necesidad de desarrollar protocolos robustos que integren la supervisión humana con herramientas automatizadas se vuelve urgente para garantizar la fiabilidad.

En definitiva, esta historia muestra un coliseo donde humanos y máquinas se enfrentan en una arena compleja, con la salud y el conocimiento en juego. La inteligencia artificial, lejos de ser solo una aliada, se presenta como un actor con múltiples facetas: creadora, jueza y potencial amenaza. La invitación es a observar con distancia y reflexión este fenómeno, entendiendo que la solución no es simple ni unívoca, y que la vigilancia ética y crítica debe ser constante para preservar la integridad de la ciencia y sus beneficios para la sociedad.

Fuentes:

- EL PAÍS, "‘Terminator’ se hace bibliotecario: La revolución de la inteligencia artificial en la ciencia", 18 de octubre de 2025.

- Universidad de Tecnología de Queensland, Australia.

- Universidad de Stanford, Agents4Science 2025.