Escritura - Investigación
Este grupo temático, que se conecta con los impactos de la inteligencia artificial generativa en la educación, se enfoca principalmente en los efectos adversos de los Modelos de Lenguaje Grandes (LLMs) sobre dos ejes cruciales: la habilidad de escritura individual y la composición de manuscritos de investigación. Respecto al primer eje, la preocupación radica en la potencial "homogeneización" de los estilos de escritura, lo que podría conducir a una peligrosa "erosión del capital semántico" y al sofocamiento de la expresión individual genuina. En el ámbito científico, el segundo eje, el foco está en la prohibición de utilizar modelos generativos para componer artículos, generar figuras o ser acreditados como coautores. La inquietud se centra en el riesgo de menoscabar la integridad académica y la perspectiva de "contaminar" la literatura científica con una inundación de manuscritos de baja calidad generados por LLM. Como respuesta a esta problemática, existe un llamado sistemático y urgente para desarrollar detectores capaces de identificar y distinguir los textos de origen sintético.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit84
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
- Establecer políticas editoriales y académicas estrictas que exijan la declaración obligatoria y detallada del uso de Modelos de Lenguaje Grandes (LLMs) en todas las etapas de la composición de manuscritos, con la prohibición expresa de acreditar a la IA como autora o coautora, conforme a los lineamientos de ética en la publicación. - Implementar un sistema dual de detección que combine herramientas de verificación de plagio tradicionales con detectores especializados de contenido generado por IA, e instaurar protocolos rigurosos para la validación de la coherencia de la información, el análisis crítico y la verificación de las fuentes citadas para mitigar el riesgo de "alucinaciones" y la contaminación de la literatura científica. - Desarrollar e integrar programas de capacitación en integridad académica y alfabetización de IA para autores e investigadores, promoviendo el uso ético y responsable de los LLMs como herramientas de apoyo (ej. para generación de ideas o corrección gramatical), con énfasis en la revisión crítica y la conservación del estilo y la voz de escritura individual para contrarrestar la potencial homogeneización del contenido.