Mal Uso
El uso indebido de la Inteligencia Artificial generativa se define como cualquier aplicación deliberada que pueda desencadenar consecuencias perjudiciales, antiéticas o inapropiadas, siendo el sector educativo un campo de especial vulnerabilidad. Herramientas como ChatGPT plantean un desafío directo a la integridad académica al actuar como un sofisticado mecanismo de plagio, generando contenido de alta calidad a partir de vastos conjuntos de datos, lo que dificulta la evaluación de la originalidad del trabajo estudiantil. Además del riesgo de la desmotivación del alumnado, que puede eludir el esfuerzo en las tareas, el texto producido por la IA es considerado inadmisible. Si bien la implementación de detectores de contenido (como Turnitin) y la supervisión estricta de exámenes son medidas propuestas para mitigar estos riesgos, el principal desafío reside en la ambigüedad inherente a la hora de trazar la línea divisoria entre lo que constituye un uso apropiado y uno inapropiado de estas tecnologías.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit505
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Establecer políticas institucionales explícitas y detalladas que demarquen claramente el uso ético permitido de la IA generativa en el ámbito académico, clasificando el uso no autorizado o engañoso como falta grave contra la integridad académica y comunicando las consecuencias de manera inequívoca. 2. Reformular el diseño de las evaluaciones y tareas para incorporar modalidades resistentes al mal uso de la IA, tales como formatos abiertos, la documentación obligatoria del proceso de trabajo o el enfoque en el razonamiento crítico y la aplicación de conocimientos específicos y personalizados del curso. 3. Desplegar un enfoque dual que combine la implementación de sistemas de detección de contenido generado por IA con la capacitación continua en alfabetización en IA para el alumnado, promoviendo el uso transparente y la comprensión de las limitaciones de estas herramientas como apoyo a la productividad, no como sustituto de la autoría.