Educación - Aprendizaje
A diferencia del *machine learning* tradicional, el impacto de la IA generativa en el sector educativo está recibiendo una atención considerable en la literatura académica. Se identifican dos vertientes principales: la primera aborda los desafíos, como la dificultad de distinguir el contenido generado por el estudiante del creado por la IA, lo que se traduce en nuevas oportunidades para el fraude en exámenes. La segunda enfatiza los beneficios potenciales, destacando la capacidad de la IA generativa para optimizar los métodos de enseñanza y aprendizaje, particularmente en relación con los enfoques de aprendizaje personalizado. Sin embargo, también se sugiere el riesgo de que esta tecnología conduzca a una reducción del esfuerzo o una pasividad en los alumnos. Por ello, una prioridad central en la investigación es la promoción de la alfabetización y la educación sobre los propios sistemas de IA, lo que incluye la enseñanza de técnicas como la ingeniería de *prompts*.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit77
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Establecimiento de Marcos Normativos y de Gobernanza: Desarrollar e implementar políticas institucionales claras y exhaustivas sobre la integración, el uso ético y la evaluación del contenido generado por IA en todos los niveles educativos, asegurando la alineación con la normativa legal vigente y la transparencia algorítmica. 2. Promoción de la Alfabetización en IA y el Pensamiento Crítico: Integrar la enseñanza de la ingeniería de *prompts* y la alfabetización digital avanzada para que los estudiantes utilicen la IA como herramienta de apoyo, no de sustitución, priorizando el desarrollo de habilidades de análisis, pensamiento crítico y discernimiento de información. 3. Implementación de Salvaguardas Éticas y de Privacidad: Adoptar medidas de protección de datos robustas, como la anonimización y la auditoría periódica, para mitigar el riesgo de divulgación de información privada y garantizar la equidad y la minimización de sesgos en los sistemas de evaluación asistida por IA.