Ofensividad

Estrategia de mitigacion

1. **Implementación de Guardarraíles de IA y Filtrado de Contenido en Tiempo Real (Input/Output Guardrails)** Establecer clasificadores de toxicidad para el análisis y monitoreo continuo del *prompt* de entrada y la respuesta generada por el LLM. Esta estrategia prioritaria busca la detección y el bloqueo, o censura, proactiva de lenguaje dañino (incluyendo discurso de odio, abuso y profanidad) antes de que el modelo lo procese o lo emita al usuario, minimizando la exposición a contenido tóxico. 2. **Limpieza y Curación Exhaustiva de los Datos de Entrenamiento (Data Cleansing and Curation)** Ejecutar un escaneo riguroso y sistemático de los *corpus* de capacitación para identificar y mitigar la toxicidad, los sesgos y el lenguaje ofensivo inherentes en los datos. Al proteger la cadena de suministro de datos y verificar la legitimidad de las fuentes, se reduce significativamente la probabilidad de que el modelo aprenda o amplifique comportamientos o lenguaje perjudicial. 3. **Aplicación de Técnicas de Alineamiento (RLHF y Seguridad por Instrucciones)** Utilizar el Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (RLHF) y la Seguridad mediante el Seguimiento de Instrucciones (*Instruction Following*) para adaptar el comportamiento del LLM. Esto permite que el modelo internalice restricciones de seguridad explícitas y desarrolle la capacidad de autocorregirse moralmente, equilibrando la utilidad con el cumplimiento de políticas éticas y de seguridad.