Daño Físico

Estrategia de mitigacion

1. Prioridad Alta: Implementación de clasificadores de seguridad y mecanismos de rechazo de contenido (refusal) con alta precisión para detectar y bloquear la generación de respuestas que promuevan autolesiones, suicidio, daño físico a terceros, o que contengan desinformación médica potencialmente peligrosa o inapropiada. En situaciones de crisis, el sistema debe redirigir la respuesta hacia recursos de ayuda profesional certificados. 2. Prioridad Media: Establecimiento de un programa de 'Red Teaming' y supervisión humana continua (Human-in-the-Loop) en las etapas de desarrollo y post-despliegue. Este proceso tiene como objetivo identificar de manera proactiva las vulnerabilidades del modelo que podrían eludir los filtros automáticos y validar las medidas de mitigación para garantizar el cumplimiento de los estándares de seguridad física y sanitaria. 3. Prioridad Baja (Mantenimiento): Implementación de un sistema robusto de monitoreo y telemetría en producción para rastrear patrones de riesgo emergentes y desviaciones en el comportamiento del modelo. Los hallazgos de este seguimiento deben alimentar ciclos de reentrenamiento rápidos y transparentes para mantener la eficacia de los modelos de seguridad y asegurar la adhesión continua a los marcos de gestión de riesgos éticos y normativos (por ejemplo, NIST AI RMF).