Volver al repositorio MIT
5. Interacción Humano-Computadora2 - Post-despliegue

Autolesión

El concepto que usted ha seleccionado, "Una persona que daña intencionalmente su propio cuerpo como resultado directo o indirecto del uso de un sistema tecnológico", se define en el ámbito de la seguridad tecnológica como un *Riesgo de Autolesión Mediada por Sistemas (o Self-Harm Risk)*. Este concepto complejo puede refinarse para un público adulto inteligente de la siguiente manera: En el contexto de la seguridad de la inteligencia artificial y la tecnología, esto identifica un riesgo psicosocial crítico: **el punto en el cual la interacción con una interfaz tecnológica —como un sistema de redes sociales, una aplicación terapéutica, o incluso una herramienta de búsqueda— desencadena o facilita el comportamiento de autolesión en el usuario.** No se trata solo de un fallo técnico, sino de una consecuencia directa de la dinámica, el diseño, la moderación de contenido o los efectos algorítmicos (como la exposición a contenido que normaliza o incita la autolesión) de un sistema. Su mitigación exige un enfoque de *seguridad desde el diseño* que incorpore la alineación con los valores humanos y la implementación de mecanismos robustos para la detección y la respuesta ética ante contenido perjudicial.

Fuente: MIT AI Risk Repositorymit1240

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

2 - Post-despliegue

ID del riesgo

mit1240

Linea de dominio

5. Interacción Humano-Computadora

92 riesgos mapeados

5.1 > Dependencia excesiva y uso inseguro

Estrategia de mitigacion

1. Implementación de un enfoque de Seguridad desde el Diseño (*Safety by Design*) que incorpore mecanismos de detección algorítmica y filtrado de contenido proactivos, entrenando el modelo con sesgos de seguridad para prevenir la generación o amplificación de contenido que incite, normalice o facilite la autolesión. 2. Establecimiento de protocolos de respuesta ética en tiempo real mediante la monitorización de entradas y salidas, asegurando que ante la detección de indicios de autolesión, el sistema redirija inmediatamente al usuario a recursos profesionales de apoyo y líneas de crisis, conforme a la normativa de salud mental aplicable. 3. Ejecución de un proceso de vigilancia continua (*Maintenance Stage*) que incluya auditorías de seguridad periódicas (*Red Teaming*), monitoreo de patrones de uso emergentes y actualización constante de los sistemas de detección para asegurar la alineación sostenida del modelo con los valores humanos y los estándares de seguridad.