Enunciados performativos
Se produce cuando la inteligencia artificial articula un resultado que se percibe como un compromiso contractual, un acuerdo formal u otra acción de alto calado, excediendo el marco de intenciones preestablecidas por sus desarrolladores.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1263
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. Refuerzo de la Generación de Contenido (Prompt Engineering) Aplicar técnicas avanzadas de ingeniería de *prompts* y ajustar los parámetros del modelo para **restringir explícitamente** la capacidad de la IA de emitir enunciados performativos (p. ej., promesas, acuerdos contractuales o declaraciones de autoridad), asegurando que el sistema se limite a una función **constativa** o meramente informativa. 2. Filtrado y Neutralización Automatizada de Salidas Implementar un **mecanismo de revisión posterior a la generación (Automated Review and Integration)** que analice el texto del chatbot en búsqueda de *speech acts* con potencial performativo, utilizando métodos de **atenuación** o **mitigación** para reescribir o neutralizar las frases que impliquen un compromiso o acción de alto calado antes de su presentación al usuario. 3. Cualificación y Clarificación en la Interfaz de Usuario Integrar estrategias de **presentación en la interfaz** mediante la adición de **descargos de responsabilidad** prominentes y contextuales. Dichos avisos deben estipular claramente que las respuestas generadas no constituyen un contrato legal, un acuerdo formal o una acción vinculante en nombre de la entidad responsable del despliegue del sistema.