Ingeniería de prompts
Con la creciente expansión de la IA generativa, la habilidad de interactuar con estos sistemas de manera eficiente y efectiva se ha erigido como una de las alfabetizaciones mediáticas fundamentales de nuestro tiempo. Por ello, se vuelve imperativo que los usuarios dominen y apliquen los principios de la 'ingeniería de prompts', un proceso sistemático y metódico dedicado al diseño cuidadoso de las instrucciones que se le ofrecen a los modelos de IA para obtener resultados de alto valor. Sin embargo, dada la inherente ambigüedad del lenguaje humano, esta comunicación a través de prompts es propensa a fallos o malentendidos, lo que subraya la criticidad de la calidad del prompt. Un desafío adicional y crucial es la necesidad de depurar estas instrucciones y mejorar continuamente nuestra capacidad de diálogo efectivo con la inteligencia artificial (V. Liu & Chilton, 2022).
ENTIDAD
1 - Humano
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit513
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.4 > Falta de transparencia o interpretabilidad
Estrategia de mitigacion
1. Establecer un programa de alfabetización obligatorio en ingeniería de prompts para todos los usuarios de IA generativa. Este programa debe estandarizar la comunicación con el modelo, enfatizando la aplicación de metodologías estructuradas (ej., Rol, Tarea y Formato - RTF) y el suministro de contexto y especificaciones claras para mitigar la ambigüedad del lenguaje natural. 2. Integrar el uso de técnicas de *prompting* que exijan la trazabilidad del razonamiento del modelo, como el *Chain-of-Thought* (CoT) o el razonamiento paso a paso (*step-by-step reasoning*), en flujos de trabajo críticos. Esto permite depurar la secuencia lógica de la respuesta, identificar puntos de fallo y asegurar la coherencia del resultado. 3. Implementar un proceso de validación y refinamiento iterativo y continuo para los *prompts* clave. Este ciclo debe incluir la monitorización de la calidad del output, el registro de fallos o malentendidos recurrentes, y la actualización proactiva de las guías de *prompting* para alinearlas con las capacidades y limitaciones específicas del sistema de IA en operación.