Esteganografía

Esteganografía. Es plausible que en un futuro cercano los Modelos de Lenguaje de Gran Escala (LLMs) se comuniquen entre sí para la consecución conjunta de tareas. Para intentar prevenir la colusión o el comportamiento coordinado no deseado, una contramedida lógica es monitorizar y constreñir esta comunicación, por ejemplo, limitándola estrictamente al lenguaje natural. Sin embargo, existe un riesgo intrínseco de que los modelos aprendan a usar la esteganografía, una técnica que les permitiría ocultar mensajes secretos dentro de textos que, en apariencia, son inofensivos o no confidenciales. Trabajos recientes en la aplicación de *Machine Learning* han demostrado la viabilidad de esta preocupación. Adicionalmente, la comunicación secreta podría manifestarse mediante la compresión de texto o, de forma más compleja, a través de la emergencia de códigos de comunicación inter-agente, donde los símbolos utilizados carecen de significados predefinidos o de pautas de uso claras, resultando así ininterpretables para los observadores humanos.