OBSERVATORIO.IA

Este estudio presenta SAERL, un marco de ingeniería de datos que utiliza autoencoders dispersos (SAE) para extraer información interna de los modelos y caracterizar la diversidad, dificultad y calidad de los datos. Este enfoque mejora significativamente el aprendizaje por refuerzo de LLMs, logrando un 3.00% más de precisión y requiriendo un 20% menos de pasos de entrenamiento, demostrando la utilidad práctica de las señales internas del modelo.

Este artículo argumenta que la seguridad de la IA exige la controlabilidad como un objetivo primordial, ya que la alineación por sí sola no garantiza que un agente pueda ser detenido o redirigido en entornos complejos. Los autores definen la controlabilidad como la capacidad de un sistema de IA para ser fiable, interrumpible y redirigible en tiempo real, proponiendo un marco arquitectónico centrado en el control para lograrlo.

Este estudio aborda la detección de razonamientos Chain-of-Thought (CoT) no fieles en LLMs, donde las trazas generadas no reflejan el proceso de decisión real del modelo, una limitación de los detectores actuales que solo usan señales externas. Los investigadores proponen CIE-Scorer, un marco que rastrea eficientemente circuitos a nivel de oración y mide la discrepancia entre grafos de razonamiento internos y externos para identificar la infidelidad con alta precisión.

Los autores presentan un marco de teoría de campos que modela las corrientes residuales de los Transformers como campos de profundidad-token, permitiendo organizar y predecir intervenciones de interpretabilidad mecanicista. Empíricamente, el estudio valida esta teoría en modelos tipo GPT-2, mostrando cómo predecir efectos de parcheo, medir su propagación y transferir comportamientos de respuesta mediante desplazamientos residuales inducidos por prompts.

Este estudio presenta SMEPO, una estrategia de enmascaramiento semántico para el aprendizaje por refuerzo guiado por expertos con recompensas verificables (RLVR). SMEPO evita que los modelos "hackeen" las recompensas al ocultar partes cruciales de las soluciones expertas, obligándolos a reconstruir la información faltante mientras siguen la estructura de resolución de problemas.

El paradigma actual de inteligencia artificial, basado en la optimización descendente, genera modos de fallo estructurales como la alucinación, la sicofancia y la fragilidad de alineación. Este estudio introduce RECLAIM, un marco teórico que propone cultivar la inteligencia mediante ecologías computacionales, marcando un giro OMEGA de la optimización a la emergencia autopoiética.

El marco POLARIS introduce un enfoque novedoso para la seguridad de la IA, generando sistemáticamente casos de prueba a partir de especificaciones de políticas en lenguaje natural. Transforma reglas de alto nivel en lógica de primer orden, construyendo un grafo semántico de políticas para descubrir patrones de violación complejos, lo que permite pruebas de seguridad reproducibles y con trazabilidad verificable.

Este estudio introduce la Zona de Asignación de Conceptos (CAZ) para rastrear cómo las ideas se forman gradualmente a lo largo de las capas de los modelos transformer, en lugar de aparecer en una única capa. La CAZ formaliza el intervalo de profundidad donde un concepto se vuelve mediblemente separable, revelando regiones sutiles de asignación que los métodos estándar a menudo pasan por alto.

Los modelos de texto a imagen (T2I) a menudo perpetúan sesgos sociales; HoloFair introduce un marco integral para analizar sesgos demográficos multidimensionales, utilizando un nuevo índice (MGBI) para evaluar la diversidad intrínseca y los sesgos condicionales. Además, presenta Fair-GRPO, un método de desesgo basado en aprendizaje por refuerzo que mejora significativamente la equidad multidimensional en modelos como SD3.5-Medium, manteniendo la calidad de imagen.