Laboratorios privados
Anthropic, Google DeepMind y OpenAI están escalando seguridad empírica, evals e ingeniería de alineamiento.
Inteligencia de carreras en seguridad de IA 2025-2026
Trayectorias y recursos de carrera en seguridad de IA
Explora trayectorias de alto impacto en seguridad técnica, gobernanza y estrategia.
Fuerza laboral de seguridad IA (2025)
1,100+ FTEs
Crecimiento de ~400 FTEs en 2022 a >1,100 en 2025.
División técnica vs no técnica
600 / 500 FTEs
La seguridad técnica sigue infraescalada frente a equipos de capacidades.
Compensación senior en laboratorios privados
$500k-$1M+
Los roles top pueden superar este rango cuando incluyen equity.
Techo técnico en el gobierno de EE. UU.
$197,200
El sector público ajustó bandas para competir por talento experto.
Sector público
Los AI Safety Institutes de EE. UU. y Reino Unido formalizan estándares de prueba, auditorías de modelos y capacidad regulatoria.
Sociedad civil
Think tanks y organizaciones sin fines de lucro impulsan estrategia, análisis de política pública, field-building y pipelines de talento.
Cuatro dominios profesionales
Vista interactivaPor qué importa este dominio
El campo pasó de la especulación filosófica a la ingeniería empírica: interpretabilidad, robustez y evals guían decisiones de despliegue.
Mapa de roles
- Investigador/a en interpretabilidad mecanicista (descubrimiento de circuitos, mapeo de features, pruebas de universalidad).
- Investigador/a de alineamiento y robustez (RLHF, Constitutional AI, supervisión escalable, entrenamiento adversarial).
- Ingeniero/a de evaluaciones de modelos (red-teaming, benchmarks de capacidades peligrosas, modelado de amenazas).
Competencias clave
- Fluidez en Python + PyTorch/JAX.
- Dominio de internals de Transformer (atención, residual streams, layer norms).
- Base matemática: álgebra lineal, cálculo y probabilidad.
- Prueba de trabajo mediante replicaciones, tooling de evals o experimentos publicados.
Rutas de entrada
- MATS (mentoría de 12 semanas; alta selectividad).
- ARENA (intensivo de 4-5 semanas, con currículo abierto).
- ML4Good y PIBBSS para entrada fundacional e interdisciplinaria.
- Ruta independiente: Zero-to-Hero -> módulos de ARENA -> capstone en Alignment Forum/LessWrong.
Matriz comparativa de dominios
| Dominio | |||||
|---|---|---|---|---|---|
Seguridad técnica de IA | 95 | 88 | 70 | 94 | 60 |
Intersecciones especializadas (Bio, Ciber, Legal) | 90 | 82 | 76 | 84 | 86 |
Gobernanza y política de IA | 88 | 68 | 62 | 72 | 96 |
Estrategia, operaciones y field-building | 78 | 52 | 55 | 66 | 74 |
Puntuaciones relativas (0-100) construidas con una rúbrica ponderada por evidencia. Usa tooltips para inspeccionar supuestos y base de fuentes.
Panorama de compensación
Filtra por sector y geografía para comparar rangos mínimos, medianos y máximos.
MedianaRango min-max
Labs de industria - Research Engineer junior
$200,000 - $300,000
Mediana: $250,000
Labs de industria - Research Scientist senior
$500,000 - $1,000,000
Mediana: $750,000
Think tank - Investigador/a junior
$70,000 - $100,000
Mediana: $85,000
Think tank - Senior Fellow / Manager
$120,000 - $180,000
Mediana: $150,000
Seguridad de IA - Roles especialistas
$125,000 - $320,000
Mediana: $180,000
Hubs geográficos
San Francisco Bay Area
Mayor densidad de labs frontier y talento técnico de seguridad.
London
Alta concentración técnica + gobernanza (DeepMind, GovAI, UK AISI).
Washington, D.C.
Centro de política y regulación en EE. UU. para carreras federales de gobernanza de IA.
Beijing
Ecosistema creciente de seguridad/gobernanza en torno a BAAI e instituciones relacionadas.
Programas y fellowships
MATS
Investigación técnica con mentoría
Programa de 12 semanas; admisión competitiva (~4-7%) y mentoría cercana.
ARENA
Upskilling técnico
Intensivo de 4-5 semanas con track práctico de RL/Transformer/evals y currículo abierto.
Horizon Fellowship
Inserción federal en EE. UU.
Rutas en IA y bioseguridad hacia poder ejecutivo, Congreso e instituciones de política pública.
TechCongress
Asesoría legislativa
Inserta tecnólogos/as directamente en oficinas del Congreso de EE. UU.
GovAI Fellowships
Tracks de investigación / política / operaciones
Ecosistema Oxford/London con rutas estructuradas de fellow.
AAAS Fellowships
Entrada a ciencia y política
Gran motor de inserción para talento de nivel PhD en el gobierno de EE. UU.
Plan de acción inmediato
1Leer guías base
Empieza con materiales de 80,000 Hours y rutas introductorias tipo CAIS.
2Expandir red profesional
Participa en comunidades de AI Alignment / EA y en debate técnico público.
3Elegir una ruta de upskilling
BlueDot para gobernanza o rutas tipo ARENA/MATS para profundidad técnica.
4Publicar una prueba de trabajo
Publica evals, replicaciones o memos aplicados de gobernanza vinculados a riesgo real de modelo.
Cambio de teoría al empirismo
El trabajo de alineamiento ahora depende de experimentos medibles e infraestructura de evaluaciones.
Las intersecciones están en expansión
Bioseguridad, ciberseguridad e ingeniería legal ahora requieren perfiles profesionales híbridos.
Las operaciones son palanca
Los resultados de investigación dependen de la capacidad de gestión, las operaciones de financiación y la infraestructura comunitaria.
Explorador de fuentes
Haz clic en cualquier cita de la página o usa el índice para ver detalles.