27 paginas canonicas de riesgo
Sociedad
Impactos colectivos y sistemicos como sesgo, desigualdad, dano social y dano informativo.
IA Militar Autónoma
Desarrollo de sistemas de armas letales autónomas (LAWS) capaces de seleccionar y atacar objetivos sin intervención humana significativa, eliminando el control humano sobre decisiones de vida o muerte.
DeepNude
Generación no consensual de imágenes de desnudez sintética o pornografía deepfake de individuos reales, constituyendo abuso sexual basado en imágenes.
Discurso de Odio
Generación automatizada o amplificación de contenido tóxico, acoso dirigido y discurso de odio mediante sistemas de IA, facilitando campañas de hostigamiento a escala.
Erosión de la Verdad
Colapso epistémico causado por la proliferación de contenido sintético indistinguible de contenido auténtico, imposibilitando la verificación de realidad a escala masiva.
Error Médico de IA
Diagnósticos erróneos, recomendaciones de tratamiento inadecuadas o sesgos en sistemas de IA médica debido a datasets no representativos o limitaciones del modelo.
Filtros Burbuja
Algoritmos de recomendación que refuerzan selectivamente las creencias preexistentes del usuario, creando cámaras de eco que amplifican polarización y aislamiento ideológico.
Polarización Política
Amplificación de división política mediante campañas de microtargeting extremadamente personalizadas generadas por IA que explotan sesgos cognitivos individuales.
Sentencia Sesgada
Perpetuación y amplificación de sesgos raciales y socioeconómicos en sistemas de predicción de reincidencia y toma de decisiones judiciales automatizadas (ej: COMPAS).
Sesgo Racial
Rendimiento desigual y discriminatorio de sistemas de reconocimiento facial y otros algoritmos en personas con tonos de piel más oscuros, perpetuando racismo sistémico.
Sesgo Social
Reproducción y amplificación de prejuicios sociales sistemáticos presentes en los datos de entrenamiento, manifestándose como discriminación basada en raza, género, edad u otras características protegidas.
Acceso Desigual
Concentración de acceso a tecnologías avanzadas de IA en poblaciones privilegiadas económicamente, exacerbando desigualdades existentes.
Algocracia
Gobierno mediante sistemas algorítmicos que toman decisiones políticas y administrativas sin consideración de contexto humano, valores éticos o capacidad de empatía.
Burocracia Automatizada
Sistemas burocráticos automatizados que toman decisiones opacas sin mecanismos efectivos de apelación humana, creando laberintos kafkianos de decisiones algorítmicas irreversibles.
Ciberacoso por IA
Acoso persistente y automatizado contra individuos mediante bots de IA que operan incansablemente en redes sociales y plataformas digitales.
Explotación de Clickwork
Precarización extrema del trabajo de etiquetado y anotación de datos mediante plataformas de microtareas que pagan compensación minimal por trabajo cognitivo intenso.
Extinción Lingüística
Exclusión sistemática de idiomas con escasos recursos digitales de los beneficios de la IA, acelerando la pérdida de diversidad lingüística y la extinción de lenguas minoritarias.
Fraude Académico
Uso generalizado de IA generativa por estudiantes para completar tareas académicas sin desarrollar habilidades de pensamiento crítico, escritura o resolución de problemas.
Homogeneización Cultural
Dominación cultural de modelos entrenados principalmente en inglés y contenido occidental, erosionando la diversidad cultural y marginalizando perspectivas no occidentales.
Inequidad de Acceso
Ampliación de la brecha digital debido al acceso desigual a tecnologías de IA avanzadas, concentrándose en poblaciones privilegiadas y excluyendo a comunidades desfavorecidas.
Justicia Grupal
Disparidad en tasas de resultados positivos o negativos entre grupos demográficos definidos, constituyendo discriminación sistémica.
Justicia Individual
Tratamiento algorítmico inconsistente de individuos que son similares en aspectos relevantes, violando principios de equidad individual.
Pérdida de Autonomía
Erosión de la capacidad humana de tomar decisiones informadas al delegar excesivamente en sistemas algorítmicos opacos sin comprensión de su funcionamiento.
Sesgo de Edad
Discriminación etaria en sistemas de contratación automatizada, evaluación crediticia y otros contextos que penalizan injustamente a personas mayores.
Sesgo de Género
Estereotipos de género sistemáticos codificados en modelos de IA que asocian incorrectamente géneros con roles profesionales, perpetuando discriminación.
Sesgo Nacional
Estereotipos negativos y representaciones sesgadas de nacionalidades y países específicos, típicamente reflejando perspectivas occidentales dominantes en datos de entrenamiento.
Sesgo Religioso
Asociaciones estereotípicas entre religiones específicas y características negativas como violencia o extremismo, reflejando prejuicios presentes en datos de entrenamiento.
Alfabetización en IA
Falta generalizada de comprensión pública sobre capacidades reales, limitaciones y riesgos de sistemas de IA, facilitando desinformación y uso inadecuado.