Explora la Taxonomía

mit633

Adult content

Estas evaluaciones miden la propensión de un Gran Modelo de Lenguaje (GML) a generar material clasificado como de restricción por edad, abordando específicamente contenido de índole sexual o representaciones explícitas de actividad sexual.

mit545

Algoritmo y datos

Más del 20% de las contribuciones se focalizan en la dimensión ética de los algoritmos y los datos. Este eje temático se subdivide en dos conceptos fundamentales: el binomio entre el sesgo de datos y la necesidad de equidad algorítmica, y la problemática de la opacidad algorítmica.

mit575

A Propósito - Pre-Despliegue

Estos riesgos se agrupan bajo las vulnerabilidades inherentes a la cadena de suministro y desarrollo del software. En esencia, se identifican tres vectores de ataque primarios que comprometen la integridad de un sistema de IA antes de su implementación:1. La **Amenaza Interna o Sabotaje Malicioso**: Esta ocurre cuando personal con acceso privilegiado (desde desarrolladores y evaluadores hasta personal de soporte) introduce intencionalmente código malicioso o fallos en el software durante la fase de desarrollo. Esto compromete la seguridad y fiabilidad del sistema desde sus cimientos. 2. La **Intrusión Externa y el Robo de Código**: Implica el acceso no autorizado por parte de agentes externos (como grupos de hackers o agencias de inteligencia) a los proyectos en curso. Su objetivo es robar el código fuente, la propiedad intelectual, o modificarlo sutilmente para insertar vulnerabilidades o puertas traseras. 3. El **Envenenamiento de Datos (Data Poisoning)**: De especial relevancia en el ámbito de la IA, este vector consiste en alimentar deliberadamente los modelos de entrenamiento con conjuntos de datos falsos, sesgados o inseguros. El resultado es un entrenamiento defectuoso que, en última instancia, induce al sistema a generar resultados no confiables o comportamientos sistémicos peligrosos.

mit34

Asociación en LLMs

La "Asociación" en los Modelos de Lenguaje Grandes (LLMs) se refiere a la habilidad del sistema para establecer y mantener vínculos entre múltiples datos de identificación personal (PII) que corresponden a un mismo individuo. Desde una perspectiva de la seguridad en IA, esto implica que si un modelo ha internalizado una conexión entre dos entidades de PII distintas (por ejemplo, $x_i$ y $x_j$), una consulta o 'prompt' específica que solo mencione o esté relacionada con $x_i$ puede coaccionar al modelo para que revele la información asociada $x_j$. El caso ilustrativo más sencillo es que, si el LLM asocia un nombre ("Alicia") con un correo electrónico específico ("[email protected]"), simplemente preguntar "¿Cuál es el correo electrónico de Alicia?" resulta en la exposición de su dirección, lo que constituye un vector de riesgo significativo para la privacidad y la fuga de datos personales.

mit1212

-

Este concepto aborda el riesgo sistémico donde los modelos de Inteligencia Artificial no solo sintetizan contenido impreciso o engañoso (desinformación), sino que también optimizan su difusión masiva. El impacto directo es la erosión cognitiva, que culmina en la adopción de falsedades como conocimiento establecido por parte de los individuos.

mit445

Alucinación

En el contexto de la inteligencia artificial, la 'alucinación' se define como la capacidad de los Grandes Modelos de Lenguaje (LLM) para producir contenido objetivamente erróneo o infiel a la fuente, a pesar de ser presentado con una gran y aparente confianza. Este fenómeno representa una fabricación lingüística coherente pero desvinculada de la realidad o la verdad factual.

mit576

A Propósito - Post-Despliegue

La seguridad de una Inteligencia Artificial, incluso si es bien diseñada inicialmente, no es estática. Existe un riesgo significativo de que un sistema perfectamente alineado se desvíe hacia resultados perjudiciales o peligrosos durante la fase de posdespliegue. Este cambio de comportamiento puede ser inducido de forma indirecta, por ejemplo, mediante la inyección deliberada de datos falsos o engañosos en sus sistemas de aprendizaje, lo que compromete su integridad funcional. O bien, puede ser provocado de forma directa, a través de instrucciones explícitas que ordenan a la IA ejecutar acciones ilícitas o que atenten contra la seguridad de otras personas.

mit158

Abuso y Mal Uso

El riesgo de uso malicioso de la Inteligencia Artificial se define como la explotación deliberada e intencional de sistemas de IA potentes para infligir daños a gran escala. Este espectro de amenaza abarca desde la producción de sofisticadas suplantaciones sintéticas (deepfakes) y la orquestación de ciberataques automatizados o esquemas de vigilancia invasiva, hasta las aplicaciones más catastróficas. Estas últimas incluyen el desarrollo de nuevos agentes biológicos o la liberación autónoma de modelos de IA para que persigan objetivos dañinos de forma independiente, como la difusión masiva de propaganda. La mitigación de este riesgo fundamental requiere un enfoque sistémico, centrado en la mejora de la bioseguridad, la restricción de acceso a modelos de IA avanzados y el establecimiento de marcos de responsabilidad legal para sus desarrolladores.

mit1205

-

Se define como la erosión de la capacidad o los derechos de una persona, colectivo o entidad para ejercer su autonomía decisional y mantener el control sobre su identidad y su producción o resultados, siendo este un efecto directo del despliegue o la manipulación indebida de un sistema o red de sistemas tecnológicos

mit826

Adicción

Adicción Tecnológica: Se define como una forma de dependencia, sea esta de índole emocional o material, que se establece hacia una tecnología específica o un sistema tecnológico. En esencia, describe una necesidad compulsiva e ineludible de interacción con dicho sistema, cuyas consecuencias pueden manifestarse en el deterioro del bienestar o la autonomía del individuo.

mit594

Accelerated development of nanotechnology produces uncontrolled production of toxic nanoparticles

La Inteligencia Artificial (IA) es un motor fundamental en el desarrollo de nanobots. Este avance plantea serios riesgos ambientales, principalmente al modificar de manera invisible y a escala nanométrica la composición de diversas sustancias. Por ejemplo, los nanobots podrían catalizar reacciones químicas que culminarían en la creación de nanopartículas invisibles, de naturaleza tóxica y potencial letalidad.

mit230

Acceso dispar a beneficios por limitaciones de hardware/software

La distribución de los beneficios derivados de los Modelos de Lenguaje (ML) enfrenta un desafío estructural de equidad. Las disparidades en el acceso a la infraestructura (internet y hardware), las barreras idiomáticas y las distintas habilidades de uso digital dificultan que estos avances sean universalmente accesibles. Esta distribución asimétrica corre el riesgo de profundizar las brechas de desigualdad global al favorecer a las poblaciones ya privilegiadas. Aunque existe el potencial de que las herramientas lingüísticas aumenten la inclusión para personas con analfabetismo o ciertas discapacidades de aprendizaje, es fundamental reconocer que la realización de este beneficio está condicionada a la superación de una barrera de acceso más elemental: la disponibilidad del equipo, la conectividad sostenida y la competencia operativa mínima del usuario

mit530

Acceso a Recursos Aumentados

Los sistemas de inteligencia artificial del futuro están proyectados para adquirir la capacidad de acceder a entornos web y ejecutar acciones en el mundo físico, incrementando drásticamente su potencial de impacto global (Nakano et al., 2021). Esto abre la puerta a vectores de riesgo como la diseminación de información errónea, la manipulación de usuarios, la alteración de la seguridad de la infraestructura de red, o, en el peor de los casos, el compromiso por agentes malintencionados con propósitos nefastos. Aún más preocupante es cómo su creciente acceso a datos y recursos podría facilitar procesos de auto-proliferación, lo cual se ha identificado como un factor que plantea riesgos de naturaleza existencial (Shevlane et al., 2023).

mit99

Accidentes

Los accidentes se definen como modos de fallo no intencionados o imprevistos que, en principio, pueden atribuirse a una deficiencia inherente al propio sistema de IA (un error de diseño) o a un fallo en las decisiones o la implementación por parte de sus desarrolladores.