Riesgos técnicos y operativos

Hasta la fecha, la mayoría de los modelos de Inteligencia Artificial generativa albergan limitaciones y vulnerabilidades técnicas intrínsecas. Esta realidad incrementa la facilidad con la que usuarios malintencionados pueden sortear las salvaguardas éticas y de seguridad del sistema para ejecutar acciones perjudiciales. Es crucial notar que incluso el uso estándar, aquel dentro de las acciones previstas para el sistema, puede desembocar en resultados nocivos. Estas consecuencias, ya sean producto de un uso malicioso o normal, se originan en las restricciones fundamentales de la tecnología contemporánea, aunque se espera que los futuros avances puedan superarlas. El análisis se centrará en los siguientes ejes: las vulnerabilidades técnicas que afectan a los modelos, la tendencia conocida de la IA generativa a producir información inexacta y la opacidad inherente de estos sistemas, la cual complica significativamente la comprensión y mitigación efectiva de estas problemáticas.