Código y nombre. 0116-23. Tecnologías de manipulación: Inteligencia Artificial y desinformación en contextos democráticos.
Responsable. Doctor Jonathan Piedra Alegría
Vigencia. 1 de enero del 2024 al 31 de diciembre del 2024.
Resumen
Se explorará cómo las herramientas y software de IA pueden ser utilizados para propagar la desinformación y manipular a la opinión pública, lo que a su vez amenaza los principios fundamentales de la democracia, como la transparencia, la rendición de cuentas y el debate público abierto.
En primer lugar, a medida que avanza la tecnología de IA, tiene el potencial de generar contenido falso muy convincente, como noticias falsas, videos falsos y bots de redes sociales. Estas formas de contenido generado por IA tienen el potencial de difundir información errónea y sembrar confusión entre el público, socavando la confianza del público en las instituciones y procesos democráticos. Al estudiar la relación entre la IA y la creación de contenido falso, podemos comprender mejor los riesgos potenciales y desarrollar estrategias de información a nivel masivo para la toma ética de decisiones que permitan crear pensamiento crítico colectivo.
El contenido falso se puede utilizar para manipular la opinión pública e influir en los resultados políticos. Esto puede tener un impacto significativo en el funcionamiento de las sociedades democráticas y la capacidad de los ciudadanos para tomar decisiones informadas. Comprender la relación entre la IA y la creación de contenido falso puede ayudarnos a anticipar y contrarrestar estos esfuerzos para socavar la democracia.
El contenido falso generado por IA también se puede utilizar para atacar y marginar a ciertos grupos de la sociedad, como las minorías y las comunidades marginadas. Al estudiar la relación entre la IA y la creación de contenido falso, podemos comprender mejor cómo estas tecnologías pueden perpetuar y amplificar la discriminación y la desigualdad.
Precisamente por esto es por lo que el uso de la IA y el aprendizaje automático en la creación de contenido falso se vuelve más sofisticado y generalizado, es fundamental estudiar la relación entre la IA y el debilitamiento de la institucionalidad de la democracia para desarrollar e implementar políticas, regulaciones y medidas efectivas para proteger la democracia y al público de los efectos negativos del contenido falso generado por IA.
Objetivos
General
- Analizar la relación entre la IA y el debilitamiento de la institucionalidad de la democracia a través de la creación de contenido falso. Esto con la finalidad de desarrollar un marco filosófico que permita la discusión sobre la utilización de esta tecnología y su futura regulación.
Específico
- Establecer los mayores desafíos y riesgos de la utilización de estas tecnologías de lA en la generación de opinión pública.
- Determinar las principales tecnologías utilizadas para generar contenido falso.