Una herramienta para dar claridad a la ciudadanía a la hora de interactuar con sistemas Inteligencia Artificial, conocer sus efectos y evaluar sus potenciales riesgos
El avance tecnológico y, principalmente, el crecimiento del uso de la Inteligencia Artificial (sistemas de procesamiento de datos para la toma de decisiones automatizada) en la vida cotidiana de la ciudadanía requiere de políticas de transparencia algorítmica para que la población conozca cómo funcionan, cuáles son sus efectos y evaluar y prevenir posibles riesgos.
Además, es necesario que proveedores y/o desarrolladores de estos sistemas pongan a disposición canales de comunicación para que los usuarios hagan consultas, reclamos por los resultados alcanzados o conozcan sus posibles riesgos.
¿Qué es la inteligencia artificial?
Es la tecnología de procesamiento de datos que integra modelos y algoritmos con capacidad para aprender y realizar tareas cognitivas similares a la mente humana para emitir predicciones, recomendaciones y tomar decisiones. Pueden funcionar con diferentes grados de autonomía del ser humano, lo que implica riesgos sociales, económicos, culturales y ambientales que deben ser estudiadas y atendidas.
Desafíos gubernamentales: la protección de los derechos de la ciudadanía
A nivel global, gobiernos y organismos internacionales elaboran regulaciones, principios, recomendaciones y guías para concientizar sobre su uso e impacto respecto a:
Programa de transparencia y protección de datos personales en el uso de la Inteligencia Artificial
La AAIP lanzó el Programa Nacional de Transparencia y Protección de Datos Personales en el uso de la Inteligencia Artificial mediante la Resolución 161/2023 ( Ver más aquí). Su objetivo es acompañar el desarrollo y uso de la Inteligencia Artificial en el sector público y privado, poniendo especial atención a los posibles riesgos que deben ser estudiados y atendidos para evitar sesgos y discriminación.
Grados de transparencia algorítmica
La capacidad de explicar cómo funcionan los sistemas de procesamiento de datos para la toma de decisiones automatizada se clasificó según su grado de transparencia:
Cuando no se puede explicar su funcionamiento interno, los sistemas deben explicar qué medidas se tomaron para mitigar riesgos: errores o resultados sesgados.
Gestión y recursos regionales
En el marco de la Alianza Latinoamericana para la Transparencia Algorítmica (ALTA), un espacio de articulación entre el sector público, la academia y la sociedad civil para desarrollar la transparencia algorítmica en Latinoamérica, la AAIP elabora un repositorio con información de algoritmos que se utilizan en el sector público.