Inteligencia artificial centrada en los pueblos indígenas: perspectivas desde América Latina y el Caribe

Abstract

La Recomendación Sobre la Ética de la Inteligencia Artificial de la UNESCO es un esfuerzo por guiar el uso de las Tecnologías de la Información y la Comunicación (TICs), así como el despliegue de sistemas de IA, dada la creciente necesidad de generar conocimiento e información para la alfabetización digital. En el contexto de América Latina y el Caribe, dicha alfabetización es un punto de partida para abordar los retos y oportunidades sociales, económicos y medioambientales del desarrollo tecnológico, tomando en cuenta los riesgos y preocupaciones éticas que acompañan al uso de datos para la resolución de problemas, de forma que se estimule la innovación fundamentada en la investigación ética y respetuosa de los Derechos Humanos y las libertades de las personas.8Para ello, se propone que el ciclo de vida de la IA sea consistente con las provisiones del derecho internacional, incluídos los DDHH, a través de la inclusión y participación de todos los grupos, independientemente de su origen étnico, descendencia, edad, lengua, religión, postura política, origen nacional y social, condición social de nacimiento o discapacidades. Lo anterior, se basa en el principio de justicia y no discriminación, mediante el cual las personas desarrolladoras de tecnología adquieren la responsabilidad de minimizar sesgos y discriminaciones en el ciclo de vida de la IA, así como buscar la implementación justa de dichos sistemas.9Las intenciones y principios anteriormente mencionados se pueden englobar en el concepto de Uso Responsable de Tecnología (URT ), que el presente reporte propone como una forma de operativizar marcos éticos y de DDHH en el diseño, desarrollo y despliegue de tecnologías centradas en los pueblos indígenas. El URT, promovido por el Foro Económico Mundial desde su Grupo de Trabajo de Uso Responsable de Tecnología, está intrínsecamente relacionado con la construcción de un entorno de confianza tanto al interior como al exterior de las empresas y organizaciones productoras de tecnología; la relevancia de articular una visión de impacto hacia la sociedad con participación diversa; la necesidad de realizar análisis de riesgo exhaustivos para identificar y, en la medida de lo posible, mitigar consecuencias negativas; así como la importancia de formar liderazgos y contar con procesos inclusivos de toma de decisión e impulsar la diversidad en los equipos de trabajo, entendiendo el rol fundamental que juegan el contexto y la cultura organizacional de las compañías como habilitadores de cambio sistémico.