Hacia la construcción de la gobernanza de la IA desde una mirada Sur Global

La gobernanza global de la IA enfrenta una tensión estructural entre los marcos normativos existentes insuficientes y no vinculantes. Además la velocidad del despliegue tecnológico, que reproduce y profundiza las asimetrías de poder entre el Norte y el Sur Global.

TEDIC, como parte de la coalición MAP.IA, una iniciativa liderada por el Centre for Communication Governance (CCG) de la National Law University Delhi y la Global Network Initiative (GNI) (somos miembros de GNI), hemos contribuido con recomendaciones detalladas al proceso de consulta de las Naciones Unidas para el primer Global Dialogue on AI Governance (UNGD). También somos miembro de la organización miembro de Global South Alliance (GSA) y Global Coalition for Tech Justice, lugares donde también nos sumamos a debatir sobre los principios y mecanismos que deberían orientar la gobernanza de la inteligencia artificial a nivel global. Las discusiones de la sociedad civil para participar de manera significativa en este espacio, se centraron en el desarrollo de documentos colaborativos de MapIA, GSA, Globethics y DA, así como actividades desde el 2025 . En esa línea, desde TEDIC nos sumamos formalmente a esta agenda desde la última reunión celebrada en Nueva Delhi en el Summit AI, con el objetivo de aportar perspectivas y prioridades del Sur Global al debate internacional sobre la gobernanza de la IA.

Cuatro tensiones estructurales en el debate IA

La iniciativa MAP-AI, que organizó estos eventos, buscó amplificar voces subrepresentadas en los procesos de gobernanza de la IA, reuniendo a más de 500 participantes de forma presencial y onliney aproximadamente 120 oradores. El diagnóstico y las conclusiones preliminares de estos encuentros fueron a partir de los procesos formales de gobernanza como las Cumbres de IA, desde Bletchley hasta París, que fueron y sigue siendo capturados por intereses corporativos y gubernamentales del Norte Global, con una participación apenas decorativa de nuestra sociedad civil, especialmente la del Sur Global. Por ejemplo, en la experiencia en India donde se utilizó mucho el concepto de “Sur Global”, finalmente se describió como una posición y no un lugar, una categoría impuesta externamente sobre un conjunto muy heterogéneo de países. En nuestras dos experiencias documentadas como IA Action Summit 2025 en Paris y la AI Impact Summit 2026 en India, los documentos discutidos no incluían en las mesas de negociación a la sociedad civil, tampoco las declaraciones oficiales emitidos en estos encuentros fueron vinculantes para los Estados.

Otro ejemplo, es que en el caso latinoamericano se reproduce las lógicas coloniales de extracción de grandes volúmenes de datos y utilizar tecnologías diseñadas principalmente en el Norte Global, pero América Latina permanece al margen de los espacios donde se definen las reglas del juego. No consideramos que sea un intercambio entre iguales sino una relación de extracción y dependencia tecnológica que se naturaliza bajo el lenguaje neutro de la “innovación”. Esta asimetría se agrava cuando se observa quiénes cargan con los costos más concretos: las comunidades históricamente marginadas no solo tienen menos acceso a los beneficios de la IA sino que enfrentan sus fallas más peligrosas. Los sistemas de reconocimiento facial, por ejemplo, exhiben tasas de error sistemáticamente más altas frente a mujeres afrodecendientes, lo que convierte un problema técnico en una forma de discriminación automatizada con consecuencias reales sobre libertad, seguridad y derechos.

También se discutió sobre la importancia de no separar la gobernanza de la IA con cuestiones más amplias de política económica y ambiental. Por ejemplo, se señaló que, si bien los centros de datos son el pilar de la economía de la IA, también desmantelan el mito de una transición digital respetuosa con el clima.

En ese sentido, se identificaron cuatros tensiones estructurales en estos espacios de diálogos previos a la reunión de la ONU en julio de este año:

1. La legitimidad de los procesos múltiples partes interesadas. (multistakeholders). Actualmente, la participación de la sociedad civil es mínima y decorativa. Además si la participación es genuina, por diseño va a incomodar, esta incomodidad es una evidencia de que funciona el espacio de múltiples partes. Además, la participación multistakeholder no debe ser consultiva sino una condición procedimental para una gobernanza legítima. Se proponen prediálogos regionales con capacidad real de fijar agenda, mecanismos de testimonio comunitario en lenguas propias, documentación pública y multilingüe en tiempo real, y canales confidenciales para organizaciones que operan en espacios cívicos restringidos. La inclusión lingüística debe entenderse como medida de acceso y principio de gobernanza.
2. La distribución desigual del poder para fijar la agenda. La concentración del poder tecnológico en unas pocas empresas de IA de frontera genera un problema de rendición de cuentas democrática: las sociedades que soportan las consecuencias del despliegue de la IA terminan con una capacidad limitada para moldear los términos en que este avanza
3. La brecha entre los principios declarados y su implementación operativas. Los compromisos voluntarios, declaraciones y directrices que los países y empresas pueden adoptar o ignorar. No existe ningún tratado multilateral vinculante, ningún mecanismo de aplicación obligatoria ni ninguna institución internacional independiente con mandato para evaluar si los compromisos se están cumpliendo.
4. Y la pregunta principal “Para qué y para quiénes se construye la IA”. La propuesta más provocadora fue avanzar “de una IA generativa hacia una IA regenerativa” que ponga en el centro el cuidado social, la sostenibilidad ambiental y modelos contextualizados que traten las habilidades como activos comunitarios y no individuales.

Marcos de gobernanza para el Sur Global

Actualmente existe una interpretación estrecha de la “seguridad” en IA, incorporando no solo daños físicos y estructurales, sino también daños morales derivados de la rápida penetración de la IA en distintos sectores. Existe una dicotomía entre marcos basados en riesgo y marcos basados en derechos. Es decir, el enfoque basado en derechos se ancla en el derecho constitucional y de derechos humanos, mientras que la regulación basada en riesgo opera mediante cálculos de daño-beneficio. Estos marcos de riesgo suelen priorizar evaluaciones técnicas, desplazando las preguntas de derechos humanos.

Un problema clave es que los marcos regulatorios frecuentemente asumen la existencia de instituciones maduras y capacidad administrativa estable, condiciones que raramente se cumplen en muchos contextos del Sur Global y en nuestro país, Paraguay. E incluso se busca implementar sandboxes regulatorios como una forma dirigida sobre un objeto en específico para implementar la IA. Esta metodología coloca a la innovación en posición privilegiada frente a las comunidades que son el objeto de la pruebas, personas usuarias reales cuyos datos y experiencias se utilizan sin que quede claro cómo se garantizará su protección cuando algo falla dentro del entorno experimental. Por ejemplo, MITIC en la audiencia pública en el 2025 sobre la regulación de la IA en Paraguay en el Congreso Nacional había recomendado primero probar la metodología de sandboxes (espacios controlados y flexibles para implementar innovación) de IA en temas de fintech, servicios en general antes que contar con regulaciones y normativas específicas en IA.

Sin embargo esta propuesta es problemática, la experta Lucia Camacho en la investigación sobre Sandboxes de IA en Latinoamerica y Europa, documenta que esta propuesta de sandboxes regulatorio, parte de que la barrera para la innovación constituye una idea de desarrollo por lo que tiene que ser incentivada. Sin embargo en esta flexibilización incluyen a los derechos humanos y lo desprotegen, con el fin de incentivar la innovación. Los casos examinados revelan un vacío urgente, la intersección entre experimentación regulatoria y vigencia de derechos humanos está prácticamente ausente, con apenas menciones genéricas a la necesidad de proteger derechos fundamentales. Aunque la experta no descarta de utilizar los sandboxes como herramienta regulatoria, exige mayor escrutinio. Y que en este proceso se incorpore la participación ciudadana activa en su diseño, que los marcos se contextualicen según aprendizajes y necesidades locales, y que no se importe acríticamente el modelo europeo del AI Act de la UE sin adaptación a las realidades latinoamericanas. La pregunta que la investigadora deja abierta es: si estos entornos de prueba están regulando la IA en beneficio del interés público o simplemente facilitando su despliegue acelerado con cobertura regulatoria.

Por lo que consideramos que los marcos de regulaciones sobre riesgos en IA tanto a nivel internacional como nacional, deberán adaptar a las realidades locales en lugar de que los países adapten sus realidades a marcos importados como el AI Act de la UE. Además la naturaleza transnacional de la IA exige marcos con normas compartidas entre jurisdicciones, incluyendo mecanismos de reporte transfronterizo de incidentes, armonización de umbrales de seguridad y sistemas de gobernanza compartida.

Sobre el punto de la seguridad, expertos sugieren que se debe funcionar como arquitectura fundacional integrada en todo el ciclo de vida del desarrollo de la IA, no como una capa añadida después del despliegue. Se traza una distinción importante entre seguridad en el sentido de prevención de daños sociales y ciberseguridad en el sentido de resiliencia frente a manipulación adversarial, señalando que confundir ambas debilita los marcos de gobernanza. La punto más crítico es que el marco internacional actual descansa exclusivamente en compromisos voluntarios: no existe ningún tratado multilateral vinculante, ningún mecanismo de aplicación obligatoria ni ninguna institución independiente con mandato para evaluar si los compromisos se están cumpliendo.

Además, se considera que a lo largo de todo el ciclo de vida de la IA debe operativizarse la protección de los derechos humanos, incluyendo moratorias sobre sistemas incompatibles con el derecho internacional de los derechos humanos como la vigilancia invasiva y masiva, los deepfakes no consensuados, la predicción policial basada en características democráficas. El género es identificado como prioridad transversal, los sistemas de IA reproducen e intensifican formas interseccionales de discriminación que deben ser abordadas en todos los sistemas de IA, no solo en uno específico.

A esto se suma, la interoperabilidad entre marcos regulatorios, que no debe traducirse en una dilución de salvaguardas ni en la exportación de estándares más débiles hacia el Sur Global como sandboxes regulatorios u otras flexibilidades. La interoperabilidad debe estar anclada en derechos humanos, transparencia, protección de datos y rendición de cuentas, con métricas de seguridad desagregadas por idioma, género y otros marcadores relevantes.

Demandas concretas sobre diversidad cultural y lingüística en el marco de IA

Existe un problema estructural de base que impacta negativamente a los bienes culturales y la lingüísticas de la IA. El punto de partida como casi toda la infraestructura de Internet está construida predominantemente en inglés y sobre un corpus de datos que reflejan culturas del Norte Global y principalmente hegemónicas. Para nuestra región de América Latina tiene consecuencias concretas: los modelos de lenguajes tienen peor desempeño en español, en portugués y son prácticamente inexistentes para las más de 400 lenguas indígenas (quechua, náhuatl, aymara, maya, mapudungun, entre otras) o mestiza como nuestro guaraní. Sin duda, no es una brecha “técnica” menor: es una forma de exclusión que afecta el acceso servicios públicos, salud, educación y justicia.

Por tanto, estas comunidades cuyos idiomas y culturas están en juego deben participar activamente en el diseño de los sistemas que las afectan, no solo ser consultadas ex post. Esto implica reconocer el derecho al consentimiento libre, previo e informado antes de que sus lenguas, expresiones culturales o datos sean utilizados para entrenar modelos de IA.

Sobre este punto, se suma la responsabilidad de intermediarios, los sistemas de moderación automatizada fallan de manera sistemática en lenguas y contextos culturales subrepresentados, tanto por exceso (censuran contenido legítimo) como por defecto (no detectan discurso de odio ni desinformación). El Diálogo debería exigir a las plataformas estándares de desempeño desagregados por idioma y región, con rendición de cuentas pública.

Y por último, enfatizamos que la diversidad cultural no se agota en el idioma. Implica cosmovisiones, valores, formas de conocimiento y relaciones con el territorio que pueden entrar en tensión con los supuestos implícitos de los sistemas de IA (individualismo, linealidad temporal, separación naturaleza/cultura). Las discusiones globales deberían abrir espacio para discutir qué valores se codifican en los sistemas de IA y quién decide esos valores.

Aunque hacemos principal hincapié en nuestras comunidades históricamente marginadas, lenguas minoritarias, también se encuentra temas como las condiciones laborales precarias de trabajadores de datos y moderadores de contenido, e impactos ambientales reales, flexibilizaciones de regulación para implementación de data centers, tales como el consumo energético e hídrico de data centers, extracción de minerales críticos, residuos electrónicos, que recaen desproporcionadamente sobre el Sur Global.

¿Cómo deberíamos evaluar a la IA?

En primer lugar, debemos pasar de compromisos generales a mecanismos concretos de financiamiento para cerrar la brecha de infraestructura, capacidad de investigación y auditoría independiente en los espacios de gobernanza de IA. Los instrumentos y marcos legales deben obligar que exista financiamiento dedicado para evaluaciones multilingües, benchmarks localmente relevantes e infraestructuras de prueba regionales lideradas por instituciones, academia y organizaciones de sociedad civil de países en desarrollo, que permitan evaluar sistemas de IA antes de su despliegue en áreas de alto impacto como salud, educación y justicia.

Como segundo punto, la sociedad civil y academia debemos tener protección frente a represalias, nuestras investigaciones que documentan daños de sistemas de IA han enfrentado presión legal, desacreditación, desinformación y en algunos contextos hasta represalias. También debemos tener acceso a la información de las empresas, una transparencia obligatoria a este sector sobre sus documentaciones de modelos, tasas de error, datos entrenados y por último independencia financiera, los mecanismos de gobernanza debe incluir fondos públicos o multilaterales dedicados a sostener la participación independiente.

Como tercer punto, a partir de allí, recién podríamos hablar de una evaluación efectiva y que tenga como eje principal los derechos humanos. Y que esa evaluación de impacto de DDHH sea el equivalente en el campo de IA a los que estudios de impacto ambiental son para las infraestructuras físicas. El derecho internacional de derechos humanos debe ser nuestro marco primario para evaluar todas las propuestas de gobernanza de la IA, incluyendo transparencia, no discriminación, privacidad y acceso a remedios. Exigimos pasar de la invocación de principios a su implementación efectiva, con mecanismos de rendición de cuentas concretos para desarrolladores, desplegadores y Estados.

Sabemos que la infraestructura de IA es física, por tanto las redes de centros de datos, cables y cadenas de suministro con demandas concretas de energía, agua, tierra y minerales deben también ser incluidos en la evaluación. Y que a su vez se debe establecer coordinación activa con la CMNUCC, el PNUMA y la CSTD, y avanzar hacia requisitos vinculantes de divulgación de la huella ambiental de los sistemas de IA. También se promueven modelos cooperativos, de código abierto y gestionados localmente, como alternativa al modelo extractivista dominante.

Como cuarto punto y siguiendo con la evaluación, una auditoría previa no es suficiente, es decir, los sistema de alto riesgos como créditos, empleo, beneficios sociales, migración, salud y justicia penal, deberían existir un requisito obligatorio de auditoría independiente antes del despliegue, análogo a las auditorías financieras o ensayos clínicos en medicina. Nuestras organizaciones de derechos digitales y en general, deben operar con mecanismos de monitoreo continuo, documentar casos de daño, sistematizar denuncias y producir evidencia sobre patrones de falla que de otro modo permanecerían invisibles o dispersos. Y que incluya a comunidades específicas como indígenas, migrantes, personas en situación de pobreza, mujeres víctimas de violencia de género facilitada por la tecnología, que difícilmente llegarían a un regulador estatal por canales formales.

Como quinto punto, los estándares técnicos de transparencia, interoperabilidad, documentación de modelos, gestión de datos, se definen en foros muy especializados con escasa participación de actores no corporativos. La academia puede y debe participar en esos espacios, aportando perspectiva de interés público en la definición de qué se mide, cómo se mide y qué umbrales se consideran aceptables. Un ejemplo concreto: las métricas de precisión de un sistema de reconocimiento facial agregan resultados promedio que ocultan disparidades de rendimiento por género, tono de piel o edad. Que esas métricas deban publicarse desagregadas es una decisión política y metodológica, no solo técnica, y requiere voces que representen a quienes son más afectados por los errores.

Y por último y no menos importante, es que nuestras organizaciones de sociedad civil puedan usar los marcos regulatorios existentes y los que emerjan las reuniones internacionales como el Dialogo mundial sobre gobernanza de la IA y la Cumbre Ministerial y de altas autoridades sobre la etica de IA en América Latina y el Caribe, para exigir rendición de cuentas a través de litigios estratégicos. Esto tiene un efecto multiplicador: un caso bien documentado puede generar jurisprudencia que modifique prácticas de toda una industria o sector gubernamental. Para que esto sea posible, los marcos de gobernanza deben incluir mecanismos de remedio accesibles: no solo multas regulatorias, sino vías reales para que personas y comunidades afectadas obtengan reparación.

La gobernanza no puede ser un ejercicio tecnocrático; requiere transparencia, rendición de cuentas y comportamiento responsable sostenido en el tiempo, así como una participación genuina y consecuente de las comunidades más afectadas por los sistemas de IA.