Likhita Banerji, directora de Rendición de Cuentas sobre el Uso de Algoritmos en Amnistía Internacional, afirmó que “empresas de todo el mundo suministran productos de IA generativa bajo una apariencia de eficiencia y sofisticación cuando, en realidad, estos sistemas perpetúan violaciones masivas de la privacidad”.

Operan “mediante la extracción ilegal de datos de la web con procesos automatizados de recopilación de datos -incluidos datos personales-, como imágenes y actividad en redes sociales, destinados a entrenar modelos de inteligencia artificial”, expuso Banerji.

El estudio “Unlawful by Design: Exposing the Human Rights Costs of Generative AI (Ilegal por diseño: Exponiendo los costos en derechos humanos de la IA generativa)”, documenta los graves riesgos asociados al uso de la extracción y el procesamiento masivo de datos para desarrollar y entrenar estos sistemas.

Entre ellos figuran violaciones del derecho a la privacidad desde el propio diseño, y consecuencias negativas para el medioambiente y comunidades históricamente marginadas.

“Empresas de todo el mundo suministran productos de IA generativa bajo una apariencia de eficiencia y sofisticación cuando, en realidad, estos sistemas perpetúan violaciones masivas de la privacidad”: Likhita Banerji.

“La cadena extractiva de datos, las decisiones de diseño inherentes tomadas por las empresas tecnológicas y las cadenas de suministro para construir sistemas de IA generativa han propiciado un paradigma de desarrollo tecnológico que conlleva el riesgo de abusos masivos contra los derechos humanos”, señala el informe.

Amnistía Internacional investigó modelos que sustentan algunas de las herramientas autónomas más populares de IA generativa disponibles públicamente, como GPT 3, de Open AI; Gemini, de Google; Llama, de Meta; DeepSeek y herramientas de Midjourney y Stable Diffusion.

Este tipo de sistemas se basan en extraer información de miles de millones de posts e imágenes de carácter público en Internet, a menudo sin el consentimiento expreso de las personas que aparecen en ellos o que los han creado, según la investigación.

Eso no solo vulnera la privacidad desde la propia concepción del diseño, sino que, a medida que aumentan de escala los conjuntos de datos que alimentan los modelos de IA, se amplifica también en sus resultados la presencia de contenidos que incitan al odio y a la discriminación.

Asimismo, los estereotipos negativos y prejuicios, especialmente en relación con la raza y el género.

Los sesgos raciales, culturales y de género son características comunes de los sistemas de las IA generativas, producto de datos de entrenamiento extraídos en gran parte de la web y que, por tanto, están contaminados con prejuicios del mundo real que dañan a comunidades históricamente marginadas.

El informe agrega que los sistemas de IA generativa plantean riesgos al derecho a la libertad de pensamiento, pues pueden influir en las ideas de las personas usuarias y determinar sus creencias personales mediante sugerencias predictivas.

“Esta es una de las prácticas más atroces entre las empresas de IA que operan con desprecio por los derechos humanos, y debe abordarse urgentemente. Es posible una trayectoria diferente del desarrollo tecnológico si las autoridades actúan con urgencia para corregir el rumbo”, planteó Banerji.

El informe de Amnistía se difunde días después de la publicación de la encíclica Magnifica Humanitas, del papa León XIV, en la que advierte que “quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas”, y pide a los Estados intervenir para establecer reglas.

“Pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos”, advirtió el documento del pontífice católico.

Por otra parte, el estudio de Amnistía registra que a medida que aumentan, en las empresas de IA generativa, la magnitud y el ritmo del desarrollo, lo hacen también las necesidades de infraestructura y los costos medioambientales asociados.

Las mayores necesidades de procesamiento de los modelos de más tamaño exigen microprocesadores que consumen mucha más energía, centros de datos más grandes y, en consecuencia, más energía y agua para su funcionamiento.

La producción de IA generativa tiene a menudo un impacto negativo en comunidades históricamente marginadas, pues se explotan tierras y recursos que les pertenecen para construir centros de datos y cubrir necesidades de procesamiento.

El propio informe de sostenibilidad de Google de 2024 indicaba un alarmante aumento de 48 % de las emisiones de gases de efecto invernadero (que calientan el planeta) de la empresa desde 2019, atribuible a las emisiones de los centros de datos y de la cadena de suministro.

Las emisiones de Microsoft aumentaron 29 % entre 2020 y 2024, atribuibles a las emisiones de los centros de datos que realizan procesos de apoyo a la IA.

El uso intensivo de recursos en la producción de IA generativa ha hecho que comunidades de lugares que van desde Cerrillos, en Chile, y Querétaro, en México, hasta Arizona, en Estados Unidos, se estén oponiendo a la instalación de centros de datos en zonas ya gravemente afectadas por sequías y la escasez de electricidad.

Amnistía Internacional pide a los Estados que prohíban los sistemas autónomos de IA generativa basados en la extracción ilegal de datos de la web, definida como la recopilación masiva y en gran escala de datos de entrenamiento a través de Internet.

La organización humanitaria plantea que “las empresas deben poner fin de inmediato a la extracción ilegal de datos personales sin consentimiento en la web con fines de entrenamiento de la IA”.

De su parte, los Estados “deben exigir responsabilidades a las empresas por su participación en cualquier abuso contra los derechos humanos relacionado con sus decisiones de diseño y empresariales” en el campo de la IA generativa.

A-E/HM - Corresponsal de IPS