Patricia Murrieta abre sus cursos de humanidades digitales en el Tecnológico de Monterrey (México) y en la Universidad de Lancaster (Reino Unido) con la muestra de la representación errónea —por blanca y europeizada— que hace ChatGPT de una mujer mexica. Y cierra sus ponencias con la palabra tlazocamati, que es gracias en náhuatl.

La investigadora mexicana fue una de las invitadas internacionales a la primera Cumbre del Jaguar, realizada en Medellín, que profundizó en los retos y alcances de la inteligencia artificial generativa. Aquí Murrieta cuestiona la procedencia y la credibilidad de los datos que alimentan modelos como ChatGPT, habla de colonialismo algorítmico y cuenta cómo el estudio regional del patrimonio puede ser resistencia a lo que deciden unos pocos en Silicon Valley.

¿Por qué vale la pena detenerse a pensar el impacto de la inteligencia artificial en el patrimonio y en la producción cultural?

Porque aunque es una creación realmente nueva, tiene un largo camino recorrido de lo que se llama machine learning. Impacta profundamente todas las áreas humanas porque se basa en la forma de comunicación más básica del ser humano que es el lenguaje y es importante, precisamente, porque tiene esta potencialidad de reproducir sesgos importantes y desinformaciones a escala masiva por las formas en las que la inteligencia artificial está entrenada. Un riesgo que existe es que nuestras culturas se aplanen. Es cierto que hemos ido adoptando y adaptando ciertos cánones conforme hemos ido globalizándonos, pero si el único canon específico que se nos presenta con la inteligencia artificial es el europeo, ¿qué se va a reproducir ahí? Por supuesto que el canon europeo. Desde el sur global necesitamos poner mucha atención a cómo utilizamos la inteligencia artificial generativa porque tenemos que saber que modelos como ChatGPT, Copilot o Gemini están reproduciendo cánones de belleza, de conocimiento, de pensamiento principalmente europeos o del norte global. Y eso tiene que ver con que hay poca representación de nuestras escuelas de pensamiento, nuestros literatos y de nuestras formas de ver el mundo.

Diste un dato tremendo y es que se calcula que solo el 0.2 % del universo de datos con los que se entrenan modelos de inteligencia artificial generativa como ChatGPT provienen de América Latina.

Y eso que ni siquiera sabemos exactamente si es verdad, porque no se ha podido calcular con certeza porque los datos que manejan las grandes empresas que hacen estos modelos no son abiertos. Esto es un cálculo que se hace realmente asumiendo que Open AI haya agarrado todo el internet, pero realmente no sabemos con qué están entrenando sus propios modelos. Sabemos, sí, que en internet hay una representación cortiquitita de los países latinoamericanos y eso que no hablemos de las lenguas indígenas que existen dentro de América porque la representación es bajísima. ¿Esto qué significa? Que cualquier pregunta que tú le hagas al ChatGPT te va a responder bajo los parámetros de conocimiento que tiene el mundo con el cual se entrenó. Los datos de internet están sesgados.

Decías en la charla que el patrimonio es la posibilidad de hacer preguntas y encontrar respuestas sobre la identidad, sobre lo que somos, y que además todo el tiempo está en construcción. En ese sentido, ¿el patrimonio puede servir para encontrarle costuras a esa idea de aplanar y homogeneizar que acelera la IA?

El patrimonio son estas expresiones, ya sea materiales o inmateriales, y representaciones de nuestras formas de vida, de nuestras cosmovisiones, de cómo vivimos nosotros, nuestros grupos, nuestras comunidades y las diferentes realidades que nos tocan en los diferentes tiempos. La tradición en el norte global es muy colonizadora, para ellos lo mejor es que se reproduzca cierta lengua, que se reproduzcan unas formas de vida, en vez de aceptar, por ejemplo, la variedad enorme y la riqueza que existe detrás de las múltiples culturas que pueden vivir en un lugar. Yo pienso que desde el sur global necesitamos insistir profundamente en la representación de nuestras culturas y, bueno, no solamente en la representación sino también en la integración en la tecnología de nuestras propias visiones del mundo. También está el problema de la ilusión del arreglo tecnológico, es decir, esta idea que a los grandes tecnócratas les encanta pedalear que con suficientes datos y algoritmos podemos solucionar problemas sociales sumamente complejos como la pobreza, la exclusión o el racismo. El colonialismo algorítmico, que es una nueva forma de colonización en el que las decisiones técnicas que se están tomando en Silicon Valley afectan de manera directa a comunidades en todo el mundo, sin que estas comunidades tengan voz ni voto o agencia frente a ellas.

¿Cómo descolonizar la tecnología? ¿Cuál puede ser una ruta para mostrar otras maneras de ser y de estar en el mundo?

La historia de cualquier tecnología no se crea en un vacío ni es neutral. Siempre nosotros la producimos dentro de ciertos contextos culturales y sociales, y esto lo que significa es que cuando nosotros creamos algo, sea lo que sea, como creadores de ese algo estamos imponiendo o reproduciendo nuestra visión del mundo.  A lo que voy con la tecnología decolonial es a que nosotros en América Latina, particularmente, tendemos a ser receptores y se nos ve como usuarios de la tecnología, no como disruptores ni como creadores de tecnología. Ante este panorama quisiera recalcar por qué los datos culturales son de suma importancia y las iniciativas en el desarrollo y gobernanza de estas tecnologías son de extrema urgencia para los países en nuestros contextos y particularmente en América Latina.

Y en ese reverso y anverso que tiene toda tecnología, ¿cómo se puede crear desde acá y aprovechar ciertas herramientas para estudiar el patrimonio?

Ese precisamente ha sido el trabajo de nuestros grupos de investigación durante muchos años: potenciar las metodologías desde las ciencias de la computación, pero particularmente de la inteligencia artificial para desbloquear siglos de datos en el archivo colonial.  Hemos logrado formar metodologías que ahora nos permiten explorar millones de documentos al mismo tiempo, que de otra manera nos llevaría años entender o conjuntar. El uso del machine learning ha sido crucial para escribir la historia desde otro punto de vista y esa es la otra cara de la moneda.  Para poder acceder a los datos que contienen esta otra parte de la historia, tú necesitas años de formarte como paleógrafo, como historiador, necesitas tener el tiempo y el dinero para poder acceder a los archivos. Ahora, con estas tecnologías lo que estamos logrando es democratizar, dar apertura de los datos a través de estas técnicas, y agilizar la búsqueda y la comprensión. No es un proceso fácil porque por ejemplo en México contamos con más de 68 lenguas indígenas combinadas. En el AGN [Archivo General de la Nación] tenemos el equivalente a 58 kilómetros lineares de documentos históricos y eso son millones de páginas de datos reales que abarcan desde el siglo XV hasta el siglo XXI y que corresponden a la historia profunda colonial. A mí es un dato que me vuela la cabeza y con total certeza en gran parte de los países de la región hay archivos paralelos.

Esos riesgos, pero también las posibilidades que puede ofrecer, hace que tenga sentido seguir explicando para qué sirve y para qué no este tipo de inteligencia artificial.

La gente debe saber cómo funcionan estos algoritmos para desmitificar qué es lo que pueden y lo que no pueden hacer estos modelos. Una vez sabiendo que esto es como un perico estocástico y que son modelos predictivos pues claro que no le vas a preguntar si tienes que darle la eutanasia a tu perro o si te debes divorciar o no. No se puede jugar así con la vida y pedirle algo a una máquina que no tiene la capacidad de hacer.