Ayona Datta: “La inteligencia artificial puede ser peligrosa si cae en manos equivocadas”

Ayona explora la digitalización ética y el empoderamiento femenino

El pasado septiembre, Ayona Datta, profesora de Geografía Humana en el University College London, ofreció una ponencia en el Palacio Miramar de San Sebastián. Durante su intervención, Datta reflexionó sobre la relación entre la tecnología y las ciudades. Además, presento "Feminist toolkit" una iniciativa que busca empoderar a las mujeres en entornos digitales.

¿Puedes hablar de tu trabajo en Kenia? ¿Qué hiciste allí y qué desafíos enfrentaste?

Trabajo en Kenia como parte de un proyecto más amplio llamado “Regional Futures”, financiado por el Consejo Europeo de Investigación. Comparamos las periferias metropolitanas de ciudades que están creciendo rápidamente en India, Kenia y México. En Kenia, nos enfocamos en las afueras de Nairobi, áreas que se están urbanizando rápidamente y que, como resultado, requieren una digitalización acelerada.

Con esto me refiero a que la tierra en estas periferias ha sido tradicionalmente mapeada en papel. Debido a la rápida urbanización, el gobierno quiere digitalizar estas áreas para comprender mejor los cambios que están ocurriendo. En este trabajo, descubrimos que gran parte de las tierras periféricas pertenecen a comunidades indígenas, en particular a los masáis. Por lo tanto, estamos observando una tensión entre la urbanización y la apropiación de tierras indígenas.

Es una cuestión compleja porque las comunidades indígenas también quieren desarrollarse, crecer y mejorar sus medios de vida. Es una tensión muy interesante. Aún no hemos llegado a conclusiones definitivas, pero hasta ahora hemos realizado algunos talleres con las partes interesadas, en los que hemos hablado con funcionarios del estado y organizaciones que se centran en la justicia territorial en Kenia. Estamos intentando desarrollar propuestas que ofrezcan formas de digitalización ética de las tierras.

¿Cuál es tu opinión sobre la inteligencia artificial?

Creo que la inteligencia artificial puede ser peligrosa si cae en manos equivocadas, especialmente cuando se desarrolla sin directrices éticas. Puede generar desinformación y manipulación, como vimos en el escándalo de Cambridge Analítica. Pero la inteligencia artificial es un término muy amplio, que abarca muchas cosas diferentes, por lo que es difícil englobarlo todo en un solo concepto.

Las formas anteriores de IA implicaban la creación de códigos y algoritmos, lo cual todavía hacemos hoy en día. Ahora, estamos viendo nuevos desarrollos como ChatGPT y otros modelos generativos de IA, que son una evolución diferente de la inteligencia artificial. Creo que debemos ser específicos sobre qué aspectos de la IA podrían representar riesgos futuros y cuáles son simplemente parte del desarrollo normal de la tecnología, que necesitamos para que nuestras vidas sean más eficientes.

Soy escéptica ante la idea de que la inteligencia artificial vaya a dominar completamente a los humanos. Sin embargo, también creo que necesitamos leyes, políticas y regulaciones más estrictas para asegurarnos de que no se convierta en una herramienta de desinformación o en un arma en manos de estados delincuentes que puedan causar daño.

Mencionaste el "Kit de Herramientas Feminista." ¿Puedes explicar qué es y en qué consisten sus tres fases?

El Kit de Herramientas Feminista surgió a partir de nuestro trabajo con mujeres en comunidades de la clase trabajadora. Nos dimos cuenta de que había una falta de visibilidad para estas mujeres en los espacios digitales. No es que no tuvieran teléfonos móviles, sí los tenían y usaban aplicaciones como WhatsApp, pero no estaban narrando sus propias historias ni compartiendo sus experiencias de la manera en que nosotros lo hacemos, como al escribir blogs o publicar en redes sociales.

La idea del Kit de Herramientas Feminista es proporcionar a estas mujeres las herramientas necesarias para que puedan contar sus propias historias. Consta de tres fases: Reenfocar, Rehabilitar e Imaginar de nuevo.

Reenfocar consiste en entender qué tecnologías están utilizando estas mujeres. En algunos casos, usaban teléfonos Nokia que no eran smartphones, o smartphones básicos con datos limitados o capacidad de red reducida. También descubrimos que algunas se comunicaban en lenguas locales escritas en el alfabeto inglés, lo que presentaba desafíos adicionales.

Rehabilitar se trataba de ayudarlas a encontrar su voz. Organizamos maratones de edición en Wikipedia para que pudieran escribir sobre sus barrios, hicimos podcasts comunitarios, exposiciones temporales, y utilizamos otras estrategias para que pudieran contar sus historias.

Imaginar de nuevo trataba de alentarlas a imaginar un tipo de mundo diferente. Por ejemplo, un grupo creó una canción de rap que criticaba su entorno e imaginaba un futuro mejor.

El Kit de Herramientas Feminista no es una fórmula rígida. Es más bien un enfoque para habilitar la autoría en espacios digitales. Después de participar, muchas mujeres dijeron que era la primera vez que sentían que podían compartir sus historias con otras personas y que estas podrían beneficiarse de sus experiencias y luchas.

¿Puedes explicar los cinco pasos para lograr la democracia digital?

Esta idea surgió de otro proyecto en el que observamos que muchas personas, especialmente en comunidades minoritarias de clase trabajadora, tenían dificultades para acceder a la información. Al analizar este problema, identificamos los pilares clave de la democracia digital.

El primer paso es acceso, específicamente cuánto acceso tienen las personas a la tecnología y si pueden obtener información. Sin embargo, como discutimos en el Curso de Verano, los datos no son lo mismo que la información. Los datos se convierten en información cuando se procesan y adquieren significado. A partir de ahí, la información significativa conduce al conocimiento: cuando las personas tienen el tipo correcto de información, adquieren una mejor comprensión de su entorno y su situación.

La cuarta etapa es la conciencia crítica. En este punto, las personas son capaces de criticar y cuestionar lo que ven a su alrededor en lugar de aceptar simplemente lo que se les dice. Esta conciencia crítica lleva naturalmente a la acción, donde las personas pueden comenzar a desafiar el statu quo y hacer esfuerzos para cambiar las cosas.

Finalmente, la acción conduce al empoderamiento, donde los individuos son capaces de tomar acciones significativas basadas en su conocimiento y pensamiento crítico. Desglosamos la idea que suelen presentar los Objetivos de Desarrollo Sostenible, que sugiere que poseer un teléfono móvil equivale a estar empoderado.

En cambio, describimos seis pasos distintos para mostrar que simplemente tener acceso a un teléfono móvil no es lo mismo que estar empoderado. Hay varias etapas intermedias que deben alcanzarse para lograr un empoderamiento real. Este es el camino que proponemos para lograr la democracia digital.