Inteligencia Artificial: Hacia una Agenda de Investigación para América Latina y El Caribe

Comparto mis apuntes de la publicación "INTELIGENCIA ARTIFICIAL FEMINISTA Hacia una Agenda de Investigación para América Latina y El Caribe" del hub de América Latina y el Caribe de la red FAIR de investigación en Inteligencia Artificial Feminista. Dentro del proyecto proyecto "Incubando inteligencia artificial feminista".

Sus objetivos son impulsar la investigación crítica y feminista sobre IA, incidir en políticas públicas, construir redes de colaboración interdisciplinaria y promover la agenda de investigación de género e inteligencia artificial en el Sur Global. La edición reúne más de 50 autoras y autores de distintos países en 23 textos que aportan investigaciones, reflexiones, recomendaciones y materiales de referencia para se pensar la IA desde una perspectiva crítica, feminista y desde el Sur Global.

Definición de la inteligencia artificial

Sharon Hogge, ingeniera electrónico, con el robot centinela autónomo ROBART I y el robot industrial HT3. Maryland, 1983 | The U.S. National Archives | Dominio público

De acuerdo con la UNESCO (2021), la inteligencia artificial puede definirse como aquellos “sistemas tecnológicos con capacidades de procesar información de una manera que se asemeje a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación o control”. Entre los desafíos, se reconocen diferentes riesgos y afectaciones que son cada vez más identificados y denunciados, en particular desde la sociedad civil y la academia.

Feminist AI= Algorithmic Decision-Making Systems and Artificial Intelligence harnessed to deliver equality outcomes, designed with inclusion at the core, creating new opportunities and proactive, innovative correction of inequities.(Feminist AI)

Reflexiones previas

¿Quién ha escrito los algoritmos?¿quién a invertido en IA?¿cómo se fabrica la tecnología? ¿quién se beneficia de ella profundamente y quién no?

En los últimos tiempos han surgido movimientos como el Data Feminism o la Design Justice, que analizan la tecnología desde una óptica más crítica con la intención de crear una mayor equidad en la práctica tecnológica (Sinders, 2022) frente al resurgir del fascismo y una aparente pérdida de los valores de justicia social, y en plena era de la digitalización global. La justicia social es más importante que nunca a la hora de poner en cuestión los datos, la tecnología y la estructura de la sociedad como tal.

Sinders reflexiona: ¿Qué es la recopilación de datos feminista interseccional? ¿cómo son los datos del feminismo interseccional?, ¿qué es la catalogación de datos y los datos de entrenamiento desde el punto de vista del feminismo interseccional? ¿existe un sistema o un producto feminista interseccional con datos susceptibles de ser etiquetados o de los que se pueda obtener datos de entrenamiento? ¿qué aspecto tiene el software feminista y qué hace? ¿existen algoritmos para el feminismo intereseccional? o ¿qué hace falta para que existan? ¿cómo sería un bot conversacional interseccional y cómo interaccionaría?

Será importante promover y garantizar un desarrollo y uso ético y responsable de la IA de forma transversal. 

Panorama actual de la Inteligencia Artificial

• Decisiones políticas desde el norte global
• Toma de decisiones algorítmicas que automatizan la opresión.
• Ampliación de estereotipos y sesgos
• Se reproducen violencias sistémica (patriarcal, colonial y capitalista) 
• Narrativas machistas opresoras
• Asimetrías sobre todo en recursos e investigaciones
• Políticas e inversión en el desarrollo científico y tecnológico
• Perspectiva colonial
• Justicia social y ODS
• Lenguas y culturas indígenas
• Política social actual
• Universalidad de valores
• Se prioriza el uso de la IA sin que esta sea la mejor solución o respuesta a una necesidad o problema
• Se implementa sin tener en cuenta a las personas destinatarias somo sujetos de derechos 

Perspectiva feminista en la Inteligencia Artificial

¿Por qué perspectiva feminista?

• Poblar Internet
• Ética y IA
• Evidenciar los indicadores de Derechos humanos de los proyectos
• Desde la diversidad
• Cuestionamos nuestras visiones sobre el desarrollo o el futuro
• Corregir desigualdades
• Incluir al sur global
• Equipos multidisciplinarios
• Equilibrio entre el antropocentrismo y el biocentrismo
• Reflexión crítica y positiva
• Agenda feminista IA
• Pensar a nivel local y global
• Derechos lingüísticos y culturales
• Relacionó la soberanía tecnológica y autonomía  
• Sustentabilidad

Recursos sobre Inteligencia Artificial y Perspectiva Feminista

Presentación de las investigaciones del hub de América Latina y el Caribe de la Red <fA+ir> en su Primer Encuentro Regional con la misión de impulsar una agenda feminista de investigación-acción e innovación que permita avanzar en la equidad de género, los derechos culturales, la autonomía y la soberanía tecnológica, la justicia social y ambiental.

Documento con las contribuciones de las participantes de la red f<a+i>r enfocada en los retos y oportunidades de la construcción de una agenda de investigación sobre IA feminista para la región, el libro reúne también reflexiones de activistas e investigadoras invitadas de distintas regiones del Sur global, como Yásnaya Elena Aguilar y Tajëëw Díaz Robles, de México, Kruskaya Hidalgo Cordero, de Ecuador, Buse Çetin, de Turquía, y Rachel Adams, de Sudáfrica. La edición también cuenta con un listado de recursos y materiales de interés para quiénes deseen profundizar en la temática:

Vídeo del seminario "Una crítica del discurso de IA para los ODS y una reflexión sobre la IA en armas autónomas" a cargo de Wanda Muñoz,  (Experta ante la Alianza Global sobre Inteligencia Artificial, Red Seguridad Humana en América Latina- SEHLAC). Organizado por la Universitat de Girona dentro del #CicleOIEAC.

Referencias 

Banco Interamericano de Desarrollo (2020). La inteligencia artificial al servicio del bien social en América Latina y el Caribe: Panorámica regional e instantáneas de doce países. http://dx.doi.org/10.18235/0002393

Red FAIR LAC (2022) INTELIGENCIA ARTIFICIAL FEMINISTA Hacia una Agenda de Investigación para América Latina y El Caribe. Editorial Tecnológica de Costa Rica. https://archive.org/details/inteligencia-artificial-feminista/page/n10/mode/1up 

Sinders, C. (05/05/2022)Repensando la inteligencia artificial a través del feminismo. Centro de Cultura Contemporánea de Barcelona.  https://lab.cccb.org/es/repensando-la-inteligencia-artificial-a-traves-del-feminismo/

La educación y la Teoría Crítica

Getty Images

El enfoque crítico se basa en la Teoría Crítica, una corriente filosófica que surgió en la primera mitad del siglo XX, desarrollada principalmente por la Escuela de Frankfurt, integrada por intelectuales como Max Horkheimer, Theodor Adorno, Herbert Marcuse y Jürgen Habermas. Esta escuela se centró en analizar y criticar las estructuras de poder y las ideologías dominantes que perpetúan la opresión y la injusticia social, con el objetivo de no solo comprender la realidad, sino también transformarla para favorecer una sociedad más justa y equitativa.

¿En qué consiste el enfoque crítico?

El enfoque crítico se caracteriza por cuestionar y desafiar el statu quo, promoviendo una reflexión profunda sobre las estructuras de poder, normas sociales y prácticas culturales que moldean la vida cotidiana. En lugar de aceptar la realidad tal como se presenta, este enfoque busca identificar y desmantelar las relaciones de poder opresivas, utilizando un análisis reflexivo y una postura de escepticismo frente a las narrativas dominantes. 

Aporte del enfoque crítico para la ciudadanía

El enfoque crítico empodera a la ciudadanía al proporcionar herramientas para cuestionar y comprender las estructuras de poder que influyen en sus vidas. Adoptar una postura crítica permite a los ciudadanos:

• Conciencia de la injusticia social: Al analizar las relaciones de poder y las ideologías que perpetúan la desigualdad, las personas pueden identificar las injusticias y cómo se sostienen.
• Promoción de la acción colectiva: Este enfoque no solo promueve la reflexión, sino también la acción, permitiendo a los ciudadanos organizarse y movilizarse para exigir cambios en políticas y prácticas.
• Participación activa en la vida pública: Al cuestionar normas y prácticas, se fomenta una mayor participación en la toma de decisiones comunitarias, promoviendo una democracia más participativa.

Aporte en la educación social

En la educación social, el enfoque crítico desempeña un papel fundamental al crear espacios para la reflexión y el cuestionamiento fuera de las estructuras educativas tradicionales. A diferencia de la educación formal, la educación social es flexible y abierta a la participación activa de los estudiantes en la construcción de su conocimiento. Sus principales aportes incluyen:

• Desarrollo del pensamiento crítico: Fomenta habilidades para analizar y cuestionar las realidades sociales.
• Empoderamiento personal y colectivo: Centrado en la experiencia de los participantes, permite a las personas tomar control de su aprendizaje para mejorar sus comunidades.
• Promoción de la equidad y justicia social: Facilita la comprensión de las dinámicas de poder y apoya la creación de sociedades más justas.
• Aprendizaje participativo: Estimula un aprendizaje práctico y basado en la comunidad, donde la colaboración y la reflexión colectiva son fundamentales.

En resumen, el enfoque crítico ofrece un marco robusto tanto en el diseño como en la educación, permitiendo a las personas cuestionar, reflexionar y actuar sobre las estructuras que afectan sus vidas, con el fin de promover una sociedad más equitativa y justa.

La educación y la Teoría Crítica

La relación entre la educación y la Teoría Crítica es un tema fundamental que ha sido explorado por varios de los filósofos, quienes abordan cómo la educación puede ser un medio para la emancipación y la transformación social. A continuación, se detalla cómo algunos de estos filósofos han relacionado la educación con la Teoría Crítica:

1. Herbert Marcuse

Marcuse, uno de los miembros más influyentes de la Escuela de Frankfurt, tenía un interés particular en el potencial emancipador de la educación. En su obra, "Eros y civilización" y "El hombre unidimensional", Marcuse critica cómo las sociedades industriales avanzadas promueven un conformismo que sofoca el pensamiento crítico y la creatividad. Para Marcuse, la educación debería ser un proceso que libere a los individuos de la opresión y el conformismo, fomentando la capacidad crítica y la creatividad. Propone una educación que no solo imparta conocimientos técnicos o habilidades prácticas, sino que también promueva la conciencia crítica y la resistencia a las formas de dominación, permitiendo a los individuos cuestionar el statu quo y desarrollar una visión alternativa de la sociedad.

2. Jürgen Habermas

Habermas, otro miembro destacado de la Escuela de Frankfurt, relaciona la educación con su teoría de la acción comunicativa. En este marco, la educación se concibe como un espacio donde se fomenta el diálogo racional y la deliberación crítica. Habermas sostiene que la educación debe permitir a los individuos participar en debates públicos y deliberaciones democráticas de manera informada y crítica. La educación, en su visión, es clave para el desarrollo de la autonomía y la capacidad de los ciudadanos para participar en la democracia, siendo un medio para superar las distorsiones ideológicas que limitan la comunicación y la comprensión mutua. En este sentido, la educación no solo tiene una función informativa, sino también transformadora, al capacitar a los individuos para participar activamente en la sociedad.

3. Axel Honneth

Honneth, quien ha desarrollado la teoría del reconocimiento, ve la educación como un ámbito crucial para el reconocimiento social. Según Honneth, el reconocimiento es fundamental para el desarrollo de una identidad positiva y para la participación plena en la sociedad. En el contexto educativo, esto significa que la educación debe ser un proceso inclusivo que reconozca y valore las diversas identidades y experiencias de los estudiantes. La falta de reconocimiento en el ámbito educativo puede llevar a la marginación y a la perpetuación de las desigualdades sociales. Por lo tanto, una educación crítica, en la visión de Honneth, debe esforzarse por ser inclusiva y promover la equidad, permitiendo que todos los estudiantes se sientan reconocidos y valorados.

4. Nancy Fraser

Fraser, aunque más conocida por su trabajo en justicia social, también ha vinculado la educación con la teoría crítica a través de su concepto de justicia redistributiva y de reconocimiento. Fraser argumenta que la educación debe ser un espacio donde se combinen ambas formas de justicia: redistribuir los recursos educativos de manera equitativa y reconocer las diferencias culturales y sociales de los estudiantes. Para Fraser, una educación crítica debe desafiar tanto las desigualdades económicas como las formas de exclusión cultural, promoviendo un entorno donde todos los estudiantes tengan las mismas oportunidades de éxito y desarrollo personal. Esto implica repensar las estructuras y currículos educativos para que sean más inclusivos y sensibles a las diversas realidades de los estudiantes.

5. Paulo Freire 

Aunque no es miembro de la Escuela de Frankfurt, Paulo Freire es una figura crucial en la Teoría Crítica de la educación. Su obra "Pedagogía del oprimido" se centra en la idea de que la educación debe ser un proceso de concientización (conscientização) que permite a los oprimidos entender y cuestionar las estructuras de poder que los afectan. Freire aboga por una educación dialógica donde maestros y estudiantes aprenden juntos a través de un proceso de reflexión crítica y acción (praxis), en lugar de una educación bancaria que simplemente transmite conocimientos de manera pasiva. Su enfoque es esencial para entender cómo la educación puede ser un medio para la liberación y el cambio social.

En conjunto, estos filósofos ven la educación no solo como un medio para transmitir conocimiento, sino como una herramienta fundamental para la emancipación individual y social. La educación crítica, desde su perspectiva, es un proceso de transformación que permite a los individuos desarrollar una conciencia crítica sobre las estructuras de poder que los rodean y les proporciona las herramientas para cuestionar y cambiar esas estructuras, promoviendo una sociedad más justa y equitativa.

4 técnicas de procesos de co-creación para adolescentes y jóvenes

Técnica Day in the Life of (DILO)

DILO es una técnica que implica seguir a una persona durante un día completo, registrando sus actividades y experiencias en detalle. Se utiliza para comprender mejor cómo se llevan a cabo las tareas y cómo se interactúa con el entorno. Ejemplo::

• Seguir a una joven recién llegado durante un día para comprender sus desafíos diarios, cómo interactúan con los recursos disponibles y qué necesidades no están siendo atendidas. Esto ayudaría a desarrollar programas más efectivos para apoyar a esta población vulnerable.

Recurso: https://chiefsforchange.org/wp-content/uploads/2020/07/200724-2100-DILO-toolkit-and-simulation_Updated-1.pdf

Técnica SCAMPER

Es una técnica de pensamiento creativo que ofrece diferentes preguntas para estimular la generación de ideas nuevas y la mejora de conceptos existentes. Cada letra de S.C.A.M.P.E.R. representa una pregunta específica relacionada con la idea que se quiere desarrollar. Ejemplo educativo: 

Una educadora podría usar SCAMPER para mejorar una actividad de clase existente, por ejemplo:

Un proyecto de investigación sobre proceso de acogida. Usando SCAMPER, podrían hacerse preguntas como:

• Sustituir: ¿Qué otro tipo de proyecto podría sustituir el programa de acogida actual?
• Combinar: ¿Cómo puedo combinar esta propuesta  con otras oportunidades o servicios, como culturales o educativas?
• Adaptar: ¿Cómo puedo adaptar las actividades del proceso de acogida de acuerdo a las diferentes necesidades de todas las personas para no generar exclusión o dificultades?
• Modificar: ¿Qué aspectos puedo modificar para hacer que el proceso sea más interactivo y participativo?
• Poner en otro uso: ¿Cómo podemos utilizar las mejoras para dialogar con otros procesos dirigido a el mismo colectivo de personas?

Recurso: https://cedec.intef.es/scamper-cedec-2/

Técnica 5 Whys

Es una técnica simple pero efectiva para identificar la causa raíz de un problema. Implica hacer una serie de preguntas "por qué" sucesivas hasta llegar a la causa raíz del problema. Ejemplo educativo: 

• Identificar los 5 desafíos en la alfabetización digital partir de preguntas: Porque no se observa interés en un grupo de adultos por participar en clases de alfabetización digital, los 5 Whys pueden revelar que su falta de motivación se debe a experiencias educativas previas negativas o problemas de autoestima relacionados con el aprendizaje.

Recurso: https://www.lean.org/lexicon-terms/5-whys/

Técnica Rose, Thorn, and Buddy

Esta técnica es útil para recopilar comentarios constructivos y positivos en un entorno grupal. Los participantes expresan un "Rose" (algo positivo), un "Thorn" (algo negativo o que se puede mejorar) y seleccionan a un "Buddy" (compañero) con el que trabajar para abordar el "Thorn". Ejemplo educativo: 

• Niños y niñas podrían aplicar esta técnica después de evaluar un proyecto o evento comunictario. Cada persona compartiría un "Rose" resaltando algo positivo que se hizo durante el proyecto. A continuación, compartirían un "Thorn", señalando algo que podría mejorarse del antes, durante o después del evento. Finalmente, cada persona seleccionaría a un "Buddy" con el que colaborar para abordar el aspecto señalado en el "Thorn" y mejorar en futuros proyectos.

Recurso: https://miro.com/es/plantillas/rose-bud-thorn/