Inteligencia Artificial y Feminismo

 

Cartel de las V Jornadas de Buenas Prácticas del CEP de Huelva- Isla Cristina

En la actualidad ha tomado gran protagonismo la Inteligencia Artificial (IA), al menos, en el ámbito educativo, campo en el que nos movemos.

De una parte, el propio profesorado lo está incorporando en su quehacer diario en cuanto a temas burocráticos e incluso para la planificación de tareas y situaciones de aprendizaje.

Por otra parte, el alumnado de etapa secundaria y superior, también lo está incorporando como una herramienta de trabajo en sus tareas y estudios.

En lo que al profesorado respecta, han aumentado las necesidades formativas en las siguientes vertientes:

• Uso de la inteligencia Artificial para tareas de gestión administrativa.
• La inteligencia Artificial como herramienta de planificación y evaluación de las situaciones de aprendizaje y atención a la diversidad.
• Academia Gemini para educadores/as.
• Usos de NotebookLM
• Protección de datos en el uso de IA: uso de plataformas.
• Detección del uso de IA en tareas del alumnado.

En cada una de las formaciones realizadas se incide en el uso crítico y reflexivo de dicha herramienta, sirviendo como una ayuda y apoyo sin olvidar que el verdadero protagonista es el usuario y usuaria, pudiendo introducir mejoras a las propuestas elaboradas con IA.

Pero también es cierto que la saturación de tareas y la prisa en la que nos vemos envueltas, en ocasiones, dificulta dicha tarea de reflexión y mejora; lo cual es verdaderamente alarmante, más aún en temas como la igualdad.

Está claro que la IA se ha convertido en una herramienta muy potente, pero no deja de ser eso, una herramienta a nuestro servicio que debemos utilizar con cierta cautela y visión crítica.

En varias ocasiones, he podido leer que esta herramienta no respeta el principio de igualdad, lo que como coeducadoras debe preocuparnos y ponernos en alerta, ya que si se ha convertido en una pieza educativa y social clave, debe garantizar el derecho fundamental de igualdad.

En el caso de Andalucía, el acuerdo de la Junta con Google, ha transmitido la idea de que Gemini y NotebookLM son entornos "seguros" para el ámbito educativo; pero se aconseja no introducir datos personales. Por tanto, la cautela sigue siendo una medida de protección.

En este sentido haciendo uso de ellas en el tema de igualdad, es importante señalar las siguientes consideraciones:

• Se siguen perpetuando los datos históricos sesgados
• Falta de representación en el ámbito tecnológico (STEM)
• Imágenes estereotipadas y sexualizadas
• Lenguaje no inclusivo
• No representa realidades diversas
• Violencia digital y privacidad

Por tanto, sería conveniente recopilar las siguientes propuestas de trabajo (Fuente: curso online "Academia Gemini para educadores" del aula virtual de formación del profesorado de la Junta de Andalucía):

• Analizar los problemas de sesgo y equidad en la IA y el aprendizaje automático (Machine Learning)
• Comprender la importancia de la privacidad de los datos al usar herramientas de IA.
• Examinar las limitaciones y los posibles errores de las herramientas de IA y qué hacer.
• Evaluar críticamente la imparcialidad de los sistemas de IA en cada interacción.
• Fomentar la inclusión en los equipos que evalúan los productos de IA utilizados.
• Enseñar al alumnado a pensar críticamente sobre los posibles sesgos de la IA.
• Abogar por una mayor transparencia y responsabilidad en torno a la IA.
• Sabemos que las respuestas de los chatbots son falibles, tienen limitaciones y no siempre son correctas. Los errores en las respuestas se denominan alucinaciones. Cuando uses herramientas de IA como Gemini, recuerda comprobar la precisión y la veracidad de las respuestas. Siempre revisa los resultados cuidadosamente.
• Tres formas en las que los chatbots generan información inexacta o errónea: Hechos inventados, Lógica defectuosa y Fuentes falsas.
• Evaluación crítica de las respuestas, utilizando el marco AAA: Precisión (Accurate), Pertinencia (Appropriate), and Coincidencia (Aligned)
• Haz preguntas de seguimiento o reformula la respuesta para verificar la coherencia.
• Consulta fuentes de referencias tradicionales y expertas para validar conceptos o puntos clave.
• Considera las limitaciones y los datos de entrenamiento del chatbot.
• Verifica sus respuestas antes de usarlas en un entorno educativo.
• No se debe utilizar ninguna información confidencial, incluidos los datos del alumnado, en las instrucciones o prompts.
• La protección de datos es un factor importante  a tener en cuenta al utilizar chatbots de IA. Evalúa si estás siguiendo las pautas recomendadas de privacidad de datos. Te puede ayudar preguntas como:
• ¿Se ha omitido toda la información personal o se ha reemplazado por seudónimos para evitar identificar r a una persona específica?
• ¿Se está utilizando solo la información estrictamente necesaria para la tarea en cuestión?
• ¿Es posible rastrear los datos utilizados y obtener información sensible?

Lecturas recomendadas:

• "Cómo la inteligencia artificial refuerza los sesgos de género y qué podemos hacer al respecto"
• "La inteligencia artificial no es feminista"
• "IA y feminismo"
• "Repensando la inteligencia artificial a través del feminismo"
• "Inteligencia artificial y sesgos de género"
• "La mujeres y el desarrollo de la inteligencia artificial"