Actividad para el aula: Uso crítico de imágenes generadas con IA
Esta actividad presenta algunas herramientas y posibles usos de la Inteligencia Artificial (IA) en relación a la generación de imágenes considerando los sesgos en los que pueden incurrir.
Objetivos:
Conocer y explorar algunas herramientas de IA con fines educativos
Alfabetizar en el uso crítico y responsable de la IA
Antes de comenzar a analizar y producir con la IA en el aula, sugerimos estas preguntas para considerar algunos aspectos de la IA que nos permitirán usarlas de un modo más adecuado
¿Necesito usar la IA generativa para realizar esta actividad? ¿Realmente va a marcar la diferencia? Las herramientas de IA consumen grandes cantidades de recursos naturales (principalmente agua y energía) por lo que es importante subrayar la importancia de un uso responsable y equilibrado de estas herramientas.
¿Al redactar mis instrucciones a la IA uso lenguaje respetuoso, no sexista ni discriminatorio? Cuando hacemos solicitudes a una herramienta de IA, estamos entrenando a ese modelo con esos datos. Por lo mismo, es importante evitar reproducir este tipo de sesgos al generar nuestras indicaciones.
Pero… ¿Qué son los sesgos en la IA?
Los sesgos son errores sistemáticos en los que se puede incurrir al seleccionar o favorecer unos elementos o respuestas frente a otras. Se trata de desviaciones o tendencias que pueden inclinar nuestras ideas y hacernos aceptar o rechazar algo por creerlo más o menos favorable.
¿Cómo operan los sesgos en la IA?
Los resultados que arrojan las herramientas de IA, son generados a partir de modelos que, a su vez, fueron entrenados con ciertos datos y por personas. Entonces, de acuerdo al tipo de entrenamiento, los resultados pueden variar. Si los datos con los que se entrenó el modelo contienen sesgos, los mismos se trasladarán a los resultados que arrojen. A su vez, si hay datos que no fueron considerados al entrenar esos modelos, probablemente no aparezcan en sus resultados. Entonces, tanto al seleccionar como al producir imágenes realizadas con IA, es importante analizar si están reproduciendo un sesgo o no.
Actividad de análisis
Estas imágenes fueron generadas usando la herramienta Ideogram. Se le pidió que genere fotos con la instrucción “Un profesional de la salud”. Estos son los resultados.
Al pedirle que genere “Una persona migrante” la misma herramienta generó estas imágenes
Mostrar las siguientes imágenes (u otras generadas para esta actividad) a las y los estudiantes.
Solicitar un análisis de esas imágenes considerando cuáles les parecen las más adecuadas y por qué. ¿Cuáles son los grupos que se ven desfavorecidos? ¿Cuáles resultan beneficiados? ¿Te parecen adecuados los resultados obtenidos? ¿Por qué?
Identificar si hay imágenes que reproducen sesgos de género, de etnia, de edad, de religión, de clase social u otro. Pensar por qué la IA incurrió en esos sesgos. ¿Las imágenes son estereotipadas? ¿Se muestran de modo poco favorable personas por cuestiones de género, etnia o edad? ¿De qué manera se logra mostrar negativamente a estos grupos?
Comparar herramientas para elegir la que consideramos más adecuada ¿Cuál de las herramientas te parece que reproduce menos sesgos? ¿Por qué? ¿Alguna herramienta incurre en algunos sesgos y no en otros? ¿Por qué creés que ocurre esto?
Luego del debate y análisis, podemos proponer una actividad de producción. Hay muchas actividades en las que podemos necesitar generar imágenes: ilustrar un ensayo o trabajo práctico, armar una historieta o storyboard, incluir imágenes en una presentación, etc.
Aconsejamos redactar la instrucción o pedido con la mayor precisión y con una cantidad de detalles que orienten el resultado. Por ejemplo:
Especificar el tipo de imagen que busco
Detallar los elementos que deben aparecer y su aspecto
Especificar las características de las personas
Describir los lugares y espacios con detalle
Actividad de producción: redacción de instrucciones para generar imágenes con IA
Crear un documento para volcar los resultados obtenidos y los análisis realizados.
Redactar una instrucción para generar una imagen considerando el resultado que necesitamos obtener. Copiar esa instrucción en el documento.
Una vez obtenida la imagen, pegarla debajo de la primera instrucción y analizarla ¿El resultado obtenido es satisfactorio? ¿Qué elementos faltan? ¿identificamos algún sesgo en la imagen?
Redactar una segunda versión de la instrucción a partir del análisis realizado, para obtener un resultado más adecuado. Copiarla en el documento. Luego de genera la imagen, pegarla en el documento.
Como variante, se puede pedir que la misma instrucción se realice usando dos herramientas distintas. Para realizar esta actividad dejamos una lista de herramientas de IA para generara imágenes
Herramientas para trabajar con IA y generación de imágenes
Ideogram: Se utiliza desde una cuenta de Google. Permite generar 10 instrucciones por día y cada instrucción genera por defecto 4 imágenes (40 imágenes por día). Las imágenes generadas se hacen públicas automáticamente.
Craiyon: Luego de generar un usuario permite crear imágenes a partir de descripciones con distintos estilos (arte, foto, dibujo).
Dream. ai: Luego de generar un usuario permite crear imágenes a partir de descripciones y elegir un estilo o formato. También permite crear una imagen a partir de otra que subamos.
Leonardo.ai: Luego de crear usuario permite generar imágenes muy realistas. En el plan básico hay límite de imágenes así que hay que usarlo considerando esto.
Stable Diffusion Online: Permite usarlo desde una cuenta de Google. Permite generar instrucciones en inglés (hay que traducirlos desde el español), elegir un estilo y ratio. Guarda las imágenes por una semana y las crea con marca de agua.
Bibliografía y recursos:
Educ.ar (2024) La materialidad de la inteligencia artificial y su costo ambiental (Ficha). Disponible en: https://www.educ.ar/recursos/159115/la-materialidad-de-la-inteligencia-artificial-y-su-costo-amb
