Prejuicios en el pensamiento de diseño y la IA

¿Cómo afectan la creatividad y los prejuicios a los diseñadores en la era de la IA?

Los diseñadores pueden describirse como la fusión perfecta entre la resolución de problemas y la creatividad humana. Transforman lo intangible en visible. Con un creciente interés en la IA, las organizaciones están integrando rápidamente herramientas de vanguardia para automatizar tareas, aprendizaje profundo e ideación de datos. Sin embargo, ¿esta relación simbiótica perpetúa inadvertidamente los prejuicios en el proceso creativo?

Sesgo creativo y pensamiento de diseño

En primer lugar, tenemos que entender el Design Thinking. El viaje experiencial de cualquier ser humano creativo. El Design Thinking no es lineal, está lleno de iteraciones, retos y "comprensión" del usuario.

Se centra en estas cinco etapas fundamentales:

Empatizar > Definir > Idear > Prototipar > Probar

De estas etapas, Empatizar es la piedra angular. Veamos este ejemplo:

"Si estás leyendo esto, formas parte de la cohorte que comprende los idiomas más universalmente aceptados: el inglés. Irónicamente, también estás conectado a Internet, la puerta de entrada a este mismo artículo. Tu elección de participar en este artículo sugiere una educación superior".

Estas "suposiciones" se forman fácilmente durante lo que denominamos la fase de "empatizar".

Es fácil desprenderse de cualquier conexión emocional cuando la empatía hacia el sujeto es escasa. Aquí es donde los diseñadores nos convertimos en agentes de influencia, pues a menudo no logramos desvincular nuestros diseños de nuestras suposiciones e ideologías.

En medio de la rápida evolución de la comunicación visual -desde las escrituras arcaicas hasta el interminable tapiz de los modernos rollos de TikTok- surgen malinterpretaciones y conflictos.

Las interpretaciones erróneas son difíciles de evitar. Pero en su núcleo se encuentra la adopción de una mentalidad universal durante el proceso de diseño. Un reto que a menudo nos lleva de vuelta a vías guiadas por suposiciones.

Como funcionamos con principios occidentales, tendemos a ensombrecer prejuicios latentes. La influencia del Modernismo en el diseño está más presente que nunca con el continuo abandono de la ornamentación en favor de composiciones limpias y legibles. Una estandarización total de los matices culturales.

Sesgo e inteligencia artificial

El sesgo de la IA se produce en las fases iniciales del procesamiento de la entrada de datos. Los algoritmos son generados e imputados por humanos. Al igual que en la fase Empathise del Design Thinking, un proceso basado en suposiciones, la pregunta persiste: ¿Estamos empatizando con los propios datos?

Los sistemas de IA toman decisiones basadas en datos de entrenamiento, contaminados por sesgos humanos. En ocasiones reflejan desigualdades sociales, acontecimientos históricos sesgados incluso cuando se eliminan variables sensibles como la raza, el sexo y la orientación sexual.

Un ejemplo notable fue el caso de "Amazon Recruiting Engine". Una herramienta basada en inteligencia artificial que ayuda a revisar las solicitudes de empleo e identificar a los mejores candidatos. Más tarde se descubrió que tenía un sesgo en contra de las candidatas. El sistema había sido entrenado previamente para utilizar datos de diez años de currículos de la mayoría de candidatos masculinos. Como resultado, el sistema aprendió a favorecer a los candidatos masculinos en detrimento de las mujeres.

Este ejemplo muestra la importancia de auditar y conservar cuidadosamente los datos. De lo contrario, reduciremos la capacidad de determinados grupos para participar en la sociedad y económicamente.

Entender y medir la equidad es la verdadera responsabilidad. La "imparcialidad contrafáctica" es una técnica prometedora que garantiza que las decisiones del modelo son las mismas en un mundo contrafáctico en el que se modificaran atributos considerados sensibles como la raza, la orientación sexual o el sexo.

Estas soluciones técnicas son esenciales para determinar cuándo un sistema es lo bastante justo para ser liberado y en qué situaciones debe permitirse una toma de decisiones totalmente automatizada.

Un camino imparcial con inteligencia artificial:

1. Reconozca su privilegio

Los diseñadores "controlamos" (en parte) el mensaje. Tenemos una posición privilegiada y tendemos a dar forma a una narrativa que se ajusta a la "norma". Sin embargo, esta norma no coincide con la población en general. Por ejemplo, mi experiencia personal me obliga a marcar "negro de ascendencia africana" como mi identidad racial. Una dura yuxtaposición con las connotaciones que conlleva el término "negro": caja negra, oveja negra, zona negra. Pero para ti podría ser "sólo" un color o un dicho popular. Reflexiona y pon a prueba tus propios supuestos implícitos. El Proyecto Implícito de la Universidad de Harvard es un buen punto de partida.

2. Eduque a todas las partes interesadas y deje que ellas le eduquen a usted

¡Hay que estar al día! La IA y el diseño son campos que avanzan a gran velocidad, llenos de tendencias y tecnologías punteras. Ten ganas de aprender y aplicar, pero recuerda siempre establecer conversaciones incómodas que cuestionen lo que acabas de aprender. ¿Es objetivo o tendencioso? Converse con su cliente, su colega y su director general o incluso con otras de las mejores agencias de marketing de Londres. Permítase ser educado desde un punto de vista diferente. Google Ai siempre está compartiendo artículos interesantes, pero recuerde diversificar su perspectiva y tener en cuenta los sentimientos globales.

3. Priorizar la transparencia y la diversidad

Cometerás errores, fracasarás. Pero asúmelo y vuelve a empezar, asume la responsabilidad y vuelve a aprender. Aprender de ello te convierte en un buen diseñador, un buen colega, un buen líder y, en definitiva, en una buena persona. Busca siempre una base diversa e inclusiva para tu equipo creativo y de AI, ya que serán mejores a la hora de anticipar, detectar y revisar los prejuicios. En tu próxima oferta de trabajo, busca en Diverse, ya que luchan contra la homogeneidad del campo de la IA y del sector tecnológico en general. Un punto de vista que se pasa por alto puede darte una nueva perspectiva.

La IA puede beneficiar a muchas empresas y mejorar el flujo de trabajo creativo, pero sólo será posible si la entrenamos para que no produzca resultados sesgados. La IA puede ayudar a los humanos, pero solo si estos colaboran para combatir los prejuicios. Reflexionando sobre la fase inicial del Design Thinking, pregúntate si realmente empatizas con un grupo marginado y si los prejuicios enturbian tu enfoque.

Bibliografía Gov UK Conectado Indiaai Bootcamp Diseño UX Reuters Medium La política del diseño Forbes Jon Yablonski HBR.org