Voreingenommenheit bei Design Thinking und AI

Wie wirken sich Kreativität und Vorurteile auf Designer im Zeitalter der KI aus?

Designer können als die perfekte Verbindung von Problemlösern und menschlicher Kreativität bezeichnet werden. Sie formen das Ungreifbare zum Sichtbaren. Angesichts des zunehmenden Interesses an KI integrieren Unternehmen rasch modernste Tools für die Automatisierung von Aufgaben, Deep Learning und Data Ideation. Führt diese symbiotische Beziehung jedoch ungewollt zu einer Verzerrung des kreativen Prozesses?

Kreative Voreingenommenheit und Design Thinking

Zunächst müssen wir Design Thinking verstehen. Die Erfahrungsreise für jeden kreativen Menschen. Design Thinking ist nicht linear, es ist voll von Iterationen, Herausforderungen und dem "Verständnis" der Nutzer.

Sie konzentriert sich auf diese fünf grundlegenden Phasen:

Einfühlen > Definieren > Ideieren > Prototyp > Testen

Von diesen Stufen ist Empathie ein Eckpfeiler. Schauen wir uns dieses Beispiel an:

"Wenn Sie dies lesen, gehören Sie zu der Gruppe, die die am weitesten verbreitete Sprache beherrscht: Englisch. Ironischerweise sind Sie auch mit dem Internet verbunden, dem Tor zu eben diesem Artikel. Ihre Entscheidung, sich mit diesem Artikel zu beschäftigen, lässt auf eine höhere Bildung schließen."

Diese "Annahmen" entstehen leicht in der so genannten "Einfühlungsphase".

Es ist leicht, sich von jeglicher emotionalen Verbindung zu lösen, wenn die Empathie gegenüber dem Thema gering ist. Hier werden Designer zu Einflussnehmern, denen es oft nicht gelingt, unsere Entwürfe von unseren Annahmen und Ideologien zu lösen.

In der rasanten Entwicklung der visuellen Kommunikation - von archaischen Schriften bis hin zum endlosen Wandteppich der modernen TikTok-Schriftrollen - kommt es zu Fehlinterpretationen und Konflikten.

Fehlinterpretationen sind schwer zu vermeiden. Aber im Kern geht es darum, während des Entwurfsprozesses eine universelle Denkweise anzunehmen. Eine Herausforderung, die uns oft zu annahmegeleiteten Pfaden zurückführt.

Da wir nach westlichen Grundsätzen arbeiten, neigen wir dazu, latente Vorurteile zu verschatten. Der Einfluss des Modernismus auf das Design ist mehr denn je präsent, da auf Ornamente zugunsten klarer, lesbarer Kompositionen verzichtet wird. Eine vollständige Standardisierung der kulturellen Nuancen.

Voreingenommenheit und künstliche Intelligenz

KI-Verzerrungen treten in der Anfangsphase der Dateneingabeverarbeitung auf. Algorithmen werden von Menschen erstellt und unterstellt. Ähnlich wie bei der Empathiephase im Design Thinking, einem von Annahmen geleiteten Prozess, bleibt die Frage bestehen: Können wir uns in die Daten selbst einfühlen?

KI-Systeme treffen Entscheidungen auf der Grundlage von Trainingsdaten, die durch menschliche Voreingenommenheit verfälscht sind. Gelegentlich spiegeln sie soziale Ungerechtigkeiten und verzerrte historische Ereignisse wider, selbst wenn sensible Variablen wie Ethnie, Geschlecht und sexuelle Orientierung entfernt werden.

Ein bemerkenswertes Beispiel war der Fall der "Amazon Recruiting Engine". Ein KI-gestütztes Tool, das bei der Überprüfung von Stellenbewerbungen und der Ermittlung von Spitzenkandidaten hilft. Später wurde festgestellt, dass es weibliche Bewerber benachteiligt. Das System war zuvor darauf trainiert worden, Daten aus Lebensläufen von mehrheitlich männlichen Bewerbern aus einem Zeitraum von zehn Jahren zu verwenden. Infolgedessen lernte das System, männliche Bewerber gegenüber Frauen zu bevorzugen.

Dieses Beispiel zeigt, wie wichtig es ist, Daten sorgfältig zu prüfen und zu kuratieren. Andernfalls werden wir die Fähigkeit bestimmter Gruppen zur gesellschaftlichen und wirtschaftlichen Teilhabe einschränken.

Die eigentliche Verantwortung liegt darin, die Fairness zu verstehen und zu messen. Die "kontrafaktische Fairness" ist eine vielversprechende Technik, die sicherstellt, dass die Entscheidungen des Modells in einer kontrafaktischen Welt, in der als sensibel erachtete Merkmale wie Ethnie, sexuelle Orientierung oder Geschlecht geändert wurden, gleich ausfallen.

Diese technischen Lösungen sind unerlässlich, um zu bestimmen, wann ein System fair genug ist, um freigegeben zu werden, und in welchen Situationen eine vollautomatische Entscheidungsfindung zugelassen werden sollte.

Ein unvoreingenommener Weg mit künstlicher Intelligenz:

1. Erkennen Sie Ihr Privileg an

Designer "kontrollieren" (teilweise) die Botschaft. Wir haben eine privilegierte Position, während wir dazu neigen, das Narrativ im Einklang mit der "Norm" zu gestalten. Diese Norm stimmt jedoch nicht mit der breiteren Bevölkerung überein. Meine persönlichen Erfahrungen zwingen mich zum Beispiel dazu, meine rassische Identität mit "schwarzer afrikanischer Abstammung" zu kennzeichnen. Das steht in krassem Gegensatz zu den Konnotationen, die der Begriff "schwarz" mit sich bringt: schwarze Schachtel, schwarzes Schaf, schwarzer Bereich. Aber für Sie könnte es "nur" eine Farbe oder eine Redensart sein. Denken Sie nach und überprüfen Sie Ihre eigenen impliziten Annahmen. Das Projekt Implicit der Harvard University ist ein guter Anfang.

2. Informieren Sie alle Beteiligten und lassen Sie sich von ihnen informieren

Man muss auf dem Laufenden sein! KI und Design sind schnelllebige Bereiche, voller Trends und Spitzentechnologien. Seien Sie lern- und anwendungsfreudig, aber denken Sie immer daran, unbequeme Gespräche zu führen, die das gerade Gelernte in Frage stellen. Ist es objektiv oder voreingenommen? Tauschen Sie sich mit Ihrem Kunden, Ihren Kollegen und Ihrem CEO oder sogar mit anderen besten Marketingagenturen in London aus. Lassen Sie sich aus einem anderen Blickwinkel belehren. Google Die KI veröffentlicht immer wieder interessante Artikel, aber denken Sie daran, Ihren Blickwinkel zu erweitern und globale Stimmungen zu berücksichtigen.

3. Vorrang für Transparenz und Diversität

Sie werden Fehler machen, Sie werden scheitern. Aber gestehen Sie sie sich ein und fangen Sie neu an, übernehmen Sie Verantwortung und lernen Sie neu. Wenn Sie daraus lernen, sind Sie ein guter Designer, ein guter Kollege, eine gute Führungskraft und letztlich ein guter Mensch. Halten Sie immer Ausschau nach einer vielfältigen und integrativen Pipeline für Ihr Kreativ- und KI-Team, da diese besser in der Lage sind, Vorurteile zu erkennen und zu beseitigen. Schauen Sie bei Ihrer nächsten Stellenausschreibung bei Diverse nach, denn sie kämpfen gegen die Homogenität der KI-Branche und des gesamten Technologiesektors. Ein Blick über den Tellerrand kann Ihnen eine neue Perspektive eröffnen.

KI hat das Potenzial, vielen Unternehmen zu nützen und kreative Arbeitsabläufe zu verbessern, aber das wird nur möglich sein, wenn wir sie so trainieren, dass sie keine voreingenommenen Ergebnisse liefert. KI kann den Menschen helfen, aber nur, wenn die Menschen zusammenarbeiten, um Voreingenommenheit zu bekämpfen. Wenn Sie über die Anfangsphase des Design Thinking nachdenken, fragen Sie sich, ob Sie sich wirklich in eine Randgruppe einfühlen und ob Vorurteile Ihren Ansatz trüben.

Literaturverzeichnis Gov UK Verkabelt Indiaai Bootcamp UX-Design Reuters Medium Die Politik des Designs Forbes Jon Yablonski HBR.org