Ludvig Strand: AI är rasistisk och sexistisk – kan vi använda det till något bra?

När Sveriges civil- och digitaliseringsminister i januari beskrev Sveriges svar på att ha halkat efter i AI-vågen, var det svårt att undgå den yrvakna tonen.

Ministerns iver var lika tydlig som bristen på både strategi och förståelse för teknikens effekt på missgynnade samhälsgrupper. "Enjoy the ride" sades det till myndighetsanställda, samtidigt som förslaget om att använda AI för biståndsbedöming och ansiktsigenkänning för brottsbekämpning välkomnades.

Mina varningslampor blinkar rött.

Under de senaste åren har vi sett AI accelerera forskning inom biologi och medicin, hitta nya lösningar för minskade utsläpp och tillgängliggöra utbildning och sjukvård till fler. Potentialen att förbättra vårt samhälle är enorm och jag förespråkar starkt satsningar inom AI. Men riskerna med dessa teknologier får inte förbli en eftertanke. 

För att verkligen förstå riskerna med tekniken måste vi först granska hur AI-modeller byggs.

Tre steg i AI:s utvecklingsprocess

Våra mest använda AI-verktyg, som ChatGPT, genomgår tre utvecklingssteg som visar varför det är avgörande att hantera dem med försiktighet och insikt.

1. Träning

‍AI är inte bara en komprimering av mänsklig kunskap, utan också av våra fördomar och brister på representation. Om du interagerade med ChatGPT i detta steg, skulle du slås över hur rasistisk, sexistisk, heteronormativ och rent utav toxisk chatbotten skulle vara.

Dataset innehållandes fler bilder på George Bush än på alla svarta kvinnor tillsammans illustrerar varför ansiktsigenkänning visat sig ha upp till 100 gånger fler fel vid identifikation om du inte har ett vitt mans ansikte. Sådana systematiska fel leder till felaktiga arresteringar av svarta personer och förlorade arbetstillfällen för Uber-chaufförer.

Sverige är inte immun mot dessa problematiska verktyg. Svenska polisen blev år 2021 bötfälld för att ha använt det kontroversiella ansiktsigenkänningsprogrammet Clearview, något de initialt förnekade. AI-risker är inte teoretiska framtidsscenarier, utan en påtaglig verklighet för många idag.

2. Värdeanpassning

‍För att justera dessa AI-modeller till något som är brukbart, utför tusentals arbetare en sorts etisk städning. Exempelvis har det mest toxiska innehållet du kan tänka dig städats av arbetare i Kenya för mindre än två dollar i timmen för göra ChatGPT trevligare för dig och mig.

Även om detta fruktansvärda arbete har lett till en imponerande mitigering av toxicitet lever den mer implicita, strukturella diskrimineringen dock kvar. Genererade bilder på "produktiva personer" visar vita kontorsarbetare, medan "personer i socialtjänst" visar uteslutande svarta eller bruna personer. Kvinnor med asiatisk ursprung sexualiseras. Våra webbavtryck lyser igenom.

‍För att justera AI-modellerna utför tusentals arbetare en sorts etisk städning

3. Dolda instruktioner

‍Som ett sista verktyg för att mildra de kvarstående fördomar lägger modellskaparna till dolda instruktioner till våra promptar. När du efterfrågar bild på en "produktiv person" lägger modellen exempelvis till "mångfaldig" för att säkerställa en variation av personer. Väldigt effektivt, men en grav förenkling.

Detta visade sig tydligt när Google nyligen kritiserades för att överkompensera representation i sina modeller, som genererade bilder på nazister med olika etniska ursprung. Vi kan inte manuellt förutse alla scenarier, och även om vi kunde, kvarstår debatten om vem som ska sätta dessa parametrar.

Hur navigerar vi i denna dubbla natur?

Vi kan inte stoppa AI:s framfart. Ju mer värdeskapande AI blir, desto mer beslutsfattande överlämnar vi till systemen. Så hur kan vi för att förstå och navigera denna dubbelhet?

När jag för några veckor sedan förde samtal om detta i Volvohallen i Göteborg kom jag naturligtvis att tänka på bilens utveckling. Hur mycket vi än jobbar på säkerhetsfunktionerna kommer den aldrig att bli helt riskfri. Men även i sitt imperfekta tillstånd kan bilen, om vi förstår och vet hur vi ska hantera riskerna, användas för nyttofulla ändamål. AI kan på samma sätt, trots sina brister, bli en kraftfull katalysator som vi bör använda, om vi förstår och kan hantera riskerna.

Amazons ökända rekryterings-AI, som förstärkte tidigare mönster att diskvalificera kvinnor, var ett tidigt exempel på AIs problematiker. Men om vi förstår tekniken och hanterar den rätt, kan samma fördomsfulla AI istället ses som ett verktyg som avslöjar de fördomar som tidigare legat gömt i våra arbetssätt.

Genom att träna AI på oss själva kan våra dolda fördomar exponeras

Johnson & Johnson lyckades öka antalet kvinnliga sökande med 9 procent genom att använda generativ AI för att upptäcka maskulin-normativt språk i jobbannonserna och neutralisera det. Genom att träna AI på oss själva kan våra dolda fördomar alltså exponeras och bli föremål för förändring.

Genom att använda generativ AI:s förmågor att förstå och hantera språkliga nyanser, liksom bryta ner kommunikativa barriärer, kan vi också säkerställa att kunder och medarbetare från olika geografiska, kulturella eller utbildningsmässiga bakgrunder kan kommunicera på sitt mest naturliga sätt. 

Dessa användningar exemplifierar metoder där AI inte bara speglar utan aktivt förbättrar våra sociala strukturer och skapar ett mer inkluderande och rättvist samhälle.

Människan i centrum

I slutändan är AI en människocentrerad verksamhet. Det är vi som formar AI och använder den. Fokus måste förbli på att förbättra de mänskliga förmågorna.

När vi går in i denna nya era av AI måste vi också erkänna dess dubbelhet och anta en balanserad strategi. Var inte blint optimistisk, för AI påverkar människor. Men var inte heller blint kritisk. Våra mest kritiska frågor behöver få del av de mest kraftfulla teknikerna.

Genom att erkänna människans centrala roll kan vi styra utvecklingen. Inte bara för att undvika fallgropar, utan i en riktning som förstärker vårt arbete för att skapa ett rättvist och inkluderande samhälle.