Varför AI behöver mångfald – och det snabbt

Millie Paine, Journalist
@uxconnections

Det är lätt att anta att besluten som fattas av en algoritm skulle vara neutrala. Genom att låta en oengagerad och objektiv maskin fatta beslut om vilken jobbsökande man ska anställa, eller vem som är skyldig i en domstolsrättegång, skulle man kunna tänka sig att utfallen borde bli mer korrekta än när partiska och subjektiva människor fattar besluten. Det verkar dock som om detta inte är fallet: artificiell intelligens (AI) ärver fördomar från sina mänskliga skapare.

Det finns många exempel på AI som återspeglar den diskriminering som råder i samhället. Microsoft AI-boten, som började spruta ur sig rashat efter att ha inhämtat data från Twitter, eller Google Photos-appen som identifierade mörkhyade människor som gorillor. Tjänster för ansiktsigenkänning har en felmarginal på 1% för ljushyade män, jämfört med 35% för mörkhyade kvinnor. Det är uppenbart att AI snabbt håller på att bli en del av problemet när det gäller strukturell ojämlikhet, snarare än lösningen på det.

AI fattar beslut baserade på algoritmer, vilka ständigt finjusteras utifrån den data som den matas med. Eftersom vi lever i ett strukturellt rasistiskt och sexistiskt samhälle, är det inte förvånande att även algoritmerna i maskininlärningen återspeglar fördomar och skeva värderingar. Att teknikindustrin dessutom till största delen är vit och manlig hjälper inte saken. Mer än 80% av AI-professorerna är män och bara 2,5% av Googles arbetskraft är mörkhyade. Bristen på mångfald hos de som utvecklar systemen innebär i sin tur att algoritmerna ärver förutfattade meningar och fördomar som finns i gruppen.

Den uppenbara lösningen är att öka mångfalden inom teknikindustrin. Att anställa “bredare”. Teknikföretag behöver ha i åtanke att det är av största vikt att båda könen, olika etniciteter och skiftande bakgrunder, finns med som parametrar när anställningsstrategier utvecklas. Med fler typer av människor och perspektiv, kommer inte bara programmeringen av AI att bli mer jämlik. De som tillhör de mest diskriminerade grupperna och utvecklar systemen och algoritmerna kan dessutom se till AI inte upprätthåller fördomar. Att fler människor med olika perspektiv får en plats vid bordet utvecklar mjukvara som bättre återspeglar hur samhället i stort ser ut.  

Fokus på mångfald vid rekrytering räcker dock inte för att bryta fördomar inom AI. Det behövs även förbättrad utbildning och strukturella förändringar som gör att en mer heterogen grupp människor kan komma in i det naturvetenskapliga ämnesområdet. Det kan åstadkommas på olika sätt – från att se till att små barn har förebilder inom teknikbranschen som de kan identifiera sig med till både utseende och bakgrund, till att barn tidigt får lära sig grundläggande teknikfärdigheter i skolan. För att effektivt göra det lättare för teknikindustrin att bli av med ras- och könsfördomar och öka mångfalden krävs en stor grupp av kvalificerade arbetssökande. Det kan endast åstadkommas genom att det blir lättare att lära sig tekniska grundfärdigheter att bygga vidare på. 

I takt med att AI blir mer och mer integrerat i samhället är det avgörande att denna makt inte hamnar hos ett fåtal privilegierade personer. Att öka mångfalden i teknikindustrin är avgörande för att säkerställa att maskininlärning används som en positiv och jämlik kraft i samhället, istället för upprätthållande av de ojämlikheter som existerar.