Alla processer, strukturer eller dylikt som är framtagna av den irrationella och känslostyrda människan skulle aldrig bli perfekta eller tillräckligt sofistikerade för att kunna jobba bort fördom. Det skulle AI ändra på. Artificiell intelligens ska kunna kodas till perfektion. Sen läser jag på och landar i det sunda förnuftet jag borde ha landat i ett bra tag sen: AI är programmerat av människor. Som är fördomsfulla. Inte sällan baseras AI på befintlig data, vilket innebär att alla tidigare diskrimineringfaktorer inträffar igen. Och igen. Nu på ett mer systematiskt sätt.

Ett exempel är teknik för ansiktsigenkänning. Största leverantörerna för tekniken är IBM och Microsoft. Hur bra fungerar det? Är du en vit man eller kvinna så är det inga konstigheter. Med nästintill hundra procents pricksäkerhet kommer tekniken kommer kunna känna igen dig. Är du däremot en kvinna som dessutom är woman of color – då är sannolikheten att tekniken kan identifiera dig med cirka 65 procent. Det är alltså 35 procent sannolikhet att AI:n i så fall tror att du är en man of color. Ingen av de större aktörerna i dag har system som är fria från fördomar. För att människan med förlegade föreställningar ligger bakom tekniken. Det och en hel del data som är baserat på en vit befolkning. En data som bär med sig historia, ett arv av en skev människosyn.

AI Fairness är uttrycket som används när det pratas om antidiskriminering inom AI. De flesta aktörer sägs jobba med frågan men få är villiga att ha tekniken öppen, synlig för allmänheten – open source. Facebook har till exempel valt att samarbeta med skolor och andra instanser för att involvera allmänheten i frågan. Det är givetvis inte bara utvecklare som ska vara med och utveckla innehållet. Det är inte bara utvecklare som ska nyttja den. Representation bör vara en del av detta arbete. Jag är inte alls förvånad att den mest framstående forskaren inom AI och representation är Joy Buolamwini från MIT. Hon ligger inte inom ramen för den norm som råder inom AI-data och är därmed exkluderad av den teknik hon forskar inom. Och hon förstår även vikten av representation. Ja, för om vi ska kunna lita på att AI kan avlasta oss, läs: ta våra jobb, så behöver tekniken bli bra nog för att klara av människans jobb utan att vara… människa.

Suzan Hourieh Lindberg
Head of Diversity på M, the mobility service
& grundare av The Social Few