Min läslista

Din läslista är tom.

Sök på capdesign.se

Fördomsfull AI – för mänsklig

TEXT Suzan Hourieh Lindberg

Fram tills för sex månader sen kunde du höra mig säga att tekniken kommer rädda oss från diskriminering, framförallt från rasifiering.

Annons

Alla processer, strukturer eller dylikt som är framtagna av den irrationella och känslostyrda människan skulle aldrig bli perfekta eller tillräckligt sofistikerade för att kunna jobba bort fördom. Det skulle AI ändra på. Artificiell intelligens ska kunna kodas till perfektion. Sen läser jag på och landar i det sunda förnuftet jag borde ha landat i ett bra tag sen: AI är programmerat av människor. Som är fördomsfulla. Inte sällan baseras AI på befintlig data, vilket innebär att alla tidigare diskrimineringfaktorer inträffar igen. Och igen. Nu på ett mer systematiskt sätt.

Ett exempel är teknik för ansiktsigenkänning. Största leverantörerna för tekniken är IBM och Microsoft. Hur bra fungerar det? Är du en vit man eller kvinna så är det inga konstigheter. Med nästintill hundra procents pricksäkerhet kommer tekniken kommer kunna känna igen dig. Är du däremot en kvinna som dessutom är woman of color – då är sannolikheten att tekniken kan identifiera dig med cirka 65 procent. Det är alltså 35 procent sannolikhet att AI:n i så fall tror att du är en man of color. Ingen av de större aktörerna i dag har system som är fria från fördomar. För att människan med förlegade föreställningar ligger bakom tekniken. Det och en hel del data som är baserat på en vit befolkning. En data som bär med sig historia, ett arv av en skev människosyn.

AI Fairness är uttrycket som används när det pratas om antidiskriminering inom AI. De flesta aktörer sägs jobba med frågan men få är villiga att ha tekniken öppen, synlig för allmänheten – open source. Facebook har till exempel valt att samarbeta med skolor och andra instanser för att involvera allmänheten i frågan. Det är givetvis inte bara utvecklare som ska vara med och utveckla innehållet. Det är inte bara utvecklare som ska nyttja den. Representation bör vara en del av detta arbete. Jag är inte alls förvånad att den mest framstående forskaren inom AI och representation är Joy Buolamwini från MIT. Hon ligger inte inom ramen för den norm som råder inom AI-data och är därmed exkluderad av den teknik hon forskar inom. Och hon förstår även vikten av representation. Ja, för om vi ska kunna lita på att AI kan avlasta oss, läs: ta våra jobb, så behöver tekniken bli bra nog för att klara av människans jobb utan att vara… människa.

Suzan Hourieh Lindberg
Head of Diversity på M, the mobility service
& grundare av The Social Few

Annons
Annons
Annons

Magasinet

magimage
magimage
2019
No4

Vi pratar med Tecken Signs | Bokstavsillustratören Sofie Björkgren-Näse | Typsnittformgivarna So-Type | Ett samtal om typografi med ATypI | Typotugg | Gutenberg till Opentype

Besök vår shop
magimage
magimage
2019
No3

Pond Designs förpackningsprocess | Tomorrow Machine och framtidens förpackningar | Avkodade förpackningar | Brobygrafiska om varumärkesbärare | Årets PIDA-vinnare | Jake Knapps Design Sprint | Laptop-test

Besök vår shop
magimage
magimage
2019
No2

Interaktiva affischer med Pangpangpang | Visual Arts resa | The Emotional Art Gallery | Galleri: The Pavilion | De formger för Times Square | Personporträtt: Åsa Kax Ideberg | TBWA moderniserar

Besök vår shop
magimage
magimage
2019
No1

Fotorealistisk 3D hos Foam Studio | Offentlig konst i 3D | Galleri med Sven Prim | Ines Alpha sminkar med 3D | The Reprap Story | Omvärldsspaning | Framtiden för 3D | Vinetiketter för världen från Karlstad

Besök vår shop
magimage
magimage
2018
No4

Personporträtt med fotografen Weroncka Gȩsicka | Illustrera med papper | Flat design | Att välja bild | Konflikt och Kreativitet | Platt formagivning tar steget in i framtiden | Så når du betraktaren | Analys av Ericssons nya logotyp

Besök vår shop
magimage
magimage
2018
No3

Så jobbar Tele2 Inhouse | Lean design för formgivare | Effektiv utomhusreklam | Galleri: Björn Persson | Inhouse: Stockholms stadsbibliotek | Anti-copying in design | Inhouse: MoMA | Intervju: Christina Knight

Besök vår shop
magimage
magimage
2018
No2

Sthlm signs handmålar | Nordblicks nya profil | Semiotik i grafiken | Galleri: Simon Hjortek | Löwengrips redesign | Designa effektiva logotyper | Att redesigna eller ej | Nystartade studion Ulmaja Wilsson | Vi testar Loupedeck

Besök vår shop