Min läslista

Din läslista är tom.

Sök på capdesign.se

Fördomsfull AI – för mänsklig

TEXT Suzan Hourieh Lindberg

Fram tills för sex månader sen kunde du höra mig säga att tekniken kommer rädda oss från diskriminering, framförallt från rasifiering.

Annons

Alla processer, strukturer eller dylikt som är framtagna av den irrationella och känslostyrda människan skulle aldrig bli perfekta eller tillräckligt sofistikerade för att kunna jobba bort fördom. Det skulle AI ändra på. Artificiell intelligens ska kunna kodas till perfektion. Sen läser jag på och landar i det sunda förnuftet jag borde ha landat i ett bra tag sen: AI är programmerat av människor. Som är fördomsfulla. Inte sällan baseras AI på befintlig data, vilket innebär att alla tidigare diskrimineringfaktorer inträffar igen. Och igen. Nu på ett mer systematiskt sätt.

Ett exempel är teknik för ansiktsigenkänning. Största leverantörerna för tekniken är IBM och Microsoft. Hur bra fungerar det? Är du en vit man eller kvinna så är det inga konstigheter. Med nästintill hundra procents pricksäkerhet kommer tekniken kommer kunna känna igen dig. Är du däremot en kvinna som dessutom är woman of color – då är sannolikheten att tekniken kan identifiera dig med cirka 65 procent. Det är alltså 35 procent sannolikhet att AI:n i så fall tror att du är en man of color. Ingen av de större aktörerna i dag har system som är fria från fördomar. För att människan med förlegade föreställningar ligger bakom tekniken. Det och en hel del data som är baserat på en vit befolkning. En data som bär med sig historia, ett arv av en skev människosyn.

AI Fairness är uttrycket som används när det pratas om antidiskriminering inom AI. De flesta aktörer sägs jobba med frågan men få är villiga att ha tekniken öppen, synlig för allmänheten – open source. Facebook har till exempel valt att samarbeta med skolor och andra instanser för att involvera allmänheten i frågan. Det är givetvis inte bara utvecklare som ska vara med och utveckla innehållet. Det är inte bara utvecklare som ska nyttja den. Representation bör vara en del av detta arbete. Jag är inte alls förvånad att den mest framstående forskaren inom AI och representation är Joy Buolamwini från MIT. Hon ligger inte inom ramen för den norm som råder inom AI-data och är därmed exkluderad av den teknik hon forskar inom. Och hon förstår även vikten av representation. Ja, för om vi ska kunna lita på att AI kan avlasta oss, läs: ta våra jobb, så behöver tekniken bli bra nog för att klara av människans jobb utan att vara… människa.

Suzan Hourieh Lindberg
Head of Diversity på M, the mobility service
& grundare av The Social Few

Annons
Annons

Magasinet

magimage
magimage
2019
No3

Pond Designs förpackningsprocess | Tomorrow Machine och framtidens förpackningar | Avkodade förpackningar | Brobygrafiska om varumärkesbärare | Årets PIDA-vinnare | Jake Knapps Design Sprint | Laptop-test

Besök vår shop
magimage
magimage
2019
No2

Interaktiva affischer med Pangpangpang | Visual Arts resa | The Emotional Art Gallery | Galleri: The Pavilion | De formger för Times Square | Personporträtt: Åsa Kax Ideberg | TBWA moderniserar

Besök vår shop
magimage
magimage
2019
No1

Fotorealistisk 3D hos Foam Studio | Offentlig konst i 3D | Galleri med Sven Prim | Ines Alpha sminkar med 3D | The Reprap Story | Omvärldsspaning | Framtiden för 3D | Vinetiketter för världen från Karlstad

Besök vår shop
magimage
magimage
2018
No4

Personporträtt med fotografen Weroncka Gȩsicka | Illustrera med papper | Flat design | Att välja bild | Konflikt och Kreativitet | Platt formagivning tar steget in i framtiden | Så når du betraktaren | Analys av Ericssons nya logotyp

Besök vår shop
magimage
magimage
2018
No3

Så jobbar Tele2 Inhouse | Lean design för formgivare | Effektiv utomhusreklam | Galleri: Björn Persson | Inhouse: Stockholms stadsbibliotek | Anti-copying in design | Inhouse: MoMA | Intervju: Christina Knight

Besök vår shop
magimage
magimage
2018
No2

Sthlm signs handmålar | Nordblicks nya profil | Semiotik i grafiken | Galleri: Simon Hjortek | Löwengrips redesign | Designa effektiva logotyper | Att redesigna eller ej | Nystartade studion Ulmaja Wilsson | Vi testar Loupedeck

Besök vår shop
magimage
magimage
2018
No1

Passionsfyllt foundry | Typografiska omslag | Jämställt inom typografin | Historisk inspiration | Rörlig typografi | Att nå ut med snitten | Webbverktygen för typo | Byråer efter koncept

Besök vår shop
magimage
magimage
2017
No5

Framtiden för reklam | Inkludering för tillväxt | Formgivarens roll i en globaliserad värld | Norm Form | Aardman Studios | Färg på rätt sätt | En kräsen generation

Besök vår shop
magimage
magimage
2017
No4

Klarnas nya form | Från A till Zlatan | Vikten av design hos Sveriges digitala jättar | Curious ställer frågan först | Starka identiteter för stora varumärken | Converse tar steget fram med blicken bakåt | Nordiskt fokus på flygplansmat

Besök vår shop
magimage
magimage
2017
No3

Psykedelisk design | Koncept för krögare | Gedigna kreatörer | Identitet med stil | Matigt fotografi | Alectas historia | Läskig analys

Besök vår shop
magimage
magimage
2017
No2

VR till folket | Karaktärsdesign | Robert Sundelin | Johanna Hanno | En byrå över gränser | Framtidens filmstudio | Wacoms nya plattor | Juventus rebrand

Besök vår shop
magimage
magimage
2017
No1

Fantastiska världar – Alexander Jansson & Mina Lima | Jakob Trollbäck | Rysk revolution | Magasindesign | Ny form för public service |

Besök vår shop
magimage
magimage
2016
No4

Starta egen byrå? – Möjligheterna, utmaningarna och fallgroparna | SJ byter spår | På besök hos Bold | Få effekt utomhus | Typsnittens psykologi | Pionjärer inom VR | Pinterests planer

Besök vår shop
magimage
magimage
2016
No3

Tonsäkra omslag – från vinyl till ikon | I huvudet på Jesper Waldersten | En bråkig 40-åring | Där data dominerar | Stjärnskottet Rachel Gogel

Besök vår shop
magimage
magimage
2016
No2

Att formge bortom skärmen | Jonathan Barnbrook | Sätt översättningarna | Så funkar Adobe XD | Aktuellt | Portfolio

Besök vår shop
magimage
magimage
2016
No1

Design <3 kod I Färglära från Way Out West I Hon formar nyheterna I Så arbetar du med virtuell verklighet

Besök vår shop
magimage
magimage
2015
No8

Henrik Nygren | Formgivarpanelen trendspanar | Appar utan kod | Årets stora formhändelser

Besök vår shop
magimage
magimage
2015
No7

Tema: Typografi | Tobias Frere-Jones | En eklektisk typ | Slitstark form | Från Lady Gaga till Hamilton

Besök vår shop
magimage
magimage
2015
No6

Tema: Karriär | Framtidens kompetens | Björn Kusoffsky | Maxa frilansverksamheten | Nyheterna i Adobe Creative Cloud

Besök vår shop
magimage
magimage
2015
No5

Tema: Hantverk | En responsiv pionjär | Lotta Kühlhorn | Färgglad ölform | Guide: Kalligrafi

Besök vår shop
magimage
magimage
2015
No4

Tema: Grafisk identitet | Tre identiteter | Acne Advertising | Alla finalister i #omSLAGET | Emojins intåg

Besök vår shop
magimage
magimage
2015
No3

Bärbar design | Filmisk form | Jane Bark | Högupplösta skärmar | Uppe i molnet

Besök vår shop
magimage
magimage
2015
No2

Wyatt Mitchell | Grafitti i storformat | Iskalla typer | Ett tungt frågetecken | Guide: Välj rätt papper

Besök vår shop
magimage
magimage
2015
No1

Bildens kraft | Microsofts designchef om framtiden | Lasse Skarbövik | Spel som gör skillnad | Guide: Nyheterna i Camera Raw

Besök vår shop