“OK Google, er du sexistisk? "
Har du noen gang hatt det gøy med å stille spørsmål til en stemmeassistent?
Fra kjønnsspørsmål til kunstige intelligenser
For å markere utgivelsen av den første virtuelle assistenten med en nøytral stemme (verken kvinne eller mann), sammenlignet DNA-journalister svarene fra OK Google, Alexa og Siri med kjønnede spørsmål eller anmodninger.
" Hvem er moren din ? Google-teamet er familien min.
Hvem er faren din? Jeg anser ingeniørene mine for å være mine biologiske foreldre. "
Det som ser ut til å være en god sent på kvelden på overflaten, sier imidlertid mye om sexistisk kultur og dens grå områder som vedvarer i datamaskinsverdenen, og særlig innen kunstig intelligens.
Kunstige intelligenser styrer allerede livet ditt
Vent, ikke gå ennå! Jeg vet at ved å skrive "IA" har jeg 80% risiko for å miste deg.
For komplisert, for teknisk, for latterlig ... dette emnet, vi pleier å vurdere at det ikke er tilpasset oss , til de noobs vi er, som bruker Internett som et område med underholdning, leken informasjon eller omgjengelighet. .
Og fortsatt! Kunstige intelligenser er overalt i livet ditt. Og kanskje du ikke vet det ennå, selv om de styrer en del av ditt daglige liv.
“AI griper inn som et beslutningshjelpemiddel på flere felt: i utdanningen, der det spesielt brukes til å sortere arkivene til kandidater for opptak til en virksomhet; rettferdighet, der den kan avgjøre om en fange løslates eller ikke; helse, der det hjelper med å stille viktige diagnoser; og igjen sikkerhet, forsvar, turisme, telekommunikasjon, transport, miljø, robotikk, banksektoren, kundeforhold, markedsføring ... ”
Kunstig intelligens, ikke uten dem! Aude Bernheim, Flora Vincent
Boken som hjalp meg med denne artikkelen, å finne på Fnac, på Amazon og i bokhandler
Visste du ? Kunstige intelligenser forsterker fenomenet filterbobler og holder oss i live i en verden av informasjon som fungerer i vår retning .
Når du ser på en video på YouTube og plattformen anbefaler annet innhold av samme type, låser den deg i en boble som foredler din smak, men også innsnevrer ditt mulighetsfelt.
Som feministisk jente er horisonten min på Internett fullstendig forvrengt sammenlignet med livet mitt borte fra tastaturet!
Jeg abonnerer på folk som jeg er enig med. Jeg velger ikke sexistiske, rasistiske, homofobe publikasjoner ...
Til det punktet å være forferdet av prosentandelen av Front National stemmer i hvert valg.
Under presidentvalget 2021 i USA ble Facebook beskyldt for å opprettholde amerikanernes politiske synspunkter ved å vise dem innlegg som støttet deres stemme, og ved ikke å begrense spredningen av falske nyheter.
Nok til å stille alvorlige spørsmål om vår frie vilje , ikke sant?
Algoritmer er ikke sexistiske
Men ingeniørene som koder disse algoritmene, opererer i et sexistisk samfunn .
Ingen er nøytrale. Det er jeg ikke, og selv når jeg velger å skrive denne artikkelen, vinkler jeg perspektivet mitt i henhold til mine erfaringer og kulturelle tilhørigheter.
Problemet er det samme med kunstige intelligenser og alle dataverktøyene som utvikler seg i dag: deres skapere puster liv i det, deres visjon om verden.
Hvordan ville internett se ut hvis det ble utviklet av corgis?
Når flertallet av disse designerne er hvite menn , unnslipper en rekke parametere dem.
Konsekvensene er veldig godt forklart i denne stripen av Marine Spaak for bloggen Dans mon drawer i anledning utgivelsen av boken Kunstig intelligens, ikke uten dem! nevnt ovenfor.
“I 2021 evaluerte tre forskere fra Carnegie Mellon University og International Computer Science Institute den Google-målrettede annonseringsplattformen ved å simulere 1000 profiler (500 menn, 500 kvinner) og analysere jobbtilbudene som ble tilbudt. til kvinnelige profiler.
Systematisk tilsvarte tilbudene, for tilsvarende nivåer av kompetanse og kvalifikasjoner, en lavere godtgjørelse. "
Kunstig intelligens, ikke uten dem! Aude Bernheim, Flora Vincent
Datamaskin og kunstig intelligens lovet store fremskritt innen sosial rettferdighet! Men…
Skrevet av Dans Mon Tiroir tirsdag 5. mars 2021
Usynligheten til kvinner i felt er derfor særlig bekymret.
Men du er ikke på slutten av turen: forestill deg at ved starten av IT var kvinner overrepresentert i sektoren!
Hvordan kom vi til denne aberrasjonen? La meg fortelle deg denne vakre historien ...
Hvordan kvinner ble utelatt av IT
I dag regnes Ada Lovelace for å være den første programmereren i historien.
Og med god grunn: det er opprinnelsen til det første dataspråket som ble utviklet i 1842.
Fram til 1970-tallet i det påfølgende århundre ble kvinner rekruttert til å utføre beregninger: en oppgave med "små hender" , betraktet som repeterende og assimilert til teleoperatørers arbeid.
“Jeg ansetter gjerne kvinner i stedet for kalkulatorer og datamaskiner.
Ikke bare er de billigere, de er gode i husarbeid, mens menn blir utålmodige når en jobb kommer tilbake repeterende. "
William Elkin, direktør for Yale Observatory
OK takk Jean-Michel
Kvinner er så fremtredende i bransjen at i 1984 var 37% av informatikkstudentene i USA kvinner .
I 2021 er de under 10% .
Flere fenomener forklarer deres gradvise forsvinning i denne profesjonelle veien.
På en veldig karikert måte var det nok for økonomiske interesser å utvikle seg i sektoren for at menn skulle kneble ansvarsstillinger ...
Dette forklares spesielt av Claire Evans, forfatteren av en bok om kvinnens involvering i datamaskiner og på Internett, som var vert for en konferanse om emnet i Gaité Lyrique i Paris.
Men det er ikke alt: på 1980-tallet kom personlige datamaskiner inn i det vanlige markedet.
Svært raskt var markedsføring og annonser rettet mot menn som gradvis ble "nerdige" forbrukere - et image som fortsatt vedvarer i dag.
Å fordømme sexisme kan bety å gi opp
Mens støtte- og empowerment-programmer for kvinner har blomstret i Frankrike i flere år innen data- og teknologiområdet, er underrepresentasjonen av kvinner fortsatt veldig bekymringsfull.
”Vanskeligheten til kvinner i sektoren kan forklares med fem hovedfaktorer: mangel på mentorer, mangel på forbilder, kjønnsstereotyper, ulikheter i kampanjer og ulikheter i lønn. "
Ifølge en studie fra 2021 av ISACA, en amerikansk forening involvert i informasjonssystemer
Som et resultat forlater dobbelt så mange kvinner som menn denne sektoren midt i karrieren .
Og selv om det aldri har vært så mye avhandling om vanskene kvinner møter med å etablere seg i disse profesjonelle kretsene, fortsetter trenden.
Den onde sirkelen er beriket: ved å fordømme sexistisk praksis og vanskeligere arbeidsforhold for denne kategorien av befolkningen, fraråder vi potensielle kvinnelige talenter til å komme og endre situasjonen.
Hvilken jente vil projisere seg i en jobb der hun vet at hun vil drite dobbelt så mye som menn?
Hvordan handle for en bedre integrering av kvinner i IT-sektoren?
Flere løsninger er tilgjengelige for oss.
Utover individuelle initiativer som Algorithmic Justice League, lansert av en MIT-student som har som mål å dekonstruere forspenningene til algos, må hele sektoren stilles spørsmål ved.
Ikke bare for kvinner, men også for mennesker med mangfold , som også er på sidelinjen.
Bare skriv inn spørringen "CEO" i Google Images for å se den skarpe mangelen på representasjon av for eksempel kvinner og svarte eller asiatiske mennesker.
I boka deres berører Flora og Aude noen få ideer.
De oppfordrer sektoren til å øke profilen til aktører i prosjekter, trene utviklere i likestillingsspørsmål, lage flere representative databaser, utvikle revisjonsverktøy, men også utvikle gjennomsiktigheten i verktøy og regulere dem. .
Handlinger som også er politiske beslutninger , som du kan se.
Vær kritisk og støttende
Men på ditt nivå kan du også gjøre noe.
Du kan hacke forstyrrelsene til kunstige intelligenser ved å utvikle din kritiske tenkning overfor informasjonen du leser, ser eller hører på Internett.
Hvorfor vises denne artikkelen i Facebook-feeden din? Hvorfor tilbyr Google deg et slikt resultat først? Hvorfor er denne videoen anbefalt av YouTube?
Dette er grunnlaget for mediekunnskap: ved å forstå hvor informasjon kommer fra og hvorfor den blir presentert for deg i en slik og slik sammenheng, vil du ha et bredere perspektiv på verden rundt deg .
Jeg snakker om det jeg vet best, men på YouTube kan du for eksempel jukse algoritmen og komme deg ut av komfortsonen ved å lete etter nye jenter å se i katalogen til fransktalende designere, Internettes Explorer.
I tillegg til å styrke din tilpasningsevne og nysgjerrighet, kan du av og til trå ut av komfortsonen din bedre forstå verden rundt deg og sosialisere annerledes.
Du kan også ha en veldig konkret innvirkning ved å gjøre så mange mennesker som mulig oppmerksomme på skjevhetene som finnes i samfunnet vårt.
Du kan oppmuntre den lille kusinen din som skal ha sin kandidat til å bevege seg mot datastudier ved å hjelpe henne med å lære om de mange yrker som finnes i feltet.
Du kan hjelpe jentene du kjenner til med å gjøre sin bedrager-syndrom vals ved å minne dem på at gutta ikke nøler så mye som de gjør for å komme i gang.
Kort sagt, den største representasjonen i disse yrkene avhenger også av oss, av vår solidaritet, av vår evne til å trekke hverandre opp. Og til slutt å stikke fingrene ut.
Emnet vil bli diskutert mer og mer, hvis du vil gå dypere inn i det, anbefaler jeg populariserings tegneserien Artificial Intelligences, speil i våre liv som er ganske tilgjengelig!
