“OK Google, är du sexistisk? "
Har du haft kul att ställa frågor till en röstassistent?
Från könsfrågor till artificiella intelligenser
För att markera lanseringen av den första virtuella assistenten med en neutral röst (varken kvinnlig eller manlig) jämförde DNA-journalister OK Google, Alexa och Siri svar med könsrelaterade frågor eller uppmaningar.
" Vem är din mamma ? Googles team är min familj.
Vem är din far? Jag anser att mina ingenjörer är mina biologiska föräldrar. "
Det som verkar vara ett bra sent på kvällens skämt på ytan säger dock mycket om sexistisk kultur och dess gråa områden som kvarstår i datorvärlden och särskilt i fråga om artificiell intelligens.
Konstgjorda intelligenser styr redan ditt liv
Vänta, gå inte än! Jag vet att jag har 80% chans att förlora dig genom att skriva "IA".
För komplicerat, för tekniskt, för skrattretande ... det här ämnet tenderar vi att anse att det inte är anpassat till oss , till de noobs som vi är, som konsumerar Internet som ett område med underhållning, lekfull information eller sällskap .
Och ändå! Konstgjorda intelligenser finns överallt i ditt liv. Och kanske du inte vet det ännu, även om de styr en del av ditt dagliga liv.
”AI ingriper som ett beslutsstöd inom flera områden: inom utbildning, där det särskilt används för att sortera filerna på kandidater för antagning till en anläggning; rättvisa, där den kan avgöra om en fånge ska friges eller inte; hälsa, där det hjälper till att ställa viktiga diagnoser; och igen säkerhet, försvar, turism, telekommunikation, transport, miljö, robotik, banksektorn, kundrelationer, marknadsföring ... ”
Artificiell intelligens, inte utan dem! Aude Bernheim, Flora Vincent
Boken som hjälpte mig för den här artikeln, att hitta på Fnac, på Amazon och i bokhandlar
Visste du ? Konstgjorda intelligenser förstärker fenomenet med filterbubblor och håller oss vid liv i en värld av information som fungerar i vår riktning .
När du tittar på en video på YouTube och plattformen rekommenderar annat innehåll av samma typ, låser det dig i en bubbla som förfinar din smak men också begränsar ditt utbud av möjligheter.
Som feministisk tjej är min horisont på Internet helt förvrängd jämfört med mitt liv bort från tangentbordet!
Jag prenumererar på personer som jag håller med om, jag väljer inte sexistiska, rasistiska, homofoba publikationer ...
Till den punkten att vara förskräckt av andelen Front National-röster i varje val.
Under presidentvalet 2021 i USA anklagades Facebook för att upprätthålla amerikanernas politiska åsikter genom att visa dem inlägg som stödde deras röst och genom att inte begränsa spridningen av falska nyheter.
Tillräckligt för att ställa allvarliga frågor om vår fria vilja , eller hur?
Algoritmer är inte sexistiska
Men ingenjörerna som kodar dessa algoritmer fungerar i ett sexistiskt samhälle .
Ingen är neutral. Det är jag inte, och även när jag väljer att skriva den här artikeln vinklar jag mitt perspektiv utifrån mina erfarenheter och kulturella anknytningar.
Problemet är detsamma med artificiella intelligenser och alla datorverktyg som utvecklas idag: deras skapare andas sitt liv i det, deras vision av världen.
Hur skulle internet se ut om det utvecklades av corgis?
När majoriteten av dessa skapare är vita män , undviker en mängd parametrar dem.
Konsekvenserna förklaras mycket väl i denna remsa av Marine Spaak för bloggen Dans mon drawer i samband med publiceringen av boken Artificiell intelligens, inte utan dem! nämnts ovan.
”År 2021 utvärderade tre forskare från Carnegie Mellon University och International Computer Science Institute Googles riktade reklamplattform genom att simulera 1 000 profiler (500 män, 500 kvinnor) och analysera de erbjudna jobb. till kvinnliga profiler.
Systematiskt motsvarade erbjudandenen, för liknande nivåer av kompetens och kvalifikationer, en lägre ersättning. "
Artificiell intelligens, inte utan dem! Aude Bernheim, Flora Vincent
Dator och artificiell intelligens lovade stora framsteg inom social rättvisa! Men…
Upplagt av Dans Mon Tiroir tisdagen den 5 mars 2021
Osynligheten för kvinnor på fältet är därför av särskilt intresse.
Men du är inte i slutet av din åktur: tänk dig att i början av IT var kvinnor överrepresenterade i branschen!
Hur kom vi till denna aberration? Låt mig berätta den här vackra historien ...
Hur kvinnor lämnades utanför IT
Idag anses Ada Lovelace vara den första programmeraren i historien.
Och med god anledning: det är ursprunget till det första datorspråket som utvecklades 1842.
Fram till 1970-talet följande år rekryterades kvinnor för att utföra beräkningar: en uppgift av "små händer" , betraktad som repetitiv och assimilerad med teleoperatörernas arbete.
”Jag anställer gärna kvinnor istället för miniräknare och datorer.
Inte bara är de billigare, men de är bra på sysslor, medan män blir otåliga när ett jobb återkommer repetitivt. "
William Elkin, chef för Yale Observatory
OK tack Jean-Michel
Kvinnor är så framträdande i branschen att 37% av datavetenskapstudenterna i USA 1984 var kvinnor .
År 2021 är de mindre än 10% .
Flera fenomen förklarar deras gradvisa försvinnande på denna professionella väg.
På ett mycket karikatursätt räckte det för ekonomiska intressen att utvecklas i sektorn för att män skulle ta över ansvarspositioner ...
Detta förklaras särskilt av Claire Evans, författaren till en bok om kvinnors deltagande i datorer och på Internet, som var värd för en konferens om ämnet i Gaité Lyrique i Paris.
Men det är inte allt: på 1980-talet gick persondatorer in på den vanliga marknaden.
Mycket snabbt riktades marknadsföring och annonser mot män som gradvis blev "nördiga" konsumenter - en bild som fortfarande kvarstår idag.
Att fördöma sexism kan innebära att ge upp
Medan stöd- och empowerment-program för kvinnor har blomstrat i Frankrike i flera år inom dator- och teknikområdet är kvinnors underrepresentation fortfarande mycket oroande.
”Kvinnornas svårigheter inom sektorn kan förklaras av fem huvudfaktorer: bristen på mentorer, bristen på förebilder, könsstereotyper, ojämlikhet i kampanjer och ojämlikhet i löner. "
Enligt en studie 2021 av ISACA, en amerikansk förening involverad i informationssystem
Som ett resultat lämnar dubbelt så många kvinnor som män denna sektor i mitten av karriären .
Och även om det aldrig har varit så mycket avhandling om de svårigheter som kvinnor stöter på att etablera sig i dessa professionella kretsar, så fortsätter trenden.
Den onda cirkeln berikas: genom att fördöma sexistiska metoder och svårare arbetsförhållanden för denna kategori av befolkningen avskräcker vi potentiella kvinnliga talanger att komma och förändra situationen.
Vilken tjej vill projicera sig själv i ett jobb där hon vet att hon kommer att skit dubbelt så mycket som män?
Hur agerar man för en bättre integration av kvinnor i IT-sektorn?
Flera lösningar är tillgängliga för oss.
Utöver enskilda initiativ som Algorithmic Justice League, som lanserades av en MIT-student som syftar till att dekonstruera algos fördomar, måste hela sektorn ifrågasättas.
Inte bara för kvinnor, utan också för människor med mångfald , läggs också på sidan.
Skriv bara frågan "VD" i Google Bilder för att se till exempel den uppenbara bristen på representation av kvinnor och svarta eller asiatiska människor.
I sin bok berör Flora och Aude några idéer.
De uppmuntrar sektorn att öka aktörernas profil i projekt, utbilda utvecklare i jämställdhetsfrågor, skapa mer representativa databaser, utveckla revisionsverktyg, men också utveckla verktygens transparens och reglera dem. .
Åtgärder som också är politiska beslut , som du kan se.
Var kritisk och stödjande
Men på din nivå kan du också göra något.
Du kan hacka partierna av artificiella intelligenser genom att utveckla ditt kritiska tänkande gentemot den information du läser, ser eller hör på Internet.
Varför visas den här artikeln i ditt Facebook-flöde? Varför erbjuder Google dig ett sådant resultat först? Varför rekommenderas den här videon av YouTube av dig?
Detta är grunden för mediekunskap: genom att förstå var informationen kommer ifrån och varför den presenteras för dig i ett visst sammanhang kommer du att få ett bredare perspektiv på världen omkring dig .
Jag pratar om vad jag vet bäst men på YouTube kan du till exempel fuska algoritmen och komma ut ur din komfortzon genom att leta efter nya tjejer att titta på i katalogen med fransktalande designers, Internettes Explorer.
Förutom att stärka din anpassningsförmåga och nyfikenhet, kan du komma ut ur din komfortzon då och då för att bättre förstå världen omkring dig och umgås annorlunda.
Du kan också få en mycket konkret inverkan genom att göra så många människor som möjligt medvetna om de fördomar som finns i vårt samhälle.
Du kan uppmuntra din lilla kusin som ska få sin studenterstudie att gå mot datorstudier genom att hjälpa henne att lära sig om de många yrken som finns inom området.
Du kan hjälpa tjejerna du känner att göra deras bedrägerisyndrom vals genom att påminna dem om att killar inte tvekar lika mycket som de gör för att komma igång.
Kort sagt, den största representationen i dessa yrken beror också på oss, på vår solidaritet, på vår förmåga att dra upp varandra. Och i slutändan, för att sticka ut fingrarna.
Ämnet kommer att diskuteras mer och mer, om du vill gå djupare in i det rekommenderar jag populariseringstecknet Artificial Intelligences, speglar i våra liv som är ganska tillgängligt!
