Amazon u tajnosti eutanazirao svoj seksistički AI sistem

Pokušavali su i pokušavali, ali mašina nije mogla da prestane da diskriminiše

Amazon ima prilično dobru godinu. Pre nekoliko meseci je na kratko dostigao vrednost od bilion dolara, a onda je tokom dan i po svoje promocije zaradio rekordne dve milijarde dolara, da bi nedavno povisio minimalnu zaradu za stotine hiljada svojih radnika i tako ublažio kritike na svoj račun.

Sve je to bajno, ali kompanija nije uspela da ubedi svoj sistem veštačke inteligencije da ne diskriminiše protiv žena kada je zapošljavanje u pitanju. U pitanju je bio tajni program, a evo o čemu se radi.

Mašinsko učenje je jedna od osnovnih tehnika u polju veštačke inteligencije. Ona radi tako što se automatski sistem „hrani“ gomilom informacija, a onda koristi svoj algoritam da bi na osnovu tih podataka pronalazio nove, efikasnije načine da reši problem koji je postavljen pred njim.

Jedan od najvećih strahova kada je u pitanju mašinsko učenje korišćeno za probleme sa ljudima jeste pristrasnost u podacima, jer će se ona tako prosto pojačavati, tako da će diskriminacija biti još veća, što je lekcija koju je Amazon upravo osetio, sudeći po izveštaju Rojtersa na koji se poziva magazin Fortune.

Prema tim izveštajima, Amazon je proveo godine radeći na sistemu koji bi automatizovao proces zapošljavanja. Ideja je bila da ovaj AI sistem može da gleda gomilu aplikacija i biografija i onda da predloži najbolje kandidate. Amazon je u tom cilju „nahranio“ sistem podacima iz decenija aplikacija koje su ljudi podnosili kompaniji za zapošljavanje.

U tome se krije „caka“. Tehnološka industrija decenijama je bila muška industrija, tako da je većina ovih biografija dolazila od muškaraca. Mašina je na osnovu tih informacija napravila sistem koji je favorizovao muškarce u odnosu na žene.

Prema Rojtersovom izvoru iz Amazona, AI sistem je naučio sebe da slabije rangira aplikacije sa rečima „ženski“ i da dodeljuje niže ocene diplomcima iz jedina dva isključivo ženska koledža. U isto vreme, odlučio je da reči kao što su „izvršen“ ili „uhvaćen“, koje se očigledno češće pojavljuju u muškim aplikacijama, treba da kandidatu donesu više poena.

Tim zadužen za AI sistem probao je da spreči sistem da takve faktore uzima u obzir, ali je na kraju shvatio da je to nemoguće i da će sistem uvek pronaći način da diskriminiše kandidatkinje. Osim toga, postojao je i problem jer je sistem iz neidentifikovanih razloga povremeno izbacivao prilično nasumične preporuke.

Amazon je zato početkom 2017. godine odlučio da ukine ovaj projekat. Rojters navodi kompanijino kadrovsko odeljenje koristilo je sistem za preporuke, ali nikada se nije potpuno oslanjalo na njega kada je filtriralo kandidate.

Amazon nije odmah komentarisao ovaj izveštaj.

AIAmazonmašinsko učenjeseksizamsistemTechveštačka inteligencija
Komentari (0)
Add Comment