Erapooletu AI inimmõju ettevõtluses - ja kuidas sellest kaugemale jõuda

Nagu Stanfordi abiprofessor Andrew Ng seda kirjeldab, on AI järgmine elekter ja tagasi ei minda.) Nii nagu elekter on pärast selle kasutuselevõttu muutnud paljusid tööstusharusid, nii toimib ka AI. Seetõttu on üksikisikute ja ettevõtete jaoks oluline mõista seda võimast tehnoloogiat, esitada õigeid küsimusi ja teha õigeid kompromisse. Läbimõeldud, tahtlik lähenemisviis viib meid AI varjuküljest kaugemale ja parema tuleviku poole.

Neuraalvõrgud 101

AI ei ole uus ja tal on olnud palju „talvesid”. Siiski oleme jõudmas pideva „kevade” staadiumisse, peamiselt tänu edusammudele neurovõrkude ulatuses ja jõudluses. Närvivõrkude tavaliselt viidatud analoogia on see, et need on inimese aju mehhanismidest lõdvalt inspireeritud. Reaalsus on aga see, et me ei saa täielikult aru, kuidas inimese aju töötab, nii et see analoogia ei jää kontrolli alla.

Andrew Ng selgitab närvivõrke, kasutades seda hõlpsasti mõistetavat kinnisvaranäidet:

Kui maja hind oleks otseselt võrdeline maja ruutmaterjaliga, võiks programmeerida lihtsa närvivõrgu, et võtta sisendina maja ruutmaterjalid ja arvutada maja hind.

Kuid me kõik teame, et maja ruutmaterjal on mitte ainus tegur, mis mõjutab selle hinda. Lisaks on tegurid, sealhulgas magamistubade arv, postiindeks, kooli piirkond, kõnditavus jne.

Neuraalvõrkude abil pole vaja neid tegureid süsteemile edastada. Selle asemel on see sama lihtne kui kinnisvaraandmete kogumine ja võrgu sisestamine. See määrab automaatselt iga maja hinna.

Nii toimivad AI-süsteemid ja selle nn musta kasti lähenemisviisiga on loomulik väljakutse.

Eelarvamused ML-i treeningandmetes

AI algoritmid on ainult nii head kui treeningandmete kvaliteet ja täpsus. Kui andmed on mingil moel kallutatud või viltu, on ka algoritm.

Väärib märkimist, et sõnal „eelarvamus” on rohkem kui üks tähendus - see tähendab ML-i tehnilise kogukonna jaoks ühte asja ja juriidilises mõttes pisut teistmoodi. Microsofti teadlane Kate Crawford selgitab seda järgmiselt:

Statistiline eelarvamus

ML tehnilises mõttes viitab eelarvamus süsteemsetele erinevustele valimi andmete ja sihtrühma vahel. See viitab hindamisvigadele, mille puhul valimisse võetakse tõenäoliselt mõned elanikkonna liikmed kui teised.

Statistiliselt on ML-süsteemi eesmärk koolitada algoritme andmete kohta, mis „sobivad” või peegeldavad tegelikkust. Siiski võib see silmitsi seista ala- või ületalitluse probleemiga.

Statistilise eelarvamuse klassikaline visuaalne esitus on parasjagu sobilik - kui AI mudel ei esinda andmete aluseks olevaid suundumusi. Selles olukorras on väike dispersioon, kuid suur kallutatus.

Vastupidiselt ülekomplekteerimisega, kus on suur erinevus. Siin on mudelid eriti tundlikud väikeste erinevuste suhtes, jäädvustades kogu signaali müra andmete koos signaaliga.

Juriidiline eelarvamus

Juriidilises mõttes tähendab eelarvamus põhjendamatut eelarvamust. See tähendab eelarvamuste tegemist eelarvamuste põhjal, mis põhinevad eelarvamustel, erinevalt faktide erapooletu hindamisest. Erapooletus on paljude meie õiguslike protsesside põhialus.

Kui reaalses elus on ajaloolist eelarvamust, võib andmete kogumine olla statistiliselt erapooletu - st, et see sobib ideaalselt. Kuid need koolitusandmed võivad viia juriidilises mõttes kallutatud tulemusteni, kuna struktuuriline ebavõrdsus on neisse kodeeritud.

Google'i AI juht John Giannandrea tõstab artiklis Unusta tapja robotid esile erapoolikuse probleemi juriidilises mõttes ja see on erapoolik.

Ta viitab ProPublica uuringule, mis illustreerib kõige paremini kriminaalõigussüsteemi andmete koolitamisel tekkiva eelarvamuse inimmõju.

Täna kasutavad kohtusaalid tulevaste kurjategijate ennustamiseks AI-süsteeme. Programmid aitavad otsuseid teavitada kõigest alates kautsjonist kuni karistuse määramiseni. Nende eesmärk on muuta kriminaalõigussüsteem õiglasemaks ja kõrvaldada inimeste eelarvamused.

ProPublica testis ühte sellist programmi ja leidis, et süsteem oli vale ja kallutatud Aafrika ameeriklaste vastu.

Siin on näide sellest, milline see eelarvamus reaalses elus välja näeb:

Vernon Prater, 41.

COMPAS-i tulemus: 3 - madal

Järgnevad süüteod: tungisid lattu ja varastasid 7700 dollarit väärtuses elektroonikat, 30 kriminaalmenetluse käigus makstud summat, sealhulgas sissemurdmised, kolmanda astme suured vargused ja varastatud vara müümisel varastatud varaga kauplemine.

Brisha Borden, 18.

COMPAS-i tulemus: 8 - kõrge

Hilisemad süüteod: Puudub

Väärib märkimist, et kohtud tutvustasid AI-süsteeme, et vähendada otsustusprotsessis tekkivat inimeste eelarvamust. Kuid nad ei suutnud teadvustada, et minevikust õppivad süsteemid on määratud seda kordama. Algoritmid pole iseenesest kallutatud. Nad võimendavad treeningandmetele omaseid eelarvamusi.

Äritegevus väljaspool eelarvamusi

Organisatsioonid on hakanud tutvustama AI ja ML võimalusi oma ettevõtte eri osades, alates värbamisest, rentimisest ja edutamisest kuni tarneahela ja müüja juhtimiseni.

Kõigis neis stsenaariumides on ettevõtetel võimalus mitte minevikku pimesi taasluua, vaid proaktiivselt luua parem tulevik.

SAP-is on meil algatus nimega Business Beyond Bias, mille eesmärk on süsteem aidata organisatsioone oma äritavadesse parimaid tavasid kodeerima. Näiteks tegeleb tööanalüsaatori toode meie keeles kodeeritud loomulike eelarvamustega. Sellega hinnatakse ametijuhendi tõhusust, sealhulgas seda, kas kirjeldus toob kaasa soolise eelarvamuse või mitte.

Andmeteadlane Weiwei Shen selgitab, et teatud sõnad, nagu „ambitsioonikas”, „agressiivne”, meeldivad meestele rohkem, samas kui sellised sõnad nagu „lahke”, „kaastundlik” tunduvad naistele meeltmööda. Eesmärk on parimate kandidaatide meelitamiseks kasutada sooneutraalseid termineid.

See lähenemisviis on inspireeritud Cornelli ja Bostoni ülikooli ingliskeelse soopõhise eelarvamuse tuvastamise akadeemilistest uuringutest. Nende uuringu tulemused on avaldatud artiklis Inimene on arvutiprogrammeerijale kui naisele Homemaker? Sõnade manustamise silumine

Ettevõtlus, mis on väljaspool eelarvamusi, pole mitte ainult õige asi, vaid ka nutikas toimimine. See kaitseb organisatsioonide pikaajalist huvi. Enamasti teavad ärijuhid seda ning seostavad õigluse ja võrdsuse eesmärke, kuid võib-olla puuduvad vahendid organisatsiooni selle positiivse juhtimiseks otseselt. Sellest vaatenurgast lähenedes saame AI abil positiivset mõju inimestele organisatsioonides ja ühiskonnas laiemalt.

Soovitused

AI-põhised masinõppe süsteemid võimendavad meie kavatsusi. Seetõttu on hädavajalik uurida sellesse tehnoloogiasse kodeeritud kavatsusi, tagamaks, et loome koos tuleviku, millest saaksime kõik rõõmu tunda. Siin on mõned soovitused, mida organisatsioonid saavad kasutada, et ületada eelarvamusi.

  • Liigutage õigluse ja võrdsuse organisatsioonilisi väärtusi lisaks majanduskasvu, tulude ja kasumlikkuse ärieesmärkidele. Rõhutage nende tähtsust pikaajalise äriedu jaoks selgel, vastutustundlikul ja kasutataval viisil.
  • Olge läbipaistev ja edastage see kõigile töötajatele, sealhulgas andmeteadlastele, nii et kõik saaksid seda masinõppe süsteemide ehitamisel või juurutamisel arvestada. Suhtlege seda tehnoloogia müüjatega ja mõistke nende jõupingutusi algoritmiliste kõrvalekallete kõrvaldamisel, tehes samal ajal tehnoloogia ostuotsuseid.
  • Võrdlusuuringute andmed vastavalt statistiliste või juriidiliste eelarvamuste kehtestatud standarditele. Kohandage arendusprotsessi, et tutvustada koolituse andmete testimise samme enne süsteemi juurutamist.
  • Pärast juurutamist jätkake perioodiliste algoritmide valideerimist, vajadusel kohandage. Nende tehnoloogiate jaoks on algusajad ning organisatsiooni huvide kaitsmiseks peame neid aktiivselt „koolitama ja juhendama“.
  • Palgake mitmekesine ja võimekas tööjõud ning värbake kogu töötajate baas töökohtade ja tootepakkumiste eelarvamuste kõrvaldamiseks. See vähendab organisatsiooniliste pimealade tekkimise võimalusi, kuna kohal on inimesi, kes aitavad vältida tahtmatut eelarvamust.

Me ei saa kustutada mineviku vigu, kuid võime neist õppida ja tulevikus mitte korrata. Lõppude lõpuks, meie, inimesed, oleme loomulikult intelligentsed õppesüsteemid, nii et ka meie loodud süsteemid võivad olla liiga.

Autor Sue Ju'le illustratsioonide eest.