AI „gaydar“ išradimas gali būti kažkas blogesnio pradžia
Tyrėjai tvirtina, kad iš nuotraukos gali pastebėti gėjus, tačiau kritikai sako, kad mes persvarstome pseudomokslą
Prieš dvi savaites mokslininkų pora iš Stanfordo universiteto pateikė stulbinantį teiginį. Naudodamiesi šimtais tūkstančių vaizdų, paimtų iš pažinčių svetainės, jie teigė, kad jie paruošė veido atpažinimo sistemą, kuri, žiūrėdama į juos, galėtų nustatyti, ar kažkas yra tiesus, ar gėjus. Darbą pirmiausia aprėpė Ekonomistas ir kiti leidiniai netruko pasekti tokiu pavyzdžiu, o antraštės, pvz., „Naujasis intelektas“, gali atspėti, ar jūs gėjus, ar tiesiai iš nuotraukos, o dirbtinis intelektas gali pasakyti, ar esate gėjus iš nuotraukos, ir tai kelia siaubą.
Kaip jau spėjote, tai nėra taip paprasta. (Ir kad būtų aišku, remiantis vien šiuo darbu, AInegalipasakykite, ar kažkas yra homoseksualus, ar tiesiai iš nuotraukos.) Tačiau tyrimas užfiksuoja įprastas baimes dėl dirbtinio intelekto: kad tai atvers naujas stebėjimo ir kontrolės galimybes ir gali būti ypač žalingas marginalizuotiems žmonėms. Vienas iš šio straipsnio autorių dr. Michalas Kosinskis sako, kad jo tikslas yra pavojaus signalas apie dirbtinio intelekto pavojus, ir perspėja, kad veido atpažinimas netrukus leis nustatyti ne tik seksualinę žmogaus orientaciją, bet ir jų politines pažiūras, nusikalstamumą ir net jų intelekto koeficientas.
kai kurie perspėja, kad fizionomijos slankmačius pakeisime nerviniais tinklais
Tokiais teiginiais kai kurie jaudinasi, kad atgaiviname seną įsitikinimą, kurio istorija yra bloga: kad jūs galite intuiciją suprasti iš pat išvaizdos. Šis pseudomokslas, fizionomija buvo XIX – XX a. Mokslinio rasizmo kuras ir suteikė moralinę priedangą kai kuriems blogiausiems žmonijos impulsams: demonizuoti, smerkti ir naikinti kitus žmones. Kosinskio kūrybos kritikai kaltina jį XIX amžiaus kalibro pakeitimu XXI amžiaus neuroniniais tinklais, o pats profesorius sako, kad yra siaubingas savo išvadomis ir džiaugiasi, kad pasirodė neteisingas. Tai prieštaringai vertinama ir jaudinanti tema, ir tai taip pat jaudina mus, sako jisRiba.
Bet ar įmanoma, kad pseudomokslai vėl slypi pasaulyje, dirbtinio intelekto dėka užmaskuoti naujais drabužiais? Kai kurie žmonės sako, kad mašinos paprasčiausiai sugeba apie mus daugiau skaityti, nei mes patys, bet kas, jei mes juos mokysime vykdyti savo išankstinius nusistatymus ir, darydami tai, suteiksime naują gyvenimą senoms idėjoms, kurias teisingai atmetėme? Kaip mes žinosime skirtumą?
Ar dirbtinis intelektas gali pastebėti seksualinę orientaciją?
Pirmiausia, mes turime pažvelgti į pastarųjų diskusijų, kurias parašė Kosinskis ir jo bendraautorius Yilunas Wangas, esmę. Jos rezultatai buvo prastai pranešti, o didelis ažiotažas kilo dėl neteisingo sistemos tikslumo pateikimo. Straipsnyje teigiama: turint vieną veido atvaizdą, [programinė įranga] 81 proc. Atvejų ir 71 proc. Moterų galėjo teisingai atskirti homoseksualius ir heteroseksualius vyrus. Šie rodikliai padidėja, kai sistemai pateikiamos penkios asmens nuotraukos: iki 91 proc. Vyrų ir 83 proc. Moterų.
Iš pirmo žvilgsnio tai skamba taip, kad dirbtinis intelektas gali parodyti, ar vyras yra gėjus, ar tiesus 81 proc. Laiko, žiūrėdamas į jo nuotrauką. (Taigi antraštės.) Bet tai ne tai, ką skaičiai reiškia. Dirbtinis intelektas nebuvo 81 proc. Teisingas, kai buvo rodomos atsitiktinės nuotraukos: jis buvo išbandytasporanuotraukų, vienos iš gėjų ir tiesių asmenų, ir paklausė, kuris asmuo yralabiau tikėtinabūti gėjumi. Tai atspėjo 81 procentą laiko vyrams ir 71 procentą laiko moterims, tačiau testo struktūra reiškia, kad jis prasidėjo nuo 50 procentų pradinės padėties - tai būtų atsitiktinai atspėta. Nors tai buvo žymiai geresnė nei tai, rezultatai nėra tokie patys, kaip sakant, kad tai galima identifikuotibet kasSeksualinė orientacija 81 proc. Laiko.
Žmonės bijo situacijos, kai [esate minioje] ir kompiuteris atpažįsta, ar esate gėjus.Kaip Philipas Cohenas, Merilendo universiteto sociologas, parašęs atinklaraščio įrašas, kuriame kritikuojamas dokumentas, pasakojoRiba: Žmonės bijo situacijos, kai turite privatų gyvenimą, o jūsų seksualinė orientacija nėra žinoma, o jūs einate į oro uostą ar sporto renginį, o kompiuteris nuskaito minią ir nustato, ar esate gėjus, ar tiesus. Tačiau tiesiog nėra daug įrodymų, kad ši technologija gali tai padaryti.
Kosinskis ir Wangas tai aiškiai praneša popieriaus pabaigoje, kai išbando savo sistemą prieš 1000 nuotraukų, o ne dvi. Jie prašo dirbtinio intelekto pasirinkti rinkinį, kuris greičiausiai yra homoseksualus, duomenų rinkinyje, kuriame 7 proc.grubiaiatspindinti tiesių ir gėjų vyrų dalį JAV gyventojų. Paprašius pasirinkti 100 asmenų, kurie greičiausiai yra gėjai, sistema gauna tik 47 iš 70 galimų hitų. Likę 53 buvo neteisingai nustatyti. Ir paprašius nustatyti 10 geriausių, devyni yra teisūs.
Jei buvote blogas veikėjas, bandęs naudoti šią sistemą gėjų identifikavimui, negalėtumėte tiksliai žinoti, kad gaunate teisingus atsakymus. Nors, jei naudosite jį pakankamai dideliame duomenų rinkinyje, galite sulaukti daugiausia teisingų spėjimų. Ar tai pavojinga? Jei sistema naudojama gėjams, tai taip, žinoma. Tačiau likusi tyrimo dalis rodo, kad programa turi dar daugiau apribojimų.
Ką iš tikrųjų kompiuteriai gali pamatyti, ko negali žmonės?
Taip pat neaišku, kokius veiksnius veido atpažinimo sistema naudoja priimdama sprendimus. Kosinskio ir Wango hipotezė yra tai, kad pirmiausia nustatomi struktūriniai skirtumai: moteriški bruožai gėjų vyrų veiduose ir vyriški bruožai gėjų moterų veiduose. Tačiau gali būti, kad dirbtinį intelektą painioja kiti dirgikliai, pavyzdžiui, veido išraiškos nuotraukose.
PG gali nustatyti stereotipus, o ne biologinius skirtumusTai ypač aktualu, nes tyrime naudojami vaizdai buvo paimti iš pažinčių svetainės. Kaip pabrėžė Oberlino koledžo sociologijos profesorius Greggoras Mattsonastinklaraščio įraše, tai reiškia, kad patys vaizdai yra neobjektyvūs, nes jie buvo parinkti specialiai tam, kad pritrauktų tam tikros seksualinės orientacijos asmenį. Jie beveik neabejotinai pateisina mūsų kultūrinius lūkesčius, kaip homoseksualūs ir tiesūs žmonės turėtų atrodyti, ir, siekiant dar labiau susiaurinti jų pritaikomumą, visi tiriamieji buvo balti, neįtraukiant biseksualių ar savęs identifikuotų translyčių asmenų. Jei tiesus vyras pažinčių svetainei pasirenka stereotipiškiausiai vyrišką savo paveikslą, tai daugiau pasako apie tai, ko, jo manymu, visuomenė nori iš jo, nei sąsajos tarp jo žandikaulio formos ir seksualinės orientacijos.
Siekdami užtikrinti, kad jų sistema žiūrėtų tik į veido struktūrą, Kosinskis ir Wangas naudojo programinę įrangąVGG-veidas, kuris užkoduoja veidus kaip skaičių eilutes ir buvo naudojamas tokioms užduotims kaip žymėjimasgarsenybių panašūs paveikslai. Jie rašo, kad ši programa leidžia jiems sumažinti trumpalaikių funkcijų, tokių kaip apšvietimas, poza ir veido išraiška, vaidmenį.
Tačiau tyrinėtojas Tomas White'as, dirbantis dirbtinio intelekto srityje, sako, kad „VGG-Face“ iš tikrųjų labai gerai pasiima šiuos elementus. White'as tai nurodė„Twitter“ tinkleir paaiškinoRibael. paštu, kaip jis išbandė programinę įrangą ir ją naudojo, kad sėkmingai atskirtų veidus su tokiomis išraiškomis kaip neutralus ir laimingas, taip pat pozomis ir fono spalva.
Kalbėdamas suRiba, Kosinskis sako, kad jis ir Wangas aiškiai teigė, kad tokie dalykai kaip veido plaukai ir makiažasgalėjobūti dirbtinio intelekto sprendimų priėmimo veiksniu, tačiau jis teigia, kad veido struktūra yra svarbiausia. Jei pažvelgtumėte į bendras „VGG-Face“ savybes, tai laikinųjų veido bruožų svoris yra labai mažas, sako Kosinskis. Mes taip pat pateikiame įrodymų, kad nepraeinantys veido bruožai, atrodo, nuspėja seksualinę orientaciją.
Problema ta, kad mes negalime tiksliai žinoti. Kosinskis ir Wangas neišleido savo sukurtos programos ar paveikslėlių, kuriais ją treniravo. Jie tikrina savo dirbtinį intelektą iš kitų nuotraukų šaltinių, norėdami sužinoti, ar tai nustato kokį nors veiksnį, būdingą visiems homoseksualiems ir tiesiems žmonėms, tačiau šie bandymai buvo riboti ir taip pat gauti iš šališko duomenų rinkinio - „Facebook“ profilio nuotraukos iš vyrų, kuriems patiko tokie puslapiai kaip Gėjus, ir gėjus, ir pasakiškas.
leia organa carrie žvejys
Ar šių grupių vyrai yra priimtinas visų gėjų atstovas? Tikriausiai ne, o Kosinskis sako, kad įmanoma, kad jo darbas yra neteisingas. Norint tai patikrinti, reikės atlikti dar daug tyrimų, sako jis. Tačiau keblu pasakyti, kaip būtų galima visiškai pašalinti pasirinkimo šališkumą norint atlikti įtikinamą testą. Kosinskis pasakojaRiba,Jums nereikia suprasti, kaip veikia modelis, kad patikrintumėte, ar jis teisingas, ar ne. Tačiau tai yra algoritmų neskaidrumo priėmimas, dėl kurio tokio pobūdžio tyrimai yra tokie kupini.
Jei dirbtinis intelektas negali parodyti savo veikimo, ar galime juo pasitikėti?
PG tyrėjai negali iki galo paaiškinti, kodėl jų mašinos daro tai, ką jie daro. Tai iššūkis, apimantis visą lauką ir kartais vadinamas juodosios dėžės problema. Dėl dirbtinio intelekto mokymui naudojamų metodų šios programosnegali parodyti savo darbopanašiai kaip įprasta programinė įranga, nors mokslininkai stengiasi tai pakeisti.
Tuo tarpu tai sukelia visokių problemų. Įprasta yra tai, kad seksistiniai ir rasistiniai šališkumai yra užfiksuoti žmonių treniruočių duomenyse ir atkuriami PG. Kosinskio ir Wango kūrybos atveju juoda dėžutė leidžia jiems atlikti tam tikrą mokslinį tikėjimo šuolį. Kadangi jie įsitikinę, kad jų sistema pirmiausia analizuoja veido struktūras, jie sako, kad jų tyrimai rodo, jog veido struktūros numato seksualinę orientaciją. (1a tyrimas parodė, kad [neuroninio tinklo] išgauti veido bruožai gali būti naudojami tiksliai nustatyti vyrų ir moterų seksualinę orientaciją. “)
Biologija yra šiek tiek niuansuotesnė, nei mes dažnai ją vertiname.Ekspertai teigia, kad tai yra klaidinantis teiginys, kurio nepalaiko naujausias mokslas. Gali būti bendra veido formos ir seksualinės orientacijos priežastis - labiausiai tikėtina priežastis yra hormonų pusiausvyra gimdoje, tačiau tai nereiškia, kad veido forma patikimainumatoseksualinės orientacijos, sako Qazi Rahmanas, Londono Kingo koledžo akademikas, studijuojantis seksualinės orientacijos biologiją. Biologija yra šiek tiek niuansuotesnė, nei mes dažnai jai suteikiame, sako jisRiba. Čia klausimas yra asociacijos stiprumas.
Idėja, kad seksualinė orientacija pirmiausia kyla iš biologijos, pati yra prieštaringa. Rahmanas, manantis, kad seksualinė orientacija dažniausiai yra biologinė, giria Kosinskio ir Wango kūrybą. Tai nėra šlamšto mokslas, sako jis. Labiau panašus į mokslą, kurio kažkas nemėgsta. Bet kai reikianumatantseksualinės orientacijos, jo teigimu, reikia atsižvelgti į visą netipinio elgesio su lytimi paketą. Man labiau kyla klausimas, kad [tyrimas] praleido esmę, ir tai yra elgesys.
Seksualinės orientacijos klausimo sumažinimas iki vieno išmatuojamo kūno veiksnio turi ilgą ir dažnai negarbingą istoriją. Kaip rašo Mattonas savotinklaraščio straipsnis, požiūriai skyrėsi nuo XIX a. lesbiečių klitorių ir homoseksualių vyrų klubų matavimų iki 20 amžiaus pabaigos teiginių, kad atrado „gėjų genus“, „gėjų smegenis“, „gėjų žiedinius pirštus“, „lesbiečių ausis“ ir „gėjų galvos odą“. plaukai. “Šio darbo poveikis yra nevienodas, tačiau blogiausiu atveju tai yra priespaudos įrankis: jis suteikia mokslinį pretekstą žmonėms, norintiems nužmoginti ir persekioti seksualines mažumas.
Australijos nacionalinio universiteto sociologijos dėstytoja Jenny Davis tai apibūdina kaip biologinio esencializmo formą. Tai įsitikinimas, kad tokie dalykai kaip seksualinė orientacija yra įsišakniję kūne. Šis požiūris, pasak jos, yra dviašmenis. Viena vertus, tai daro naudingą politinį dalyką: atmeta kaltę nuo tos pačios lyties asmenų troškimo. Tačiau, kita vertus, tai sustiprina nuvertintą tokio noro poziciją, nustatant heteroseksualumą kaip normą, o homoseksualumą įvardijant kaip mažiau vertingą ... tam tikrą ligą.
Kai šiame kontekste apsvarstysime Kosinskio ir Wango tyrimus, dirbtiniu intelektu pagrįstas veido atpažinimas įgauna dar tamsesnį aspektą - būtent, sako kai kurie kritikai, kaip fizionomijos grįžimo tendencijos, kurią skatina dirbtinis intelektas, dalį.
Jūsų personažas lygus kaip nosis ant veido
Šimtmečius žmonės tikėjo, kad veidas yra raktas į personažą. Šios sąvokos šaknys yra senovės Graikijoje, tačiau ji buvo ypač įtakinga XIX a. Fizionomijos šalininkai pasiūlė, kad matuodami tokius dalykus, kaip kieno kaktos kampas ar nosies forma, galėtų nustatyti, ar žmogus sąžiningas, ar nusikaltėlis. Praėjusiais metais Kinijoje dirbtinio intelekto tyrėjai teigė, kad tą patį gali padaryti naudodamiesi veido atpažinimu.
Jų tyrimai, paskelbti kaipAutomatizuota nusikalstamumo išvada naudojant veido atvaizdus, sukėlė nedidelį ažiotažą PG bendruomenėje. Mokslininkai atkreipė dėmesį į tyrimo trūkumus ir padarė išvadą, kad šis darbas atkartojo žmogaus išankstinius nusistatymus, kas reiškia prasmę ar gražų veidą. Plačiai paplitusiame paneigime pavadinimuNauji fizionomijos drabužiai, „Google“ tyrinėtoja Blaise Agüera y Arcas ir du bendraautoriai parašė, kad per ateinančius metus turėtume tikėtis daugiau tyrimų, kurie panašiai ... melagingai tvirtina mokslinį objektyvumą, kad „išplautų“ žmonių prietarus ir diskriminaciją. („Google“ atsisakė leisti „Agüera y Arcas“ komentuoti šią ataskaitą.)
Kosinskio ir Wango dokumente aiškiai pripažįstami fizionomijos pavojai, pažymint, kad praktika dabar visuotinai ir teisingai atmetama kaip prietarų ir rasizmo mišinys, užmaskuotas mokslu. Bet jie tęsia vien todėl, kad tema yra tabu, dar nereiškia, kad ji neturi tiesos pagrindo. Jie sako, kad kadangi žmonės sugeba mažai tiksliai perskaityti kitų žmonių veiduose tokias savybes kaip asmenybė, mašinos turėtų sugebėti padaryti tą patį, bet tiksliau.
Kosinskis sako, kad jo tyrimai nėra fizionomija, nes atliekami griežti moksliniai metodai, o jo darbe cituojami keli tyrimai, rodantys, kad žiūrėdami į juos galime išvesti (skirtingo tikslumo) žmonių bruožus. Aš buvau išsilavinęs ir maniau, kad visiškai neįmanoma, kad veide būtų jokios informacijos apie jūsų intymius bruožus, nes fizionomija ir frenologija buvo tik pseudomokslai, sako jis. Tačiau tai, kad jie reikalavo daiktų be jokio pagrindo, kad jie gamino daiktus, nereiškia, kad ši medžiaga nėra tikra. Jis sutinka, kad fizionomija nėra mokslas, tačiau sako, kad pagrindinėse jos koncepcijose gali būti tiesa, kurią gali atskleisti kompiuteriai.
PG intelektas nėra dirbtinis: jis yra žmogusDavisui toks požiūris kyla iš plačiai paplitusio ir klaidingo tikėjimo dirbtinio intelekto neutralumu ir objektyvumu. Dirbtinis intelektas iš tikrųjų nėra dirbtinis, sako jiRiba. Mašinos mokosi taip, kaip mokosi žmonės. Mes mokomi per kultūrą ir įsisaviname socialinės struktūros normas, taip pat ir dirbtinis intelektas. Taigi jis atkurs, sustiprins ir tęsis mūsų išmokytomis trajektorijomis, kurios visada atspindi esamas kultūros normas.
Mes jau sukūrėmeseksistiniai ir rasistiniai algoritmai, o tokio pobūdžio kultūriniai šališkumai ir fizionomija iš tikrųjų yra tik dvi tos pačios monetos pusės: abi remiasi blogais įrodymais, kad vertintų kitus. Kinijos tyrėjų darbas yra kraštutinis pavyzdys, tačiau jis tikrai nėra vienintelis. Yra bent jauvienas paleidimasjau aktyvus, tvirtinantis, kad gali atpažinti teroristus ir pedofilus naudodamas veido atpažinimą, be to, yra daugybė kitų, siūlančių analizuoti emocinį intelektą ir vykdyti stebėjimą dirbtiniu intelektu.
Akivaizdu, kas ateina
Bet norėčiau grįžti prie klausimų, kuriuos numato šios nerimą keliančios antraštės apie Kosinskio ir Wango knygą: ar dirbtinis intelektas bus naudojamas seksualinėms mažumoms persekioti?
Ši sistema? Ne. Skirtingas? Gal būt.
Kosinskio ir Wango darbas nėra negaliojantis, tačiau jo rezultatams reikalinga rimta kvalifikacija ir tolesni bandymai. Be to, apie jų sistemą mes žinome tik tiek, kad ji gali tam tikru patikimumu pastebėti skirtumą tarp savęs identifikuotų gėjų ir tiesiai baltų žmonių vienoje konkrečioje pažinčių svetainėje. Mes nežinome, kad pastebėtas biologinis skirtumas, būdingas visiems gėjams ir tiesiai žmonėms; mes nežinome, ar tai veiktų su platesniu nuotraukų rinkiniu; ir darbas neparodo, kad seksualinę orientaciją galima išvesti ne daugiau kaip, tarkim, žandikaulio matavimu. Tai nėra labiau iššifruotas žmogaus seksualumas, nei AI pokalbių robotai iššifravo gero pokalbio meną. (Taip pat jo autoriai tokio teiginio nepateikia.)
Tyrimas buvo paskelbtas siekiant perspėti žmones, sako Kosinskis, tačiau jis pripažįsta, kad tai neišvengiamas paradoksas, kad tai atlikdami turite paaiškinti, kaip padarėte tai, ką padarėte. Visus darbe naudojamus įrankius gali rasti ir susidėti visi. Rašymas gilaus mokymosi švietimo svetainėje „Fast.ai“, tyrėjas Jeremy Howardasdaro išvadą: Turbūt pagrįstai [sic] manyti, kad daugelis organizacijų jau įgyvendino panašius projektus, tačiau jų nepaskelbė akademinėje literatūroje.
Jau minėjome startuolius, dirbančius su šia technologija, ir nėra sunku rasti vyriausybės režimus, kurie ja naudotųsi. Tokiose šalyse kaip Iranas ir Saudo Arabija už homoseksualumą vis dar baudžiama mirtimi; daugelyje kitų šalių būti gėjumi reiškia, kad valstybė yra apkaltinta, įkalinta ir kankinama. Naujausiuose pranešimuose kalbėta apie programos atidarymąkoncentracijos stovyklos gėjamsČečėnijos Respublikoje, o kas, jei kažkas ten nuspręs pasidaryti savo dirbtinį intelektą ir nuskaityti profilio nuotraukas iš Rusijos socialinės žiniasklaidos?
Čia tampa aišku, kad tokių sistemų kaip „Kosinski“ ir „Wang‘s“ tikslumas nėra iš tikrųjų esmė. Jei žmonėstikėkDirbtinis intelektas gali būti naudojamas seksualinėms nuostatoms nustatyti, jie tai naudos. Turint tai omenyje, kaip niekad svarbu suvokti dirbtinio intelekto ribotumą, pabandyti neutralizuoti pavojus, kol jie darys poveikį žmonėms. Prieš mokydami mašinas savo išankstinių nuostatų, pirmiausia turime išmokyti save.
