Život

Anketár pre vašu vysnívanú prácu môže byť čoskoro robot

Uchádzam sa o prácu. Ale proces aplikácie je jeden Nikdy predtým som to nezažil.

Nie som na pohovore s osobou. Namiesto toho sedím doma a pozerám do notebooku. Moje odpovede sa nahrávajú na video. A o tom, či sa mi podarí získať túto prácu, nerozhodne človek, ale stroj.

aká epizóda je rubínová ruža v oitnb

Môže to znieť ako epizóda Charlieho BrookeraČierne zrkadloOčakáva sa však, že v priebehu niekoľkých rokov budú takéto virtuálne rozhovory štandardom. Algoritmické „predprenájomové hodnotenia“, ako sa im hovorí, sú už niekoľkomiliardovým biznisom a pravdepodobne sa stanú súčasťou podnikových rozhodnutí o nábore. HireVue — spoločnosť, ktorá vedie môj rozhovor — je jedným z lídrov v tejto oblasti. Sídli na brehu rieky Jordán v Utahu a medzi jej klientov patrí sedemsto špičkových spoločností, od Hilton Hotels cez J. P. Morgan až po Unilever. Som len jedným z viac ako 10 miliónov potenciálnych zamestnancov, ktoré algoritmy HireVue už vyhodnotili na základe podobných videorozhovorov.

Takto fungovala ich technológia umelej inteligencie v čase, keď som absolvoval pohovor: nasadenie ďalšej hranice umelej inteligencie – „emocionálna umelá inteligencia“ – „číta“ kandidátov na prácu analyzovaním ich lexiky, tónu, kadencie a výrazov tváre, pričom zohľadňuje až dvadsaťpäťtisíc samostatných údajových bodov. Výsledky sa potom porovnali s výsledkami „ideálneho“ kandidáta na túto úlohu.

Skutočnosť, že som musel počas rozhovoru držať svoje trup na obrazovke pevne v bodkovanej siluete, znamenal, že som sa nielen cítil ako obeť vraždy na mieste činu, ale nemohol som byť svojím autentickým ja.

V praxi to znamená, že každý nádych, každá pauza, výška, do akej zdvihnem obočie, ako silno som zovrel čeľusť, aký široký je môj úsmev, môj výber slov, ako nahlas som hovoril, moje držanie tela, koľkokrát Povedal som, ehm, alebo ehm, môj prízvuk, dokonca aj moje používanie predložiek boli všetky zaznamenané a vložené do algoritmu čiernej skrinky, aby sa zistilo, či som alebo nie som vhodný zamestnanec pre absolventský program Vodafone. Alebo skôr nie ja, ale 'Irina Wertz', môj tajný pseudonym.

Algoritmické hodnotenia pred prijatím do zamestnania sú nepopierateľne nákladovo efektívnym riešením náborových potrieb vo veľkom rozsahu. Vzhľadom na to, že veľké korporácie každoročne prijímajú viac ako stotisíc žiadateľov, používanie tejto technológie už pravdepodobne ušetrí tisíce človekohodín. Okrem toho HireVue tvrdí, že miera udržania a dokonca aj pracovný výkon medzi zamestnancami vybranými ich systémom sú výrazne vyššie ako priemer. Môže to tak byť, no moja skúsenosť s týmto procesom bola viac než trochu odcudzujúca.

Keď som v rohu obrazovky odpovedal na otázky, ktoré som pozoroval, ako to robím, tento zážitok mi pripadal obzvlášť performatívny, keď som bol obsadený do znepokojujúcej úlohy herca aj publika.

Skutočnosť, že som musel počas rozhovoru držať svoje trup na obrazovke pevne v bodkovanej siluete, znamenal, že som sa nielen cítil ako obeť vraždy na mieste činu, ale nemohol som byť svojím autentickým ja. Istý stupeň neautentickosti je samozrejme nevyhnutný na všetkých pracovných pohovoroch, keďže sa človek snaží prezentovať premyslenú, najlepšiu možnú verziu seba samého, ale toto bolo iné. Som expresívny človek — keď hovorím, hýbem sa, gestikulujem. Uviaznutá v mojej siluete som nedokázala ani to. A keďže som odpovedal na otázky, ktoré som sám sledoval, ako to robím v rohu obrazovky, zážitok mi pripadal obzvlášť performatívny, keď som bol obsadený do znepokojujúcej úlohy herca aj publika.

V pravom hornom rohu obrazovky boli hodiny odpočítavania, ktoré ešte viac umocnili stresujúci charakter zážitku. Na zodpovedanie každej otázky som mal pridelené tri minúty, ale lietať naslepo bez všetkých zvyčajných podnetov, ktoré človek pohovorí – výrazy tváre, pohyby hlavy, gestá, úsmevy, zamračenie – nebol som si istý, či nepokračujem príliš dlho, alebo či sa očakávalo, že spotrebujem celý čas. A nielenže som sa nemal koho spýtať, ale bez úsmevov, bez očí sklopených k môjmu životopisu, bez reči tela na analýzu som nevedel povedať, či môj „tazateľ“ počul dosť konkrétnej odpovede, páčilo sa mu Hovoril som, rozumiem svojim vtipom, vcítim sa do mojich príbehov alebo som sa možno práve rozhodol, že nie som ten typ kandidáta, ktorého hľadali.

Zbavený svojej plnej a komplexnej ľudskosti som musel zapôsobiť na stroj, ktorého algoritmické fungovanie čiernej skrinky som nikdy nemohol poznať. Na ktorý z mojich „údajových bodov“ sa zameral a ktorý mal najväčšiu váhu?

Takže ako rozhovor pokračoval, cítil som sa čoraz viac unášaný, neschopný prísť na to, či mám ísť ďalej, spomaliť, preradiť, zmeniť smer, zmeniť štýl, viac sa usmievať, menej sa usmievať. Vraj ideálny kandidát na absolventskú stáž v oblasti ľudských zdrojov vo Vodafone sa usmieva, ale koľkokrát a na ako dlho?

Aby bolo jasné, nebolo to tak, že by som interagoval so strojom ako takým, kvôli ktorému som sa cítil tak odcudzený. Skôr to bola mocenská nerovnováha medzi ženou a strojom, ktorá bola taká znepokojujúca. Zbavený svojej plnej a komplexnej ľudskosti som musel zapôsobiť na stroj, ktorého algoritmické fungovanie čiernej skrinky som nikdy nemohol poznať. Na ktorý z mojich „údajových bodov“ sa zameral a ktorý mal najväčšiu váhu? Môj hlas, moja intonácia, reč tela alebo obsah toho, čo som hovoril? Aký vzorec to použil na hodnotenie? A bolo to spravodlivé?

kde sa natáčal film na plytčine

Jeho algoritmus bude trénovaný na videozáznamoch minulých alebo existujúcich „úspešných zamestnancov“, čo znamená, že akékoľvek historické predsudky (vedomé alebo nevedomé) pri prijímaní zamestnancov by sa pravdepodobne zopakovali.

Normálne nepremýšľame o osamelosti v kontexte toho, ako sa cítime interakciou so strojom. Keď som hovoril o izolácii bezkontaktnej existencie, kládol som dôraz na nedostatok ľudského kontaktu tvárou v tvár a jeho dopad. Ale ak osamelosť môže byť spôsobená aj pocitom, že štát a politici s ňou zaobchádzajú nespravodlivo a že ju znemožňujú, tak môže prameniť aj z toho, že s ňou tak zaobchádza veľký biznis a nové technológie, ktoré zavádza.

kde sa natáčal akvamarín

Keď totiž zamestnávateľ zverí našu profesionálnu budúcnosť do rúk algoritmu, je ťažké uveriť, že s nami bude zaobchádzať spravodlivo alebo že budeme mať zmysluplnú pomoc. Čiastočne je to preto, že je veľmi sporné, či budúci výkon môže byť skutočne určený charakteristikami, ako sú výrazy tváre a tón hlasu. Skutočne, v novembri 2019 Elektronické informačné centrum ochrany osobných údajov — renomovaná americká výskumná organizácia verejného záujmu — podal formálnu sťažnosť na HireVue s Federálnou obchodnou komisiou USA, citujúc „používanie tajných, neoverených algoritmov HireVue na hodnotenie „kognitívnych schopností“, „psychologických vlastností“, „emocionálnej inteligencie“ a „sociálnych schopností“ uchádzačov o zamestnanie. Je zaujímavé, že od začiatku roku 2020 spoločnosť prestala používať analýzu tváre a dospela k záveru, že vizuálna analýza má menšiu koreláciu s pracovným výkonom ako iné prvky algoritmického hodnotenia. Ostatné spoločnosti v tom však pokračujú.

Triedič životopisov s umelou inteligenciou sa efektívne naučil, že prihlášky, ktoré obsahovali názvy vysokých škôl výlučne pre ženy alebo dokonca slovo ženské (napríklad „kapitánka ženského šachového tímu“), neboli kvalifikované.

Je tu aj otázka zaujatosti. Hoci HireVue v tom čase tvrdila, že jej metodika zbavuje ľudskú zaujatosť, je nepravdepodobné, že to tak bude. Je to preto, že algoritmy sú trénované na videozáznamoch minulých alebo existujúcich „úspešných zamestnancov“, čo znamená, že akékoľvek historické predsudky (vedomé alebo nevedomé) pri prijímaní zamestnancov by sa pravdepodobne zopakovali.

To je v skutočnosti presne to, čo sa stalo v Amazone v roku 2018, keď sa ukázalo, že triedič CV spoločnosti s umelou inteligenciou bol rutinné odmietanie životopisov žien , napriek tomu, že nikdy nebolo „povedané“ pohlavie žiadateľov. prečo? Účinne sa naučila, že prihlášky, ktoré obsahovali názvy vysokých škôl výlučne pre ženy alebo dokonca slovo ženské (napríklad „kapitánka ženského šachového tímu“), neboli kvalifikované. Bolo to preto, lebo bol vyškolený na to, aby odvodil, či sú uchádzači „kvalifikovaní“ alebo „nekvalifikovaní“ na základe údajov o nábore za desať rokov v odvetví, kde muži tvoria veľkú väčšinu uchádzačov a zamestnancov. Netreba dodávať, že v tejto skupine bolo veľmi málo kapitánok ženských šachových družstiev.

Úprava algoritmu na riešenie takých predsudkov, ako je pohlavie, je pomerne jednoduchá; Inžinieri Amazonu boli skutočne ľahko schopní upraviť model tak, aby prestali používať výrazy ako ženy ako dôvod na diskvalifikáciu. Výzva strojového učenia však spočíva v tom, že aj keď sú zohľadnené najočividnejšie zdroje skreslenia (a v mnohých takýchto systémoch nepochybne sú), čo menej zrejmé, neutrálne vyzerajúce dátové body, o ktorých by sme možno ani neuvažovali, že by mohli byť skreslené?

Výňatok z Osamelé storočie : Ako obnoviť ľudské spojenie vo svete, ktorý sa rozpadá,vydal Currency, odtlačok Penguin Random House.

Osamelé storočie od Noreeny Hertz Amazonky