Nástroje na nábor práce poháňané AI nemusia zlepšiť rozmanitosť náboru, tvrdia odborníci

Topline

Nástroje na nábor práce, ktoré tvrdia, že využívajú umelú inteligenciu, aby sa vyhli rodovým a rasovým predsudkom, nemusia zlepšiť rozmanitosť pri prijímaní zamestnancov a mohli by v skutočnosti zachovať tieto predsudky, tvrdili v nedeľu výskumníci z University of Cambridge, ktorí programy – ktoré v minulosti vyvolali kritiku – ako spôsob využitia technológie na rýchle riešenie hlbšieho problému.

základné fakty

V článku publikovanom Filozofia a technológiavýskumníci sa zaoberali tvrdeniami niekoľkých spoločností, ktoré ponúkajú náborové nástroje poháňané umelou inteligenciou, z ktorých mnohé tvrdia, že eliminujú predsudky a podporujú rozmanitosť skrývaním mien, pohlaví a iných identifikátorov kandidátov, a niektoré z nich hodnosť kandidátov na základe skenov životopisov, online hodnotení a analýzy reči a mimiky uchádzačov.

Výskumníci – dvaja profesori z Centra pre rodové štúdie Cambridgeskej univerzity – tvrdili, že tieto nástroje môžu v skutočnosti podporovať uniformitu pri prijímaní do zamestnania, pretože reprodukujú kultúrne predsudky „ideálneho kandidáta“, ktorým boli historicky bieli alebo európski muži.

Nástroje tiež nemusia zlepšiť rozmanitosť, pretože sú založené na údajoch spoločnosti z minulosti, a preto môžu podporovať kandidátov, ktorí sú najviac podobní súčasným zamestnancom.

Existuje „malá zodpovednosť za to, ako sú tieto produkty vyrábané alebo testované,“ uviedla vo vyhlásení Eleanor Drage, spoluautorka štúdie a výskumníčka z University of Cambridge Center for Gender Studies a dodala, že táto technológia môže slúžiť ako „nebezpečná“. zdroj „dezinformácií o tom, ako môže byť nábor „nezaujatý“ a spravodlivejší.

Zásadný citát

„Tým, že tieto spoločnosti tvrdia, že rasizmus, sexizmus a iné formy diskriminácie môžu byť odstránené z procesu prijímania zamestnancov pomocou umelej inteligencie, redukujú rasu a pohlavie na bezvýznamné dátové body namiesto systémov moci, ktoré formujú to, ako sa pohybujeme vo svete. “ uviedol Drage vo vyhlásení.

Dotyčnica

Amazon to oznámil v roku 2018 prestať pomocou nástroja na nábor umelej inteligencie na kontrolu životopisov uchádzačov o zamestnanie po tom, čo zistil, že systém výrazne diskriminuje ženy. Je to preto, že počítačové modely, na ktoré sa spoliehal, boli vyvinuté na základe životopisov predložených spoločnosti za posledných 10 rokov, ktoré väčšinou pochádzali od mužských žiadateľov.

Kľúčové pozadie

Organizácie sa čoraz viac obracajú na AI, aby im pomohla riadiť procesy náboru pracovných miest. V jednom Hlásenie 2020 Z viac ako 300 lídrov v oblasti ľudských zdrojov, ktorých citovali autori nedeľného príspevku, konzultačná spoločnosť Gartner zistila, že 86 % zamestnávateľov používa virtuálne technológie vo svojich náborových praktikách, čo je trend, ktorý sa zrýchlil od doby, keď pandémia Covid-19 prinútila mnohých zmeniť prácu online. Zatiaľ čo niektoré spoločnosti tvrdili, že AI môže ponúknuť nákladovo a časovo efektívnejší náborový proces, niektoré odborníci mať nájdených systémy majú tendenciu podporovať – a nie eliminovať – rasovo a rodovo zaujaté zamestnávanie replikovaním existujúcich predsudkov z reálneho sveta. Niekoľko amerických zákonodarcov má zameraný na riešenie predsudkov v systémoch umelej inteligencie, keďže technológia sa naďalej rýchlo vyvíja a existuje len málo zákonov, ktoré by ju regulovali. Biely dom tento týždeň zverejnil „Blueprint for AI Bill of Rights“, ktorý tvrdí, že algoritmy používané pri prijímaní zamestnancov „odrážajú a reprodukujú existujúce nechcené nerovnosti“ alebo vkladajú novú „zaujatosť a diskrimináciu“. Návrh – ktorý nie je právne záväzný ani oficiálnou vládnou politikou – vyzýva spoločnosti, aby zabezpečili, že AI nebude diskriminovať ani neporuší súkromie údajov, a aby používateľov informovali o tom, kedy sa technológia používa.

Na čo sa zamerať

V zozname odporúčaní autori nedeľného Filozofia a technológia dokument navrhol, aby sa spoločnosti, ktoré vyvíjajú technológie AI, zameriavajú na širšie, systematické nerovnosti namiesto „individualizovaných prípadov zaujatosti“. Navrhujú napríklad vývojárom softvéru preskúmať kategórie používané na triedenie, spracovanie a kategorizáciu kandidátov a ako môžu tieto kategórie podporovať diskrimináciu tým, že sa spoliehajú na určité predpoklady o pohlaví a rase. Výskumníci tiež tvrdia, že personalisti by sa mali pokúsiť pochopiť, ako fungujú nástroje náboru AI a aké sú niektoré z ich potenciálnych obmedzení.

Prekvapivá skutočnosť

Európska únia vo svojej novinke klasifikovala náborový softvér a nástroje na hodnotenie výkonu poháňané AI ako „vysoko rizikové“. návrh právny rámec pre AI, čo znamená, že nástroje by podliehali väčšej kontrole a museli by spĺňať určité požiadavky na súlad.

Ďalšie čítanie

DC chce viesť boj proti zaujatosti AI (Axios)