Napjainkban egyre gyakrabban mesterséges intelligenciák (MI) választják ki és ellenőrzik az embereket, ezért fontos, hogy a cégek tisztában legyenek az alkalmazott technológia buktatóival és veszélyeivel is. Jelentős szabályozási kockázata lehet, ha a modern emberi erőforrás (HR) gazdálkodási alkalmazások MI algoritmusai nincsenek kellően precízen huzalozva: mivel korábbi emberi döntésekből és így elfogultságokból is tanul, a MI döntései támadhatók lehetnek, amire egyre több jogi incidens hívja fel a figyelmet.
Egyre több szervezet használja a mesterséges intelligenciát(MI) az emberi erőforrás-gazdálkodása terén, különösen a toborzási, teljesítményértékelési, erőforrás-tervezési folyamataiban. A toborzásban a MI elemzi az önéletrajzokat, összeveti azokat a munkaköri leírásokkal, azonosítja az ideális jelölteket az online forrásokból, és automatizált videóinterjúk és személyiségértékelések segítségével egyszerűsíti az értékelési folyamatokat.
A leírt eljárás elvileg kiegyensúlyozott és objektív értékelési folyamatot eredményezne, ahol valóban az arra legalkalmasabb nyeri el a felkíált állást, hiszen nem veszi figyelembe a jelentkező nemét, származásátá, a „visszautasíthatatlan” ajánlásokat vagy éppen a felvételi szempontoktól eltérő, gyakran éppen szexista vagy életkor szerinti pozitív-negatív preferenciákat. A legújabb toborzó rendszerek emellett felkészültek a testbeszéd elemzésére, és az érzelmi intelligencia előrejelzésére szolgáló öntanuló algoritmusokat is alkalmaznak, ezért – összességében – akár olyan társadalmi célokat is segíthetnek megvalósítani, amelyek a sokszínűséggel, egyenlőséggel vagy befogadással kapcsolatosak. Elvileg.
Több kutatás is vizsgálja, hogy a MI eszközök hogyan értékelik a jelölt emberek személyiségét a róluk készült felvételek alapján, és arra jutottak, hogy a gépi előrejelzéseket befolyásolják az arckifejezések, a megvilágításban vagy háttérben bekövetkező változások, a tipikus életkor, sőt még a ruházat – pl. egy fejkendő – is, miközben ezeknek semmi köze az álláskeresők képességeihez. Ráadásul nem is arról van szó, hogy ezek a MI eszközök rosszul működnének. Éppen ellenkezőleg, jól megtanulják a „leckét”, hiszen a korábbi kandidálók eredményei alapján kiválasztják, melyek voltak a sikeres jelöltek közös tuljadonságai a ruházatot is beleértve, és az újaknál is ezeket keresik és választják ki. Mindez a sokszínűség és előítélt mentesség érvényesülése helyett éppen, hogy egy kaptafára gyártja az eredményeket. A mesterséges intelligencia-alapú program, még ha sok mindenben hatékonyan képes helyettesíteni a humán munkaerőt, az empátiát, a társadalmi normákat és elvárásokat egyelőre nem képes szimulálni.
A társadalmi célok háttérbe szorulása mellett sokkal személyesebb, húsbavágó hibákat is eredményezhet, ha odafigyelés nélkül alkalmazzák a MI támogatta torborzást. A diszkriminációs esetek előfordulása, és az ilyen perek nem csak a HR támogató eszközbe vetett hitet rombolják, de a diszkriminációt elkövető cégek hírnevét és pénztárcáját is. A legutóbbi pert azért indították, mert a MI a kiválasztásnál kikukázta az 55 éven felüliek jelentkezéseit. A nyilvánvaló diszkrimináció akkor bukott ki, mikor az egyik jelölt kétszer is beadta ugyanazt a jelentkezést, de csak az a jelentkezése kapott pozitív választ, ahol fiatalabbnak állította be magát. A cégnek ez az egyetlen eset 365 ezer dollárjába került, de ha minden hátrányba hozott beperelte volna, nagyságrendekkel nagyobb büntetéssel kellett volna szembe néznie.
Egy jól kidolgozott jogi feltételrendszer segíthet csökkenteni a cégek szabályozási kockázatait, ezért az ilyen MI támogatta eszközök bevezetését érdemes összekötni a belső szabályozók szakértő felülvizsgálatával. A mesterséges intelligencia HR alkalmazásával kapcsolatos félelmeknek azonban a szabályozási vonatkozásokon túl már politikai hatásai is lehetnek. Az angliai és walesi szakszervezetek szövetsége, az 5,5 millió tagot képviselő Trade Union Congress (TUC) szigorúbb szabályokat követel a mesterséges intelligenciát alkalmazó, de az érintettek számára átláthatatlan munkaügyi döntésekkel kapcsolatban. Céljuk, hogy a cégek tegyék átláthatóvá a munkaerővel kapcsolatos ejárások során használt MI működését, hogy szükség esetén a munkavállalók megtámadhassák az így született döntéseket.
