NOERR: Utilizarea AI in procesele de HR este eficienta, dar poate fi si catastrofala

Este bine cunoscut faptul ca tehnologia transforma continuu modul in care lucram. Din ce in ce mai multe companii utilizeaza programe care implica software cu inteligenta artificiala (IA) pentru a isi simplifica si accelera procesele de luare a deciziilor, precum si activitatile comerciale in general. Unul dintre ultimele domenii in care a inceput sa se foloseasca IA este cel al proceselor de resurse umane.

Nu exista nicio dezbatere cu privire la impactul pozitiv al software-ului cu IA in procesele de resurse umane sau la modul in care IA remodeleaza gestionarea acestor procese. De la recrutare, la masurarea productivitatii si oferirea unei formari profesionale adecvate angajatilor, pana la nivelul de implicare al acestora in cadrul companiei, IA este cunoscuta pentru faptul ca ajuta companiile sa eficientizeze procesele, sa reduca timpul si costurile si sa diminueze prejudecatile umane (chiar si inconstiente).

 

Utilizarea software-ului cu IA in procesele de resurse umane poate parea cu usurinta solutia "de urmat" pentru angajatori. Cu toate acestea, orice companie care foloseste software cu IA stie ca exista o linie subtire intre respectarea deplina si incalcarea prevederilor legale aplicabile, ceea ce inseamna ca exista un risc puternic ca dorinta de inovare sa declanseze o catastrofa de conformitate.

Pana in prezent, angajatorii au fost obligati sa respecte, in principal, cerintele GDPR atunci cand utilizeaza software cu IA in procesele de resurse umane, dar situatia va deveni in curand mai complicata. Un proiect de regulament UE privind IA propus de Comisia Europeana in 2021 face in prezent obiectul unor negocieri politice si se asteapta sa fie supus votului in plen la sfarsitul anului 2022 sau la inceputul anului 2023.

Proiectul de regulament privind IA stabileste o abordare bazata pe risc (inacceptabil, ridicat, limitat si minim) - cu cat riscul este mai ridicat, cu atat mai stricta este regula. Sistemele si instrumentele tehnologice de resurse umane, si anume: sisteme de IA utilizate pentru recrutarea sau selectia persoanelor fizice - anunturi de angajare, depistarea sau filtrarea candidaturilor, evaluarea candidatilor in timpul interviurilor.

Sisteme de IA utilizate pentru luarea deciziilor privind promovarea si incetarea contractelor de munca, alocarea sarcinilor, evaluarea performantelor si a comportamentului, sunt considerate sisteme de IA cu risc ridicat. Astfel, folosirea sistemelor de IA in procesele de resurse umane este permisa sub rezerva (i) respectarii unor cerinte stricte privind calitatea datelor, documentatia si transparenta, supravegherea umana, protectia impotriva atacurilor cibernetice si (ii) unei evaluari a conformitatii aplicatiei.

Proiectul de regulament privind IA prevede, de asemenea, consecinte negative pentru societatile care nu respecta cerintele - pana la 30.000.000 € sau 6% din cifra de afaceri anuala totala la nivel mondial pentru cele mai grave incalcari.

Avand in vedere cele de mai sus, am considerat utila evidentierea principalelor aspecte pe care angajatorii trebuie sa le ia in considerare atunci cand implementeaza sau utilizeaza software cu IA in procesele de resurse umane.

 

Desi software-ul cu IA elimina partinirea umane, companiile trebuie sa fie constiente de faptul ca un astfel de software poate avea o partinire algoritmica.

Software-ul cu IA se bazeaza pe algoritmi, adica pe un set de instructiuni care sunt introduse in calculatoare pentru a fi folosite de acestea ca baza pentru decizii. Astfel, un algoritm partinitor (de exemplu, din cauza unei baze de date defectuoase sau a unei programari incorecte) poate duce la discriminarea indirecta a candidatilor/angajatilor. De exemplu, in cazul recrutarii, daca societatea angajeaza de obicei barbati, este posibil ca software-ul cu IA sa elimine candidatii de sex feminin.

Angajatorii care iau decizii bazate pe un software cu IA care are o partinire algoritmica se expun unor sanctiuni in cazul in care candidatii/angajatii depun plangeri pentru discriminare la Consiliul National pentru Combaterea Discriminarii (CNCD) sau in instanta, respectiv amenzi de pana la 100.000 de lei (aprox. 20.000 €).

Pentru a atenua riscul de partinire algoritmica, companiile ar trebui sa ia masuri pentru a fi informate in mod adecvat cu privire la software-ul cu IA, ceea ce inseamna (i) discutarea cu dezvoltatorii cu privire la setul de date si modul in care computerul urmeaza sa fie antrenat pentru a utiliza algoritmii si (ii) testarea produsului pentru a se asigura ca toate caracteristicile protejate (de exemplu, sexul, etnia etc.) sunt incluse in seturile de date utilizate. In plus, angajatorii trebuie sa fie in masura sa asigure trasabilitatea operatiunilor efectuate de catre sistem pentru a putea explica, daca este necesar, angajatilor/candidatilor sau chiar autoritatilor din domeniul muncii modul in care software-ul cu IA a produs rezultatul pe care s-a bazat decizia de resurse umane.

 

Software-ul cu IA in procesele de resurse umane implica o varietate de analize de date mari care pot declansa implicatii semnificative din perspectiva GDPR. Astfel, angajatorii care utilizeaza software cu IA pentru procesele de resurse umane trebuie sa aiba in vedere o evaluare a impactului asupra protectiei datelor (DPIA) in conformitate cu reglementarile GDPR, pe baza careia ar putea lua in considerare luarea unor masuri precum:

- pseudonimizarea datelor cu caracter personal, daca este posibila;

- asigurarea transparentei, adica asigurarea faptului ca persoanele fizice cunosc modul in care sunt prelucrate datele lor;

- informarea candidatilor/angajatilor cu privire la modul in care sunt prelucrate datele lor.

 

Angajatorii au obligatia generala de a isi informa angajatii cu privire la elementele raportului de munca, precum si de a se consulta cu reprezentantii angajatilor/sindicatul cu privire la deciziile care pot afecta in mod substantial drepturile si interesele acestora. In plus, companiile au o obligatie de informare cu privire la prelucrarea datelor cu caracter personal in temeiul GDPR.

Desi nu exista nicio obligatie specifica in dreptul muncii privind informarea in legatura cu utilizarea software-ului cu IA, utilizarea unui astfel de software in procesele de resurse umane cu privire la proprii angajati implica agregarea de date care pot afecta drepturile si interesele acestora. Astfel, pe langa obligatiile care deriva din GPDR, s-ar putea dovedi util pentru companii sa consulte reprezentantii angajatilor sau sindicatul atunci cand implementeaza sau utilizeaza software de IA in procesele de resurse umane.

 

Atat GDPR, cat si proiectul de regulament privind IA interzic utilizarea software-ului cu IA pentru luarea unor decizii exclusiv automatizate. Astfel, prezinta o importanta deosebita ca societatile sa se asigure ca software-ul cu IA este "supravegheat" de un operator uman, preferabil din departamentul de resurse umane.

In acest caz, angajatorul trebuie sa se asigure ca operatorul uman are competenta, formarea si autoritatea necesare pentru a indeplini aceasta sarcina. Prin urmare, este recomandabil ca angajatul sa primeasca o instruire adecvata pentru a putea supraveghea cu atentie functionarea software-ului cu IA, sa interpreteze corect rezultatele si/sau sa decida daca aceste rezultate trebuie utilizate, anulate sau inversate.

Indiferent daca proiectul de regulament privind IA intra sau nu in vigoare, angajatorii care intentioneaza sa utilizeze sau utilizeaza software cu IA in procesele de resurse umane ar trebui sa considere acest proiect ca o ocazie de a evalua cu atentie oportunitatile si riscurile unui astfel de software si de a isi adapta practicile in consecinta.