Viteza cu care evolueaza tehnologia aduce tot mai aproape scenarii precum calcularea primei de asigurare de sanatate pe baza comportamentului fiecarei persoane sau a asigurarii auto RCA in functie de stilul de condus si de datele colectate de la autoturism in acest sens. Aceste ipoteze presupun utilizarea tehnologiilor de tipul AI (inteligenta artificiala) care, dincolo de beneficiile semnificative pe care le ofera, presupun si riscuri cu privire la respectarea drepturilor si libertatilor fundamentale ale persoanelor vizate. La nivel european exista, in ultimii ani, preocupari intense in legatura cu acest subiect, cu scopul de a proteja consumatorii, insa fara a frana utilizarea tehnologilor de acest tip.Inteligenta artificiala este deja intens utilizata in domenii diverse, iar avantajele sunt evidente. Oficialii europeni sustin insa ca folosirea inteligentei artificiale trebuie sa tina cont si de faptul ca aceasta poate aduce prejudicii semnificative persoanelor vizate, atat de ordin material, cat si moral. Totodata, acestia recunosc ca, in practica, persoanele afectate pot intampina dificultati in exercitarea drepturilor lor in legatura cu anumite decizii luate de inteligenta artificiala.
In zona de publicitate si marketing, in comertul online, in procesele de segmentare a audientei vizate si de personalizare a mesajelor de promovare folosite de platforme online, aplicatii sau site-uri, se utilizeaza deja diferite procese decizionale automate, inclusiv de tipul inteligentei artificiale. Asa cum arata si Comisia Europeana in documentele emise in legatura cu acest subiect, AI este utilizata de intermediarii online pentru a stabili prioritatea informatiilor destinate clientilor si pentru a asigura modelarea continutului. Dar datele prelucrate, modul in care sunt concepute aplicatiile si posibilitatile de interventie umana pot afecta drepturile la libertatea de exprimare, la protectia datelor cu caracter personal si a vietii private, precum si libertatile politice. Din ce in ce mai multe programe de calculator personalizeaza experienta utilizatorilor in mediul online, pe baza informatiilor colectate despre acestia referitoare la activitate, modul de petrecere a timpului, preferinte, informatii tranzactionale etc.
Implicatiile utilizarii AI si conformarea cu legislatia in vigoare
Avand in vedere ca, din perspectiva protectiei datelor cu caracter personal, exista riscuri de prelucrare intruziva si de „etichetare” a utilizatorilor, discutiile cu privire la folosirea unei solutii sau aplicatii software care poate presupune si AI se concentreaza in jurul a doua idei. Prima este legata de etica juridica, in contextul potentialului conflict dintre perspectiva de business si perspectiva utilizatorului. Din acest punct de vedere, instructiunile transmise clientilor trebuie sa respecte anumite criterii de transparenta si sa nu fie discriminatorii, indeplinind in acelasi timp asteptarile acestora, in special legate de UI - user infrastructure design (o comunicare vizuala estetica si interactiune placuta pentru utilizatori) si UX - user experience (atentie la detalii, empatie si simplificarea proceselor pe care clientii sunt nevoiti sa le parcurga).
A doua idee este legata de conformarea cu legislatia aplicabila in zone precum protectia consumatorilor, a drepturilor de proprietate intelectuala si, mai ales, a datelor cu caracter personal. In aceasta ultima privinta, conformarea nu reprezinta doar bifarea unor „termeni si conditii” sau redactarea unei „privacy policy” ori a unei note de informare. In acest caz, sunt relevante aspecte precum alegerea sau validarea unui temei de prelucrare, recomandari in ceea ce priveste instructiunile date motorului de personalizare (diferite de la un model de business la altul), clarificari in legatura cu criteriile de profilare, cum se realizeaza efectiv profilarea si gradul de intruziune, modalitatea in care se asigura interventia umana, asigurarea unui echilibru intre ce inseamna intruziv si non-intruziv.
In acest context, avand in vedere beneficiile semnificative pe care le implica economia bazata pe date (data-driven economy), care includ si dezvoltarea tehnologiilor de tipul AI, este apreciabila preocuparea forurilor europene pentru definirea unui cadru legislativ care sa garanteze ca progresul tehnologic in domeniul digitalizarii respecta drepturile si libertatile fundamentale ale persoanelor vizate.
Regulamentul general privind protectia datelor cu caracter personal (GDPR) impune o serie de reguli si pune la dispozitia persoanelor vizate mecanisme menite sa le protejeze de riscurile ce pot aparea in legatura cu deciziile luate de AI (de exemplu, riscuri de discriminare, practici neloiale si efecte de blocare). Cu toate acestea, mai sunt necesare initiative legislative sau, cel putin, recomandari si bune practici pentru identificarea celor mai potrivite mijloace care trebuie puse la dispozitia persoanelor vizate pentru a-si exercita drepturile, precum si pentru adaptarea mecanismelor existente la provocarile specifice utilizarii AI in diferite sectoare.
Material de opinie de Silvia Axinescu, Senior Managing Associate la Reff & Asociatii|Deloitte Legal
