Răspunsul
da, persoanele fizice nu ar trebui să fie supuse unei decizii bazate exclusiv pe prelucrarea automată (cum ar fi algoritmii) și care este obligatoriu din punct de vedere juridic sau are un impact semnificativ asupra lor.
O decizie poate fi considerată ca având un efect juridic atunci când sunt afectate drepturile legale sau statutul juridic al persoanei (de exemplu, dreptul său de vot). În plus, procesarea poate avea un impact semnificativ asupra unei persoane, dacă aceasta îi afectează circumstanțele personale, comportamentul sau alegerile (de exemplu, procesarea automată poate duce la respingerea unei cereri de împrumut online).
Utilizarea procesului decizional automatizat este permisă numai în următoarele cazuri:
- este necesară o decizie bazată pe algoritmi (adică, nu există o altă modalitate de a atinge același obiectiv) pentru a încheia sau a realiza un contract cu o persoană ale cărei date compania/organizația dvs. le-a prelucrat folosind algoritmul (de exemplu, o cerere de împrumut online);
- legislația specifică a UE sau națională permite utilizarea algoritmilor și oferă garanții adecvate pentru a proteja drepturile, libertățile și interesele legitime ale individului (de exemplu, norme pentru prevenirea evaziunii fiscale);
- individul și-a dat consimțământul explicit pentru decizia bazată pe algoritm.
Cu toate acestea, atunci când se ia o decizie, drepturile, libertățile și interesele legitime ale individului trebuie protejate prin luarea măsurilor de protecție adecvate. Cu excepția cazurilor în care o astfel de decizie se bazează pe lege, persoana trebuie să fie informată cel puțin despre (i) procedura utilizată în procesul decizional, (ii) dreptul său de a obține intervenția umană, (iii) posibilele consecințe ale prelucrarea și (iv) dreptul său de a obiecta la decizie. Prin urmare, compania/organizația dvs. trebuie să ia măsurile procedurale necesare pentru a permite individului să își exprime o opinie și să se opună deciziei.
În cele din urmă, trebuie acordată o atenție specială pentru a se asigura că algoritmul utilizează categorii speciale de date cu caracter personal: luarea automată a deciziilor este permisă numai în următoarele circumstanțe:
- individul și - a dat consimțământul expres sau
- prelucrarea este necesară din motive de interes public superior în temeiul legislației UE sau naționale.
În plus, dacă individul este un copil, deciziile luate numai pe baza procesării automate care produc efecte juridice sau efecte de o semnificație similară ar trebui evitate, deoarece copiii reprezintă un grup mai vulnerabil în societate.
Exemplu
Compania/organizația dvs. este o bancă online care oferă împrumuturi. Clienții își introduc datele și algoritmul generează rezultate dacă clientul ar trebui să primească sau nu un împrumut și rata dobânzii propuse. Compania/organizația dvs. trebuie să revizuiască decizia înainte de a comunica cu potențialul client și să îi informeze că își pot exprima opiniile și, dacă este necesar, se pot opune deciziei, ținând cont de faptul că individul are dreptul să nu fie supus deciziei pe algoritmi.