Sari la conținut
Ultima oră Cristian Păun ironizează tratamentul diferit aplicat liderilor USR față de Marian Neacșu
Cuvântul Liber
Societate

Algoritmii discrimină femeile, dar accesul la justiție este blocat de lipsa probelor

Un studiu pentru Parlamentul European arată că femeile afectate de decizii automate în recrutare sau creditare nu pot contesta deciziile din cauza lipsei de informații.

3 min citire
Algoritmii discrimină femeile, dar accesul la justiție este blocat de lipsa probelor
Pexels License · original · licență

Un studiu realizat pentru Comisia pentru drepturile femeilor și egalitatea de gen a Parlamentului European (FEMM) semnalează dificultățile majore pe care le întâmpină femeile discriminate de algoritmi. Analiza, semnată de Nele Roekens și Carlotta Rigotti, evidențiază faptul că victimele nu au acces la informațiile necesare pentru a demonstra discriminarea în procese precum recrutarea, creditarea sau acordarea prestațiilor sociale. Această lipsă de transparență transformă deciziile automate într-un obstacol aproape imposibil de depășit prin căile juridice clasice.

Problema centrală identificată în cercetare este accesul la probe, deoarece persoana afectată poate nici măcar să nu știe că a fost evaluată printr-un sistem automat. Chiar și atunci când știe, este extrem de dificil să identifice responsabilitățile specifice ale dezvoltatorului, furnizorului sau utilizatorului sistemului respectiv. Această fragmentare a responsabilității face ca stabilirea legăturii dintre proiectarea tehnologiei și prejudiciul suferit de femeie să devină o provocare tehnică și juridică imensă.

Studiul demonstrează că eliminarea variabilei „sex” din date nu garantează un rezultat echitabil, deoarece algoritmii pot folosi indicatori care funcționează ca substituti pentru gen. De exemplu, în Austria, sistemele de profilare au penalizat mamelor pentru obligațiile de îngrijire, în timp ce tații nu au fost tratați la fel. În recrutare, variabile precum întreruperile de carieră sau munca cu timp parțial pot reproduce inegalitățile sociale existente, chiar dacă sistemul pare neutru.

În sectorul financiar, o cercetare bazată pe datele a 79.386 de clienți ai unei bănci europice a arătat că eliminarea sexului din model a redus probabilitatea de acceptare a creditelor pentru femei. În domeniul sănătății, modelele lingvistice au recomandat mai frecvent femeilor gestionarea simptomelor acasă, iar performanța diagnosticării scade pentru grupurile subreprezentate în date. Aceste cazuri confirmă faptul că erorile algoritmice au efecte concrete asupra vieții și sănătății femeilor.

Cadrul juridic actual este descris ca fiind fragmentat și insuficient pentru a oferi soluții rapide. Deși AI Act stabilește cerințe pentru sistemele cu risc ridicat, implementarea principalelor obligații pentru recrutare și servicii esențiale este amânată până la 2 decembrie 2027. Totodată, noua directivă privind produsele defecte, care ar putea include software-ul, se aplică abia pentru produsele lansate după 9 decembrie 2026 și nu acoperă direct problema discriminării.

Pentru a remedia aceste lacune, autoarele propun reluarea unei directive privind răspunderea pentru prejudiciile cauzate de IA, care să permită remediile colective și să consolideze transferul sarcinii probei. Recomandările includ și oferirea de sprijin tehnic și juridic specializat pentru victime, alături de finanțarea mai robustă a organismelor pentru egalitate. Studiul subliniază că prevenirea discriminării trebuie să fie însoțită de posibilitatea reală de a obține reparații efective.

Surse

Sursa: Economistul

Tot în Societate