Reglementarea inteligenței artificiale în UE

 

Inteligența artificială transformă rapid industriile și societatea, iar Uniunea Europeană a decis să impună un cadru clar pentru utilizarea sa responsabilă. Regulamentul (UE) 2024/1689, adoptat pe 13 iunie 2024, a intrat oficial în vigoare la 1 august 2024 și stabilește reguli stricte pentru dezvoltarea, comercializarea și utilizarea sistemelor de IA în spațiul european.

Acest regulament nu vine cu schimbări bruște, ci se aplică progresiv. Primele cerințe obligatorii au intrat în vigoare în februarie 2025, iar din august 2026 toate normele vor deveni aplicabile în întregime. Noile reguli se concentrează pe limitarea riscurilor, prin impunerea unor cerințe stricte pentru sistemele considerate cu risc ridicat și prin interzicerea anumitor utilizări abuzive ale inteligenței artificiale.

Un aspect esențial este că Regulamentul IA (în acest moment capitolul I și II) se aplică direct în România, fără a necesita transpunere în legislația națională. Aceasta înseamnă că furnizorii și utilizatorii comerciali sau instituționali care dezvoltă sau implementează soluții de IA trebuie să se asigure că respectă noile obligații legale pentru a evita sancțiunile.

Ce înseamnă un „Sistem de inteligență artificială” conform Regulamentului (UE) 2024/1689?

Pentru a înțelege pe deplin impactul Regulamentului IA (UE) 2024/1689, este esențial să clarificăm ce se încadrează sub definiția unui sistem de inteligență artificială în accepțiunea acestuia.

Conform regulamentului, un sistem de IA este definit ca:

„un sistem bazat pe o mașină care este conceput să funcționeze cu diferite niveluri de autonomie și care poate prezenta adaptabilitate după implementare, și care, urmărind obiective explicite sau implicite, deduce, din datele de intrare pe care le primește, modul de generare a unor rezultate precum previziuni, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale.”

Clasificarea sistemelor de inteligență artificială: o abordare bazată pe riscuri

Unul dintre cele mai semnificative aspecte ale Regulamentului (UE) 2024/1689 este stabilirea unui sistem de clasificare a riscurilor asociate tehnologiilor de inteligență artificială.

Regulamentul identifică patru niveluri de risc pentru sistemele de inteligență artificială:

1. Risc inacceptabil – Interzis în UE

Aceasta este categoria care include sistemele considerate periculoase pentru drepturile fundamentale și securitatea cetățenilor. Sistemele IA care se încadrează aici sunt interzise în Uniunea Europeană.

Sisteme IA interzise:

1. Manipularea comportamentală prin tehnici subliminale
   • Sistemele care folosesc metode subliminale sau manipulatoare pentru a influența deciziile utilizatorilor fără ca aceștia să fie conștienți, ducând la decizii pe care altfel nu le-ar lua și care pot avea consecințe negative asupra lor.
2. Exploatarea vulnerabilităților
   • IA care profită de vârsta, dizabilitatea sau statutul social și economic al unei persoane pentru a-i influența comportamentul în mod dăunător.
3. Sistemele de scor social
   • Evaluarea și clasificarea indivizilor pe baza comportamentului social sau a altor caracteristici personale, ceea ce poate duce la tratament discriminatoriu sau la restrângerea unor drepturi în contexte fără legătură cu evaluarea inițială.
4. Predicția comportamentului infracțional
   • Sisteme IA care analizează și anticipează probabilitatea ca o persoană să comită infracțiuni exclusiv pe baza profilării sau a trăsăturilor de personalitate, fără fapte obiective.
5. Recunoașterea facială fără consimțământ
   • Crearea de baze de date biometrice prin extragerea imaginilor de pe internet sau camere de supraveghere fără un scop precis și fără consimțământul persoanelor vizate.
6. Deducerea emoțiilor în locuri de muncă și educație
   • Utilizarea IA pentru a analiza emoțiile angajaților sau studenților, cu excepția scopurilor medicale sau de siguranță.
7. Clasificarea biometrică pe baza caracteristicilor sensibile
   • Sistemele IA care categorizează indivizii în funcție de rasă, opinii politice, convingeri religioase, viață sexuală sau orientare sexuală, pe baza datelor biometrice.
8. Identificarea biometrică la distanță în timp real în spații publice (cu excepții foarte restrânse)
   • Supravegherea biometrică de către autoritățile de aplicare a legii este permisă doar în cazuri extreme, precum:
     • Căutarea persoanelor dispărute sau a victimelor traficului de persoane.
     • Prevenirea unor amenințări iminente (ex.: atacuri teroriste).
     • Identificarea suspecților în cazul unor infracțiuni grave (ex.: crimă, viol, trafic de droguri).

 

2. Risc ridicat

Sistemele de inteligență artificială cu grad ridicat de risc sunt cele care pot avea un impact semnificativ asupra siguranței, sănătății și drepturilor fundamentale ale cetățenilor Uniunii Europene. Conform Regulamentului (UE) 2024/1689, aceste sisteme sunt supuse unor cerințe stricte pentru a putea fi utilizate în mod legal pe piața europeană.

 

Conform Regulamentului, sunt clasificate ca risc ridicat următoarele sisteme IA:

1. Sisteme IA utilizate în infrastructuri critice

• Gestionarea și operarea infrastructurilor esențiale precum rețelele de energie, apă și transport public, unde o defecțiune poate avea consecințe grave asupra societății.

1. Sisteme IA utilizate în educație și angajare

• Sisteme care analizează și evaluează candidații pentru angajare (ex.: IA utilizată în recrutare);
• Sisteme IA utilizate pentru evaluarea elevilor și studenților, inclusiv algoritmi de testare și clasificare academică.

1. Sisteme IA aplicate în domeniul juridic și al aplicării legii

• Sisteme folosite pentru analiza probelor sau predicția infracționalității;
• IA utilizată în investigarea și identificarea suspecților în cadrul anchetelor penale;
• Sisteme folosite pentru luarea deciziilor judiciare sau analiza riscurilor legale.

1. Sisteme IA utilizate în gestionarea migrației și controlul frontierelor

• Sisteme de evaluare a cererilor de azil și migrație;
• IA utilizată pentru verificarea documentelor și detectarea fraudelor la punctele de frontieră.

1. Sisteme IA folosite în servicii publice și administrație

• IA care determină accesul la servicii esențiale, inclusiv sănătate, educație, beneficii sociale sau împrumuturi;
• Algoritmi utilizați pentru procesarea automată a dosarelor administrative și alocarea resurselor publice.

 

3. Risc limitat – Cerințe minime de transparență

Această categorie include sistemele de inteligență artificială care nu prezintă un pericol direct pentru drepturile fundamentale, dar care trebuie să fie clare și transparente pentru utilizatori.

Printre acestea se numără:

• Chatboții și asistenții virtuali, care trebuie să informeze utilizatorii că interacționează cu o IA;
• Generatoare de conținut IA, inclusiv deepfake-uri, care trebuie marcate și identificate ca fiind artificiale;

Regulamentul impune ca utilizatorii să fie notificați clar și fără echivoc că interacționează cu un sistem de IA, astfel încât să poată lua decizii informate.

4. Risc minim – Fără reglementări specifice

Sistemele IA cu risc minim sunt acelea care nu prezintă pericole pentru utilizatori și nu necesită restricții speciale.

Exemple din această categorie includ:

• Filtrele de spam pentru e-mail;
• Sistemele de recomandare de conținut (ex.: recomandări de filme sau produse);

Modelele generative și ai de uz general (GPAI) – un regim special

Pe lângă cele patru categorii de risc, regulamentul IA introduce reguli specifice pentru modelele generative de ai (GPAI). Acestea sunt modele de inteligență artificială capabile să genereze conținut divers (text, imagini, sunet etc.) Și care pot fi integrate în aplicații variate.

 

Regulamentul (UE) 2024/1689 privind inteligența artificială marchează un moment crucial în definirea unui cadru legislativ armonizat și echilibrat pentru utilizarea responsabilă a tehnologiilor IA în Uniunea Europeană. Într-o lume în care IA devine din ce în ce mai integrată în viața de zi cu zi, implementarea corectă a acestor reglementări va juca un rol esențial în menținerea echilibrului între progresul tehnologic și protecția cetățenilor.

 

Pentru mai multe informații sau orice întrebări suplimentare, nu ezitați să mă contactați:

Telefon: 0721155757
 Email: nicoleta@avocatraulea.ro