Ce drepturi apar când banca sau angajatorul folosesc AI și ce reguli intră în vigoare între 2025 și 2028

Pentru cine cere un credit, un beneficiu social, un loc de muncă sau acces la educație, întrebarea este dacă un sistem AI influențează decizia. În aceste cazuri apar obligații de transparență, supraveghere umană și trasabilitate. Regulamentul se aplică direct în toate statele membre, inclusiv în România, fără să aștepte o transpunere națională, iar tehnologia este reglementată după cum este construită, folosită și după tipul de decizii pe care le ia.

AI Act este primul cadru juridic global care pune sistemele de inteligență artificială în patru categorii de risc: inacceptabil, ridicat, de transparență și minim, conform Regulamentului prezentat de Comisia Europeană.

Primul lucru care s-a schimbat este că unele practici au fost interzise din 2 februarie 2025

De la 2 februarie 2025 au devenit complet interzise practicile considerate cu risc inacceptabil. Aici intră punctajul social al cetățenilor, manipularea dăunătoare bazată pe AI, exploatarea vulnerabilităților și recunoașterea emoțiilor la locul de muncă sau în instituțiile de învățământ.

Tot de la aceeași dată este interzisă categorizarea biometrică folosită pentru a deduce caracteristici protejate, cum sunt rasa, opiniile politice, orientarea sexuală sau religia. Tot aici intră și utilizarea identificării biometrice la distanță în timp real în spațiile accesibile publicului pentru aplicarea legii, cu excepții foarte limitate.

Sistemele AI care generează conținut sexual explicit și intim neconsensual, inclusiv aplicațiile de „nudificare” și materialele de tip deepfake sau care conțin abuzuri sexuale asupra copiilor, vor intra sub interdicție în decembrie 2026, după modificările aduse prin pachetul Omnibus IA. Aceste modificări au intrat în vigoare la 27 iulie 2026 și explică și prelungirea termenelor pentru sistemele cu risc ridicat.

Tot din 2 februarie 2025 a devenit aplicabilă și obligația de alfabetizare în domeniul IA, adică AI Literacy. În practică, organizațiile care folosesc astfel de sisteme trebuie să se asigure că personalul înțelege ce face aplicația, ce limite are și când rezultatul ei trebuie pus sub semnul întrebării.

Sistemele care pot influența creditul, angajarea sau accesul la beneficii intră la risc ridicat

Cea mai importantă categorie pentru bani și drepturi este cea de risc ridicat. Aici sunt incluse sistemele AI care pot afecta sănătatea, siguranța sau drepturile fundamentale și care operează în domenii sensibile.

Printre exemplele date de regulament intră soluțiile folosite pentru notarea examenelor, software-ul care sortează CV-uri la recrutare, sistemele care influențează accesul la servicii publice sau private esențiale, cum este evaluarea bonității la credit, dar și instrumentele folosite în justiție, în migrație, la frontieră sau în infrastructuri critice.

Pentru publicul Fintec, exemplul cel mai direct este notarea creditelor. Dacă un sistem AI contribuie la decizia care poate refuza accesul la un împrumut, acel sistem este tratat ca utilizare cu risc ridicat. La fel, dacă un algoritm triază CV-uri și filtrează candidați, decizia lui intră în aceeași zonă de control mai strict.

ultra-vision.ro explică și o consecință practică importantă: clasificarea se face pe caz de utilizare, nu doar pe numele produsului. Același instrument poate fi risc limitat într-o folosire banală și risc ridicat când decide cine primește un beneficiu, cine ajunge la interviu sau cum sunt triate petițiile cetățenilor.

Obligațiile grele pentru sistemele cu risc ridicat pornesc la 2 decembrie 2027

Termenul pentru obligațiile stricte este 2 decembrie 2027, în cazul sistemelor AI încadrate la risc ridicat pentru domeniile sensibile din Anexa III. Sunt vizate datele biometrice și infrastructura critică, alături de educație, ocuparea forței de muncă, migrație, azil și controlul la frontiere.

Regulile cer, înainte ca un astfel de sistem să fie introdus pe piață sau folosit în condițiile prevăzute de regulament, mai multe măsuri concrete:

• evaluarea și atenuarea riscurilor;
• seturi de date de calitate ridicată, pentru a reduce rezultatele discriminatorii;
• logare, adică înregistrarea activității sistemului, pentru trasabilitatea deciziilor;
• documentație tehnică detaliată, astfel încât autoritățile să poată verifica conformitatea;
• informații clare pentru implementator;
• supraveghere umană adecvată;
• robustețe, securitate cibernetică și precizie la nivel ridicat.

În limbaj practic, asta înseamnă că instituția sau compania nu poate invoca simpla funcționare automată a sistemului. Trebuie să poată arăta cum a fost evaluat, cine îl supraveghează și ce urme au rămas când sistemul a produs un rezultat cu efect asupra unei persoane.

Obligațiile nu se opresc la introducerea sistemului pe piață. Autoritățile supraveghează piața, implementatorii asigură supravegherea și monitorizarea umană, iar furnizorii monitorizează sistemul după introducerea pe piață. Incidentele grave trebuie raportate.

Pentru sistemele AI încorporate în produse deja reglementate la nivelul UE, cum sunt ascensoarele, jucăriile sau dispozitivele medicale, perioada de tranziție este mai lungă. Aceste reguli vor deveni aplicabile de la 2 august 2028.

Dreptul care contează pentru cetățean este reexaminarea umană a deciziei

Atunci când o persoană este afectată de o decizie luată printr-un sistem AI cu risc ridicat, regulamentul prevede dreptul la o reexaminare umană. În practică, asta contează mai ales când decizia privește accesul la fonduri publice, la angajare sau la alte servicii care pot schimba situația financiară ori profesională a persoanei.

Acest drept nu înseamnă că orice folosire de AI este interzisă. Înseamnă că, în zonele sensibile, decizia nu poate rămâne opacă și definitivă doar pentru că a fost produsă de un algoritm. Intervenția umană devine garanția minimă atunci când efectul merge asupra drepturilor fundamentale.

Transparența devine obligatorie din august 2026 pentru chatboți și conținutul generat de AI

O altă categorie din regulament este riscul de transparență. Aici regula este mai simplă: oamenii trebuie informați clar când interacționează cu o mașină, de exemplu cu un robot de chat de pe site-ul unei instituții sau al unei companii.

Normele de transparență intră în vigoare în august 2026. Pentru furnizorii de AI generativă, obligația merge mai departe: conținutul sintetic trebuie să fie identificabil, iar anumite materiale trebuie etichetate clar și vizibil. Regulamentul dă ca exemple deepfake-urile și textele publicate pentru informarea publicului în chestiuni de interes public.

Asta înseamnă watermarking sau alte forme de marcare a conținutului generat artificial, astfel încât imaginea, textul sau materialul audio să poată fi recunoscute ca rezultat al unui sistem AI.

Furnizorii de modele mari au deja obligații din 2 august 2025

Modelele de AI de uz general, cunoscute ca GPAI, pot îndeplini multe tipuri de sarcini și stau la baza altor sisteme folosite mai departe de companii și instituții. Pentru furnizorii acestor modele, normele au devenit aplicabile la 2 august 2025.

Regulile acoperă transparența, drepturile de autor și, pentru modelele care pot produce riscuri sistemice, obligația de a evalua și atenua aceste riscuri. În iulie 2025 au fost publicate și trei instrumente de sprijin: orientări privind domeniul obligațiilor, un cod voluntar de bune practici și un model de rezumat public al conținutului folosit la antrenarea modelelor.

Acest ultim instrument obligă furnizorii să ofere o imagine de ansamblu asupra datelor de formare, inclusiv asupra surselor din care provin datele și a unor aspecte legate de prelucrarea lor, pentru ca părțile cu interese legitime să își poată exercita drepturile prevăzute de legislația UE.

Regimul de amenzi există deja, iar în România supravegherea a fost împărțită din martie 2026

Regimul european de sancțiuni a devenit aplicabil la 2 august 2025. Pentru furnizarea de informații incorecte autorităților, amenda administrativă poate ajunge până la 7,5 milioane EUR sau 1,5% din cifra de afaceri globală.

În România, desemnarea autorităților a venit mai târziu. Din 12 martie 2026, ANCOM a fost desemnată ca autoritate principală de supraveghere, iar pentru serviciile financiare au fost desemnate oficial ASF și BNR pentru sistemele AI cu risc ridicat folosite în acest sector.

Pentru piața financiară, această împărțire contează direct. Dacă un sistem AI este folosit în servicii financiare și intră la risc ridicat, supravegherea nu mai este o noțiune abstractă, ci una plasată explicit la autoritățile care acoperă deja domeniul.

Firmele și instituțiile care folosesc funcții AI integrate sunt deja în sfera regulamentului

Regulamentul nu se aplică doar companiilor care își construiesc singure modelele. Intră sub reguli și organizațiile care folosesc funcții AI integrate în produse uzuale, cum sunt Microsoft 365 Copilot, Google Gemini, Adobe Firefly sau filtrele inteligente de e-mail.

Din punct de vedere legal, simpla folosire a unor astfel de funcții poate transforma o instituție sau o firmă în utilizator de sisteme AI. De aici pleacă obligația de a clasifica riscul după utilizarea concretă, nu doar după aplicația instalată.

Acesta este motivul pentru care un filtru de spam poate rămâne în categoria de risc minim, în timp ce un sistem care influențează aprobarea unui credit sau trierea candidaturilor merge spre risc ridicat, cu obligații mult mai ferme.

Calendarul de aplicare merge în cinci pași esențiali

Pentru a urmări ce se schimbă și când, reperele cele mai importante sunt acestea:

2 februarie 2025 – intră în vigoare practicile interzise și obligația de AI Literacy pentru organizațiile care folosesc sisteme AI.

2 august 2025 – devin aplicabile normele pentru modelele GPAI și regimul european de sancțiuni.

2 august 2026 – regulamentul devine aplicabil în general, iar regulile de transparență pentru anumite sisteme și pentru conținutul generat de AI intră în vigoare.

2 decembrie 2027 – se aplică obligațiile stricte pentru sistemele cu risc ridicat din domeniile sensibile prevăzute în Anexa III.

2 august 2028 – intră regulile pentru sistemele AI integrate în produse reglementate, cum sunt ascensoarele, jucăriile sau unele dispozitive medicale.

Ce este util de verificat în practică atunci când o decizie pare luată de un algoritm

În cazurile cu impact financiar, profesional sau administrativ, punctele utile de urmărit sunt simple și concrete:

Dacă există indicii că a fost folosit un sistem AI în procesul de decizie.

Dacă sistemul operează într-un domeniu sensibil, cum sunt creditarea, recrutarea, beneficiile sociale sau evaluarea educațională.

Dacă persoana a fost informată clar că interacționează cu un sistem automatizat sau cu un chatbot.

Dacă decizia poate fi reexaminată de un om, atunci când sistemul intră la risc ridicat.

Din ce moment calendaristic se aplică obligația relevantă pentru categoria respectivă de risc.

AI Act nu rezolvă toate discuțiile despre colectarea datelor de către roboții AI, dar acoperă altă zonă esențială: obligă la transparență, limitează utilizarea biometriei și cere auditare și control uman când algoritmii ajung să influențeze creditul, angajarea sau accesul la servicii publice. Din 2 decembrie 2027, pentru aceste utilizări cu risc ridicat din Anexa III, lipsa trasabilității și a supravegherii umane nu va mai fi o simplă problemă de bună practică, ci una de conformitate.