Noi prevederi ale AI Act devenite aplicabile de la 2 august 2025

Începând cu 2 august 2025, a intrat în vigoare o nouă etapă de aplicare a Regulamentului (UE) 2024/1689 de stabilire a unor norme armonizate privind inteligența artificială („AI Act”), aducând în prim-plan dispoziții relevante care vizează modelele de inteligență artificială de uz general („GPAI”), dispozițiile privind autoritățile competente și organismele notificate, guvernanța AI și regimul sancționator.

1.       Modelele de AI de uz general

În conformitate cu prevederile AI Act, modelele GPAI se clasifică în funcție de gradul de risc astfel: (i) modele GPAI și (ii) modele GPAI cu risc sistemic.

AI Act definește modelul GPAI drept acel model de AI, inclusiv în cazul în care un astfel de model de AI este antrenat cu un volum mare de date care utilizează autosupravegherea la scară largă, care prezintă o generalitate semnificativă și este capabil să îndeplinească în mod competent o gamă largă de sarcini distincte, indiferent de modul în care este introdus pe piață și care poate fi integrat într-o varietate de sisteme sau aplicații din aval, cu excepția modelelor de AI care sunt utilizate pentru activități de cercetare, dezvoltare sau creare de prototipuri înainte de introducerea pe piață.

Un model GPAI este clasificat drept model GPAI cu risc sistemic dacă îndeplinește oricare dintre următoarele condiții:

·         Are capabilități cu impact ridicat evaluate pe baza unor instrumente și metodologii tehnice adecvate, inclusiv indicatori și valori de referință.

Un model GPAI este considerat că are capabilități cu impact ridicat atunci când volumul cumulat de calcul utilizat pentru antrenarea sa, măsurat în operații în virgulă mobilă, depășește 10²⁵. În cazul unui astfel de model, furnizorul va avea obligația de a informa Comisia Europeană.

·         Pe baza unei decizii a Comisiei, ex officio sau în urma unei alerte calificate din partea grupului științific, demonstrează capabilități sau un impact echivalente cu cele menționate anterior, conform criteriilor stabilite în Anexa XIII la AI Act.

Modelele GPAI ar putea prezenta riscuri sistemice precum efecte negative reale sau previzibile în mod rezonabil în legătură cu accidente majore, perturbări ale sectoarelor critice și consecințe grave pentru sănătatea și siguranța publică, efecte negative reale sau previzibile în mod rezonabil asupra proceselor democratice, asupra securității publice și economice, diseminarea de conținut ilegal, fals ori discriminatoriu.

Obligațiile furnizorilor de modele GPAI sunt diferite în funcție de calificarea lor ca având un risc sistemic sau nu. În sarcina furnizorilor de modele GPAI cu risc sistemic, se impun aceleași obligații ca în cazul modelelor GPAI, la care se adaugă o serie de obligații suplimentare cu care aceștia trebuie să se conformeze. Printre aceste obligații suplimentare amintim, cu titlu de exemplu:

·         obligația de raportare și documentare a incidentelor grave și a posibilelor măsuri corective ce pot fi luate în scopul transmiterii acestor informații către Oficiul pentru AI și, după caz, autorităților naționale competente; sau

·         obligația de a realiza evaluări cu privire la riscurile sistemice care pot decurge din dezvoltarea, introducerea pe piață sau utilizarea unor modele GPAI cu risc sistemic la nivelul UE.

De asemenea, printre obligațiile aplicabile atât furnizorilor de modele GPAI cât și furnizorilor de modele GPAI cu risc sistemic, amintim, cu titlu de exemplu:

·         obligația de a elabora, actualiza și pune la dispoziție informații și documentație destinate furnizorilor de sisteme de AI care intenționează să integreze modelul de GPAI în sistemele lor de AI;

·         obligația de a realiza și actualiza documentația tehnică a modelului, inclusiv procesul vizând antrenarea și testarea sa, precum și rezultatele evaluării sale, care conțin cel puțin informațiile prevăzute în anexa XI la AI Act în scopul de a le furniza, la cerere, Oficiului pentru AI și autorităților naționale competente.

Tot în legătură cu modelele GPAI, la 10 iulie 2025, Comisia Europeana a publicat Codul de Bune Practici care este destinat să ajute industria să respecte obligațiile legale prevăzute în AI Act în materie de siguranță, transparență și drepturi de autor pentru modelele GPAI. Acesta este completat de orientările Comisiei privind conceptele-cheie legate de modelele GPAI.

Comisia și Oficiul pentru AI au confirmat că acest Cod de Bune Practici este un instrument voluntar adecvat pentru furnizorii de modele GPAI pentru a demonstra conformitatea cu dispozițiile AI Act. După cum reiese din informațiile furnizate de Comisie, furnizorii de GPAI pot semna Codul de Bune Practici completând formularul de semnare și trimitându-l ulterior, semnat, la adresa: EU-AIOFFICE-CODE-SIGNATURES@ec.europa.eu.

2.      Guvernanța AI. Desemnarea autorităților naționale competente și reglementarea organismelor notificate

Regulamentul urmărește să instituie un cadru de guvernanță care să permită, pe de o parte, coordonarea și sprijinirea aplicării acestuia la nivel național și, pe de altă parte, consolidarea capabilităților la nivelul Uniunii și integrarea părților interesate în domeniul AI.

Oficiul pentru AI are ca misiune să dezvolte cunoștințele de specialitate și capabilitățile Uniunii în domeniul AI și să contribuie la punerea în aplicare a dreptului Uniunii privind AI.

Consiliul AI este responsabil pentru o serie de sarcini consultative, inclusiv emiterea de avize, recomandări, consiliere sau furnizarea unor contribuții sub formă de orientări cu privire la aspecte legate de punerea în aplicare AI Act, inclusiv cu privire la aspecte de aplicare a legii, la specificații tehnice sau la standardele existente în ceea ce privește cerințele stabilite în AI Act, precum și furnizarea de consiliere Comisiei și statelor lor membre și autorităților naționale competente ale acestora cu privire la chestiuni specifice legate de AI.

Statele membre au obligația de a desemna sau institui autoritățile naționale de notificare care vor fi responsabile cu instituirea și efectuarea procedurilor necesare pentru evaluarea, desemnarea și notificarea organismelor de evaluare a conformității (organisme notificate) și pentru monitorizarea acestora. Comisia Europeană va publica în perioada următoare lista acestor autorități de notificare pentru fiecare stat membru. De asemenea, autoritățile de notificare înștiințează Comisia și celelalte state membre cu privire la fiecare organism de evaluare a conformității. Aceste organisme notificate au un rol important în procedura de evaluare a conformității pentru sistemele de AI cu grad ridicat de risc.

Pe lângă autoritatea de notificare, sunt recunoscute și alte autorități naționale cu atribuții privind protecția drepturilor fundamentale în contextul utilizării tehnologiilor AI. Pentru România, aceste autorități sunt listate pe site-ul Comisiei Europene, în mod distinct față de autoritățile de notificare ce trebuie numite la nivel național în baza AI Act: Avocatul Poporului, Consiliul Național al Audiovizualului, Autoritatea Electorală Permanentă, ANSPDCP, Autoritatea Națională pentru Protecția Drepturilor Copilului și Adopție, Consiliul Național pentru Combaterea Discriminării, Agenția Națională pentru Egalitate între Femei și Bărbați, Inspecția Muncii, Autoritatea pentru Protecția Consumatorului.

3. Regimul sancționator

Începând cu 2 august 2025, a devenit aplicabil și Capitolul XII care reglementează regimul sancționator instituit de AI Act, amenzile administrative putând ajunge până la 35 000 000 EUR sau, în cazul în care autorul faptei este o întreprindere, de până la 7 % din cifra sa de afaceri mondială totală anuală pentru exercițiul financiar precedent, luându-se în considerare valoarea cea mai mare dintre acestea.

Considerăm că este că regimul sancționator este aplicabil momentan numai cu privire la încălcarea dispozițiilor care au devenit aplicabile până la data de 2 august 2025. De exemplu, nu ar trebui aplicate sanctiuni în cazul nerespectării dispozițiilor referitoare la sistemele AI cu risc ridicat, pentru care reglementările vor deveni aplicabile din 2 august 2026.

Concluzie

Aplicarea acestor prevederi marchează un pas esențial în reglementarea AI la nivel european, cu impact direct asupra furnizorilor de modele GPAI, autorităților naționale și tuturor actorilor implicați în dezvoltarea și utilizarea sistemelor AI. Așadar, este recomandabil ca entitățile care interacționează cu modele și sisteme de AI, indiferent de calitatea pe care o au din perspectiva AI Act, să înceapă etapa de conformare cu dispozițiile de la nivel european ce privesc inteligenta artificială. Aceasta deoarece, AI Act va deveni aplicabil în întregime începând cu 2 august 2026 (cu o excepție legată de anumite prevederi care vor fi aplicabile din 2 august 2027), iar sancțiunile pentru nerespectarea dispozițiilor aplicabile sunt considerabile.