AI Act nu mai este doar o discuție despre „ce va urma”. Regulamentul european privind inteligența artificială a intrat în vigoare în 2024, iar Comisia Europeană arată că, din 2 august 2026, cadrul a intrat într-o etapă mai serioasă de aplicare, supraveghere și control. Pentru firme, mesajul practic este simplu: înainte de a introduce AI într-un proces sensibil, trebuie verificat dacă sistemul poate fi încadrat la risc ridicat și cine răspunde pentru folosirea lui.
Acest articol este informativ, nu consultanță juridică. Pentru decizii de conformare, contracte sau audit oficial, o firmă ar trebui să verifice sursele oficiale și să discute cu un jurist, DPO, responsabil de conformitate sau consultant specializat.
De ce contează acum pentru business
AI Act folosește o abordare bazată pe risc. Unele practici sunt interzise, unele sisteme au obligații de transparență, iar sistemele cu risc ridicat sunt tratate mai strict deoarece pot afecta sănătatea, siguranța sau drepturile fundamentale.
Comisia Europeană indică exemple precum infrastructuri critice, educație, recrutare, acces la servicii esențiale, migrație, justiție și anumite utilizări biometrice. Pentru o firmă, problema nu este doar „folosim AI sau nu?”. Întrebarea corectă este: unde intră AI în decizii reale despre oameni, bani, acces, angajare, evaluare sau servicii?
Un instrument care ajută la redactarea unui text intern are un profil de risc diferit de un sistem care filtrează candidați, prioritizează dosare, evaluează clienți sau influențează accesul la servicii.
Primul pas: inventarul sistemelor AI
Înainte de orice analiză juridică, firma trebuie să știe ce folosește. Un inventar intern ar trebui să arate ce instrumente AI există, cine le-a aprobat, ce date intră în ele, ce rezultate produc și dacă influențează decizii importante.
Fără această listă, conformarea devine ghicit. Am explicat separat cum se poate face inventarul sistemelor AI din firmă și de ce este util pentru companiile care vor să introducă AI fără haos.
Verificarea esențială: este sistem cu risc ridicat?
Nu orice automatizare este AI cu risc ridicat. Totuși, firmele ar trebui să fie prudente când sistemul este folosit în resurse umane, educație profesională, scoring, acces la servicii, sănătate, siguranță, infrastructură critică sau decizii care pot produce efecte semnificative asupra unei persoane.
O verificare practică începe cu procesul concret: cine este afectat, ce decizie se ia, ce date sunt folosite, dacă omul poate verifica rezultatul, dacă persoana vizată poate contesta decizia și ce se întâmplă când modelul greșește. Dacă rezultatul AI este tratat ca verdict final, nu ca recomandare verificabilă, riscul crește.
Pentru o analiză de pornire, este util și ghidul despre sisteme AI cu risc ridicat.
Rolul firmei: furnizor sau utilizator profesional?
AI Act distinge între mai multe roluri: furnizori, deployeri sau utilizatori profesionali, importatori, distribuitori și alți actori implicați în lanțul AI. O firmă românească poate fi doar utilizator al unui instrument cumpărat, dar poate ajunge într-o poziție mai sensibilă dacă modifică sistemul, îl integrează într-un produs propriu sau îl oferă mai departe clienților.
Înainte de achiziție, firma ar trebui să ceară documentație de la furnizor: scopul declarat al sistemului, categoria de risc, limitările cunoscute, cerințele de supraveghere umană, datele folosite și modul de raportare a incidentelor. Dacă furnizorul nu poate explica aceste lucruri, riscul operațional crește.
Testare înainte de folosire, nu după scandal
Un sistem AI folosit în business nu ar trebui lansat direct în procese sensibile. O metodă prudentă este testarea în „shadow mode”: sistemul rulează pe date reale sau reprezentative, dar nu ia decizii efective. Echipa compară recomandările AI cu deciziile umane și caută erori, bias, instabilitate și cazuri-limită.
Această etapă ajută firma să vadă dacă modelul este util, dar și unde poate produce rezultate riscante. Am explicat separat cum funcționează shadow mode pentru AI în firmă.
Checklist minim înainte de implementare
Înainte de folosirea unui sistem AI cu impact semnificativ, firma ar trebui să aibă cel puțin: scop documentat, rol clar al firmei, categorie probabilă de risc, furnizor identificat, documentație primită, date prelucrate, persoane afectate, control uman real, procedură de contestare, jurnalizare, testare înainte de lansare și plan de oprire.
Pentru sisteme importante, este utilă și o regulă de fallback: ce se întâmplă când modelul nu poate răspunde sigur, când datele lipsesc sau când rezultatul pare anormal. În multe cazuri, răspunsul corect nu este „lăsăm AI să decidă”, ci „trimitem cazul către om” sau „folosim procedura deterministă”. Pentru acest scenariu, merită citit și ghidul despre fallback determinist în sisteme AI.
Concluzie
AI Act împinge firmele către disciplină: inventar, documentație, responsabilități clare și testare înainte de folosire. Nu este suficient ca un instrument AI să fie popular, rapid sau ieftin. Dacă influențează decizii sensibile, firma trebuie să știe ce face sistemul, ce nu face, cine îl controlează și cum poate opri sau corecta rezultatele greșite.
Întrebări frecvente
AI Act se aplică tuturor firmelor care folosesc AI?
Poate afecta firmele care dezvoltă, pun pe piață sau folosesc profesional sisteme AI în UE, dar obligațiile diferă în funcție de rol și de nivelul de risc.
Ce înseamnă sistem AI cu risc ridicat pentru o firmă?
În practică, este un sistem folosit într-un domeniu sensibil, unde rezultatul poate afecta sănătatea, siguranța sau drepturile unei persoane.
Este suficient să cerem promisiuni de la furnizor?
Nu. Firma ar trebui să ceară documentație, scopul declarat, limitările, cerințele de supraveghere umană și modul de raportare a incidentelor.
Trebuie consultat un jurist?
Pentru decizii de conformare, contracte sau sisteme cu impact semnificativ, este prudent. Articolul oferă orientare practică, nu consultanță juridică definitivă.
