Inteligența artificială poate ajuta administrația publică să proceseze cereri mai repede, să găsească informații în documente mari și să reducă munca repetitivă. Dar când un algoritm ajunge să influențeze o decizie despre un om — o cerere, un beneficiu, o verificare, o prioritate, o suspiciune sau un dosar — discuția se schimbă complet.
În România, există deja Strategia Națională în domeniul Inteligenței Artificiale 2024–2027, aprobată prin HG nr. 832/2024. Există și proiecte de digitalizare care vizează tehnologii avansate în administrație, cum este APTA, anunțat de Autoritatea pentru Digitalizarea României. Însă înainte ca AI-ul să fie folosit în decizii care afectează cetățeni, instituțiile trebuie să poată răspunde la câteva întrebări concrete.
Ce problemă rezolvă sistemul AI?
Primul test este simplu: sistemul AI trebuie să aibă un scop clar. Nu este suficient ca o instituție să spună că „folosește AI pentru eficiență”. Trebuie explicat exact: sortează documente? rezumă cereri? detectează erori? propune priorități? calculează risc? recomandă aprobarea sau respingerea unui dosar?
Dacă AI-ul doar ajută funcționarul să caute rapid informații într-o bază de documente, riscul poate fi mai mic. Dacă însă sistemul clasifică oameni, stabilește priorități sau influențează accesul la bani, servicii publice, educație, locuință, sănătate sau locuri de muncă, nivelul de control trebuie să fie mult mai strict.
Ce date intră în algoritm?
Administrația lucrează cu date sensibile: venituri, proprietăți, taxe, sănătate, familie, copii, ajutoare sociale, istoric fiscal sau documente de identitate. Înainte ca AI-ul să fie folosit, instituția trebuie să știe exact ce date intră în sistem, cine le poate vedea, unde sunt stocate și cât timp sunt păstrate.
O regulă practică: nu se introduc mai multe date decât sunt necesare. Dacă un sistem trebuie să verifice completarea unui formular, nu are nevoie automat de întreg istoricul fiscal al persoanei. Dacă ajută la rezumarea unei cereri, nu trebuie să trimită documente personale către servicii externe fără bază legală și control clar.
Există decizie automată sau doar recomandare?
Aceasta este una dintre cele mai importante diferențe. Un sistem AI poate oferi o recomandare, dar decizia finală trebuie să fie verificată de o persoană responsabilă, mai ales când efectul asupra cetățeanului este serios.
GDPR prevede, la articolul 22, dreptul persoanei de a nu face obiectul unei decizii bazate exclusiv pe prelucrare automată, inclusiv profilare, dacă decizia produce efecte juridice sau o afectează semnificativ. Asta nu înseamnă că orice folosire AI este interzisă, dar înseamnă că deciziile automate despre oameni trebuie tratate cu atenție legală și tehnică.
Instituția trebuie să poată spune clar: AI-ul decide sau doar asistă? Dacă asistă, cine semnează decizia? Dacă funcționarul poate ignora recomandarea AI, acest lucru este documentat?
Poate cetățeanul să ceară explicații?
Transparența nu înseamnă publicarea codului sursă pe internet. Înseamnă ca persoana afectată să poată înțelege, într-un limbaj normal, dacă AI-ul a fost folosit, ce rol a avut și cum poate contesta rezultatul.
Dacă un dosar este respins, cetățeanul nu ar trebui să primească un răspuns vag de tipul „sistemul a identificat neconcordanțe”. Trebuie să știe ce informații au fost analizate, ce criterii au contat și cui se poate adresa pentru revizuire umană.
A fost făcută evaluarea de risc?
AI Act introduce obligații pentru sistemele AI cu risc ridicat. Comisia Europeană explică, prin articolul 27, că anumite instituții publice și entități care folosesc sisteme AI cu risc ridicat trebuie să realizeze o evaluare a impactului asupra drepturilor fundamentale înainte de utilizare. Aceasta trebuie să descrie scopul, categoriile de persoane afectate, riscurile, supravegherea umană și măsurile de reducere a riscului.
Pentru administrația românească, asta înseamnă că un proiect AI serios trebuie să aibă documentație, nu doar o prezentare frumoasă. Trebuie să existe o evaluare de impact, reguli de folosire, jurnalizare, responsabil intern și procedură de oprire dacă sistemul produce erori.
Ce trebuie publicat înainte de lansare?
Pentru fiecare sistem AI care poate influența cetățeni, instituția ar trebui să publice cel puțin: scopul sistemului, tipul deciziilor asistate, datele folosite, furnizorul tehnologiei, existența controlului uman, mecanismul de contestare și rezultatul evaluării de risc, într-o formă care nu expune informații sensibile.
AI-ul în administrație poate fi util. Dar doar dacă este verificabil. Când algoritmii ajung aproape de decizii despre oameni, întrebarea nu este „cât de modern este sistemul?”, ci „cine răspunde dacă greșește?”.
Surse folosite
- Strategia Națională în domeniul Inteligenței Artificiale 2024–2027, aprobată prin HG nr. 832/2024.
- ADR — proiectul APTA, „Administrație performantă prin tehnologii avansate”, cu utilizarea potențialului transformativ al AI în administrație.
- Comisia Europeană — AI Act, cadrul european pentru inteligență artificială.
- Comisia Europeană — AI Act Service Desk, articolul 27 privind evaluarea impactului asupra drepturilor fundamentale pentru sisteme AI cu risc ridicat.
- GDPR, articolul 22 — proces decizional individual automatizat, inclusiv profilare.
- ANSPDCP — ghiduri GDPR, inclusiv decizii automate individuale și profilare.
