Un agent AI devine util când nu pornește de la zero la fiecare conversație. Totuși, „memoria” nu trebuie tratată ca un singur sertar pentru preferințe, fragmente de chat și date personale. Pentru un sistem sigur, primul pas este separarea profilului utilizatorului de istoricul temporar.
Profilul utilizatorului conține fapte stabile: limba preferată, rolul, convențiile de lucru sau reguli recurente. Istoricul temporar este contextul unei sesiuni: întrebarea curentă, pașii încercați, rezultatele unui tool call și deciziile valabile doar pentru acel task.
De ce separarea contează
Dacă un agent salvează tot ce vede în memorie permanentă, poate reține informații irelevante, poate reactiva instrucțiuni depășite și poate expune date care trebuiau să rămână în sesiune. Invers, dacă tratează preferințele stabile ca mesaje temporare, utilizatorul repetă aceleași reguli.
Documentația LangChain descrie separat memoria pe termen scurt, folosită în conversație, și memoria pe termen lung, folosită pentru informații persistente. Profilul utilizatorului se potrivește mai bine cu memoria semantică: fapte compacte, verificate și utile în mai multe sesiuni. Istoricul rămâne mai potrivit ca memorie pe termen scurt sau jurnal recuperabil.
Pentru arhitecturi pe straturi, vezi ghidul despre memorie AI pe mai multe niveluri: Redis pentru context temporar și PostgreSQL cu pgvector pentru memorie semantică. Ideea importantă este că viteza și persistența nu sunt același lucru.
Model practic: profil, sesiune, jurnal
O separare sănătoasă poate avea trei straturi. Primul este profilul utilizatorului: puține câmpuri, scrise clar, cu scop definit. Exemple sigure sunt „preferă răspunsuri în română cu diacritice” sau „lucrează cu IMM-uri”. Nu salva aici parole, tokenuri, date medicale, copii brute ale conversațiilor sau concluzii incerte.
Al doilea strat este memoria de sesiune: ce fișier a citit agentul, ce test a rulat, ce variantă a fost respinsă. Acest strat poate expira și nu trebuie reutilizat automat.
Al treilea strat este jurnalul auditabil: evenimente, tool call-uri, erori, aprobări și decizii. Jurnalul nu este neapărat „memorie” pentru model, ci evidență pentru oameni. În sisteme complexe, observabilitatea contează la fel de mult ca memoria; vezi articolul despre observabilitate completă pentru agenți AI.
Reguli de siguranță pentru memoria persistentă
Profilul trebuie să fie mic, explicit și editabil. O regulă bună: salvează doar informații care vor fi utile și peste câteva săptămâni. Dacă o informație expiră rapid, aparține istoricului temporar. Dacă este sensibilă, cere motiv, consimțământ și o metodă sigură de stocare sau nu o salva deloc.
Principiile GDPR includ limitarea scopului, minimizarea datelor și limitarea stocării. Chiar și intern, acestea sunt utile ca disciplină tehnică: colectezi mai puțin, explici de ce, păstrezi doar cât este necesar și permiți corectarea sau ștergerea.
Este importantă și protecția împotriva excesului de autonomie. OWASP include „Excessive Agency” în riscurile pentru aplicații LLM: un agent cu prea multe permisiuni poate face acțiuni nepotrivite. Pentru memorie, asta înseamnă că agentul nu ar trebui să poată salva orice, oricând, fără reguli. Pentru acțiuni sensibile, folosește aprobări umane, similar cu modelul Human-in-the-Loop pentru agenți AI.
Cum verifici implementarea
Testează agentul cu scenarii simple. Îi dai o preferință stabilă și verifici dacă o salvează compact. Îi dai o informație temporară, precum „pentru acest draft folosește ton mai formal”, și verifici că nu devine regulă permanentă. Apoi îi ceri profilul, fără istoricul brut al conversației.
În sisteme bazate pe grafuri, checkpoint-urile ajută la recuperarea după erori, dar nu trebuie confundate cu profilul utilizatorului. Un checkpoint conservă starea unei execuții; profilul ar trebui să conserve doar preferințe și fapte durabile. Pentru detalii, vezi ghidul despre agent AI cu memorie persistentă în LangGraph.
Memoria bună nu înseamnă să ții minte tot. Înseamnă să știi ce merită păstrat, unde, pentru cât timp și sub ce control.
Întrebări frecvente
Ce ar trebui salvat în profilul utilizatorului?
Preferințe stabile, fapte compacte și reguli recurente care vor rămâne utile peste mai multe sesiuni. Informațiile sensibile sau incerte nu ar trebui salvate automat.
Istoricul conversației este același lucru cu memoria pe termen lung?
Nu. Istoricul conversației este util pentru taskul curent sau pentru audit, dar memoria pe termen lung ar trebui să conțină doar informații durabile și bine definite.
De ce sunt importante aprobările umane?
Aprobările reduc riscul ca agentul să salveze date greșite sau sensibile și limitează excesul de autonomie în acțiuni cu impact.
Ce legătură are GDPR cu memoria agenților AI?
Principiile de minimizare, scop definit și limitare a stocării ajută la proiectarea unei memorii care păstrează doar datele necesare și controlabile.
