Skip to main content

Cyber AI România

Memorie AI pe mai multe niveluri: Redis pentru context temporar și PostgreSQL cu pgvector pentru memorie semantică

Când construiești o aplicație AI care trebuie să „țină minte” conversații, preferințe sau documente interne, prima greșeală este să pui totul într-un singur loc. Contextul de câteva minute nu are aceleași reguli ca memoria pe termen lung, iar un răspuns rapid nu se obține întotdeauna dintr-o bază de date relațională clasică. O arhitectură practică folosește două niveluri: Redis pentru context temporar și PostgreSQL cu pgvector pentru memorie semantică persistentă.

Ideea nu este ca modelul AI să devină magic sau să „înțeleagă” permanent utilizatorul. Modelul primește context la fiecare cerere. Dacă îi trimiți informații relevante, răspunde mai bine; dacă îi trimiți date vechi, greșite sau prea multe, poate produce răspunsuri slabe. De aceea memoria trebuie proiectată ca un sistem controlat, nu ca o cutie în care arunci toate conversațiile.

Redis este potrivit pentru memoria scurtă: starea sesiunii, ultimele mesaje, preferințe active, rezultate intermediare și date care expiră rapid. Documentația Redis descrie folosirea sa în aplicații AI pentru vector search, semantic caching și memorie de agent, cu accent pe latență foarte mică. Într-un produs real, Redis poate păstra cheia conversației, istoricul recent și mici rezumate temporare. Avantajul este viteza; riscul este să confunzi viteza cu persistența.

Pentru context temporar, stabilește reguli clare de expirare. De exemplu, o conversație de suport poate păstra ultimele interacțiuni timp de câteva ore, iar un asistent intern poate păstra starea unei sarcini până la finalizarea ei. Nu pune în Redis date sensibile fără politici clare de acces, criptare unde este necesar și jurnalizare minimă. Dacă lucrezi cu date personale, ai nevoie și de o politică de ștergere și de justificarea scopului pentru care păstrezi informația.

Al doilea nivel este memoria semantică. Aici intră informațiile care trebuie regăsite după sens, nu doar după cuvinte exacte: fragmente din documentație, proceduri interne, întrebări frecvente, preferințe declarate de utilizator sau rezumate validate. PostgreSQL cu extensia pgvector permite stocarea embedding-urilor și căutarea prin similaritate direct în Postgres. Supabase descrie pgvector ca extensie pentru vector similarity search și pentru stocarea embedding-urilor, inclusiv în scenarii RAG.

Fluxul de bază este simplu: alegi informația care merită păstrată, o cureți, o împarți în fragmente, generezi embedding-uri și le salvezi în PostgreSQL lângă metadate utile: sursa, data, utilizatorul, nivelul de încredere și politica de retenție. Când vine o întrebare nouă, aplicația creează embedding pentru întrebare, caută fragmente similare în pgvector și trimite către model doar contextul relevant.

Redis și pgvector se completează bine. Redis răspunde la întrebarea „ce se întâmplă acum în sesiunea curentă?”, iar pgvector răspunde la „ce știm deja, verificat, despre acest subiect?”. Înainte să trimiți promptul către model, poți combina ultimele mesaje din Redis cu trei-patru fragmente relevante din PostgreSQL. Asta reduce riscul ca modelul să inventeze și ajută la răspunsuri mai coerente.

Pentru producție, nu salva totul automat. Memoria semantică trebuie filtrată. Informațiile temporare, presupunerile utilizatorului sau răspunsurile neconfirmate nu ar trebui promovate în memoria lungă fără validare. Folosește etichete precum „preferință confirmată”, „document oficial”, „rezumat generat” sau „necesită verificare”. Un asistent AI sigur trebuie să poată uita, nu doar să acumuleze.

Mai este important și controlul costurilor. Redis poate ajuta la cache semantic pentru întrebări asemănătoare, dar pragurile de similaritate trebuie testate atent. Dacă pragul este prea relaxat, utilizatorul poate primi un răspuns potrivit pentru altă întrebare. Dacă este prea strict, cache-ul nu mai ajută. În pgvector, indexurile HNSW sau IVFFlat pot accelera căutarea, dar trebuie alese după volumul de date, latența dorită și calitatea rezultatelor.

O arhitectură sănătoasă pentru memorie AI nu înseamnă „modelul își amintește tot”. Înseamnă că aplicația decide ce păstrează pe termen scurt, ce arhivează semantic, ce șterge și ce verifică înainte de folosire. Redis oferă viteză pentru prezentul conversației, PostgreSQL cu pgvector oferă memorie semantică interogabilă, iar regulile de securitate țin sistemul util fără să devină invaziv.

Facebook
X
WhatsApp
Memorie AI pe mai multe niveluri: Redis pentru context temporar și PostgreSQL cu pgvector pentru memorie semantică

Te-ar putea interesa si: