Companiile care vor să folosească un asistent de tip ChatGPT în relația cu angajații sau clienții au ajuns la o întrebare mai importantă decât „ce model alegem?”: cine controlează memoria. Un asistent util trebuie să poată reveni la preferințe, documente, reguli interne și istoricul relevant. Dar, dacă memoria este tratată ca o cutie neagră, ea poate deveni rapid o problemă de confidențialitate.
Memoria nu trebuie lăsată doar în prompt
O abordare matură este separarea clară între model și memoria aplicației. Modelul primește context pentru cererea curentă, dar aplicația decide ce are voie să caute, ce poate salva și ce trebuie ignorat. Documentația OpenAI descrie folosirea agenților, a retrieval-ului, a file search-ului, a output-ului structurat și a guardrails-urilor ca piese care pot ajuta la construirea unor fluxuri controlate. Totuși, politicile de acces nu ar trebui să existe doar într-o instrucțiune scrisă în prompt, pentru că promptul nu înlocuiește autentificarea, baza de date, auditul și validarea server-side.
Practic, memoria externă poate sta într-o bază de date pentru profiluri și permisiuni, într-un vector store sau index de căutare pentru documente și într-un sistem de loguri care arată ce surse au fost folosite. Asistentul nu „știe tot”; primește doar fragmentele aprobate pentru utilizatorul respectiv.
Politici diferite pentru oameni diferiți
Un asistent intern pentru o firmă mică poate avea utilizatori cu drepturi foarte diferite. Un angajat de suport poate vedea proceduri publice și tichetele atribuite lui. Un manager poate vedea rapoarte agregate. Un client nu trebuie să vadă notițe interne, documente ale altui client sau informații din alt departament. Aceste reguli trebuie implementate ca politici aplicate înainte ca datele să ajungă la model.
La fiecare cerere, aplicația ar trebui să verifice identitatea utilizatorului, rolul, organizația, consimțământul și scopul cererii. Apoi caută numai în colecțiile permise. Dacă folosește retrieval, filtrele de tenant, rol și sensibilitate trebuie să fie obligatorii, nu opționale. Dacă un document nu aparține utilizatorului, nu intră în context.
Ce se salvează și ce se evită
Memoria externă poate fi împărțită pe niveluri. Primul nivel ține preferințe ne-sensibile: limba, formatul răspunsului, domeniul de activitate sau tipul de documente preferate. Al doilea nivel ține informații operaționale: documente aprobate, istoricul unui tichet, proceduri interne sau răspunsuri validate. Al treilea nivel, cel sensibil, trebuie limitat drastic: date personale, informații financiare, documente contractuale sau detalii despre conturi.
Pentru multe firme, cea mai sigură regulă este simplă: nu salva date sensibile în memoria pe termen lung decât dacă există un motiv clar, o bază legală și o metodă de ștergere. GDPR cere principii precum minimizarea datelor, limitarea scopului, acuratețe, limitarea stocării, integritate și confidențialitate. Asta înseamnă că un asistent cu memorie trebuie să poată justifica de ce păstrează o informație și să o elimine când nu mai este necesară.
Guardrails, audit și control uman
Guardrails-urile pot verifica intrările și ieșirile, pot opri răspunsuri riscante și pot trimite anumite acțiuni spre aprobare. Output-ul structurat ajută atunci când răspunsul trebuie verificat automat, de exemplu dacă asistentul propune salvarea unei preferințe sau cere acces la o colecție de documente. Evaluările periodice sunt utile pentru a testa dacă asistentul respectă politicile, nu amestecă datele și nu răspunde peste nivelul de acces permis.
Un semn bun de proiectare este transparența. Utilizatorul ar trebui să știe când asistentul folosește memorie, ce tip de informații poate păstra și cum poate cere corectarea sau ștergerea lor. Pentru acțiuni cu impact, cum ar fi trimiterea unui mesaj oficial, modificarea unui document sau salvarea unei informații sensibile, confirmarea umană rămâne recomandată.
Drumul realist spre producție
Un pilot sigur începe restrâns: memorie doar pentru preferințe ne-sensibile, documente curate, politici explicite pe roluri, loguri active și revizuire umană pentru acțiuni importante. Abia după testare se pot adăuga expirarea automată a memoriei, etichete de sensibilitate, aprobări pentru salvare și rapoarte de audit.
Concluzia este că un asistent ChatGPT cu memorie externă nu devine sigur printr-un prompt mai lung. Devine sigur prin arhitectură: identitate verificată, date separate, retrieval filtrat, politici pe utilizator, guardrails, audit și drepturi clare de ștergere. Pentru companii, aceasta este diferența dintre un demo spectaculos și un asistent AI care poate fi folosit responsabil.
