Un sistem RAG, pe scurt, combină două lucruri: modelul care formulează răspunsul și un mecanism de căutare în documente externe. Ideea de retrieval adaptiv merge un pas mai departe. În loc să caute automat în documente la fiecare întrebare, sistemul decide dacă merită să facă această căutare sau dacă poate răspunde direct, fără context suplimentar. Diferența pare mică, dar în practică influențează costul, viteza și riscul de a oferi un răspuns greșit.
De ce nu e bine să cauți mereu? Pentru că retrieval-ul nu este gratuit și nici infailibil. Microsoft explică în documentația sa despre faza de information retrieval dintr-un sistem RAG că există mai multe tipuri de căutare, rescriere de query, filtrare și reranking. Toate acestea pot îmbunătăți rezultatul, dar adaugă complexitate și latență. În plus, lucrarea Self-RAG atrage atenția asupra unei probleme foarte reale: dacă sistemul recuperează automat un număr fix de fragmente, chiar și atunci când retrieval-ul nu este necesar sau documentele nu sunt relevante, răspunsul final poate deveni mai slab, nu mai bun.
Pe înțelesul tuturor, retrieval adaptiv înseamnă că sistemul își pune întâi o întrebare simplă: „am nevoie de documente ca să răspund corect?” Dacă răspunsul este da, caută. Dacă răspunsul este nu, răspunde direct. Un exemplu bun de răspuns direct este o cerere de tipul „rescrie acest paragraf mai clar”, „tradu acest text” sau „rezumă mesajul de mai jos”. În astfel de cazuri, informația necesară este deja în prompt, iar căutarea într-o bază de documente ar adăuga mai degrabă zgomot.
În schimb, retrieval-ul devine important când întrebarea depinde de informații externe, actuale sau specifice unei organizații. De exemplu: „Care este politica internă pentru acces VPN?”, „Ce spune ultima versiune a procedurii de backup?”, „Ce clauze apar în contractul nostru standard?” sau „Care sunt pașii de raportare a unui incident?” Aici, un model care răspunde doar din cunoștințele sale generale poate suna convingător, dar poate greși exact acolo unde contează: versiunea documentului, formularea exactă sau o excepție importantă.
O regulă practică utilă este aceasta: dacă întrebarea cere adevăr verificabil, sursă exactă sau informație care se poate schimba în timp, retrieval-ul ar trebui pornit. Dacă sarcina este în principal de transformare a textului, organizare, reformulare sau explicație generală cu risc scăzut, răspunsul direct poate fi suficient. AWS prezintă RAG tocmai ca metodă de a aduce informație externă și curentă în prompt, ceea ce îl face valoros mai ales când modelul nu ar trebui să se bazeze doar pe memoria parametrilor săi.
În produse serioase, decizia nu este lăsată doar „instinctului” modelului. De obicei, aplicația folosește reguli sau clasificare: detectează dacă întrebarea este despre documente interne, dacă utilizatorul cere citare, dacă tema este sensibilă sau dacă datele pot fi perisabile. Uneori, fluxul este în doi pași: sistemul încearcă întâi să clasifice cererea, apoi decide dacă face căutare semantică, full-text sau hibridă. Microsoft recomandă exact această idee de pipeline de retrieval, în care căutarea nu este o singură mișcare, ci un proces compus din alegerea metodei potrivite și reranking.
Ce poate face bine retrieval-ul adaptiv? Poate reduce costurile, pentru că nu lansează căutări inutile la fiecare mesaj. Poate scădea latența pentru sarcinile simple. Și, cel mai important, poate păstra retrieval-ul pentru momentele în care acesta aduce valoare reală: răspunsuri ancorate în documente, citări și mai puține halucinații. Dar nu este o garanție magică. Dacă documentele sunt vechi, chunk-urile sunt prost construite sau motorul de căutare aduce fragmente greșite, sistemul va răspunde tot slab, doar că „cu surse”.
De aceea, buna practică nu este „retrieval peste tot”, ci „retrieval când ai motiv clar”. Pentru utilizatori și firme, semnul unui sistem matur este ușor de observat: știe când să caute, știe când să răspundă direct și știe când să spună sincer că nu are suficiente date. Exact această disciplină face diferența dintre un demo care impresionează câteva minute și un asistent AI care poate fi folosit responsabil, inclusiv în contexte unde acuratețea contează.
