Un chatbot AI bun nu este cel care răspunde la orice. Pentru o firmă, mai sigur este un asistent care știe când să spună: „Nu am suficiente informații ca să răspund corect.” Aici intră în joc Selective Answering, o regulă de proiectare prin care chatbotul răspunde doar atunci când are dovezi relevante, clare și autorizate.
Subiectul contează mai ales pentru firmele mici care folosesc chatboți pe site, în suport clienți, programări, vânzări sau documentație internă. Dacă sistemul inventează politici comerciale, promite servicii inexistente sau interpretează greșit un document, problema nu mai este doar tehnică. Devine o problemă de încredere, reputație și risc operațional.
Ce înseamnă Selective Answering
Selective Answering înseamnă că chatbotul nu tratează fiecare întrebare ca pe o invitație de a improviza. Înainte să formuleze răspunsul, sistemul verifică dacă are suficiente dovezi în sursele aprobate: pagini interne, politici, documentație, listă de servicii, termeni comerciali, proceduri sau baze de cunoștințe.
Într-un sistem RAG, adică retrieval-augmented generation, chatbotul caută mai întâi informații relevante și apoi folosește modelul AI ca să formuleze răspunsul. Microsoft descrie RAG ca un model prin care răspunsurile sunt ancorate în conținutul organizației, nu doar în memoria generală a modelului. Amazon Bedrock menționează același principiu: baza de cunoștințe caută informația relevantă, iar răspunsul poate include citări către sursa originală, astfel încât acuratețea să poată fi verificată.
Dar simpla găsire a unor fragmente nu garantează că răspunsul este justificat. O pagină poate fi pe aceeași temă, dar să nu conțină detaliul cerut. De aceea, ideea de Selective Answering adaugă un pas: răspunsul este permis doar dacă dovezile chiar susțin concluzia.
De ce refuzul este o funcție de siguranță
Pentru utilizator, un refuz politicos poate părea mai slab decât un răspuns complet. Pentru o firmă, este invers. Un refuz corect protejează compania de promisiuni false, interpretări greșite și răspunsuri care par oficiale, dar nu sunt susținute de documente.
OWASP include dezinformarea printre riscurile aplicațiilor bazate pe modele lingvistice mari și explică faptul că halucinațiile apar când modelul generează conținut care pare corect, dar este fabricat. Tot OWASP atrage atenția asupra încrederii excesive în răspunsurile AI. Într-un chatbot de firmă, problema apare când clientul ia decizii pe baza unui răspuns fluent, dar neverificat.
De exemplu, un chatbot pentru programări nu trebuie să inventeze disponibilități. Dacă lucrezi la un astfel de flux, merită văzut și ghidul despre chatbot pentru programări și intervale inexistente. Aceeași logică se aplică pentru prețuri, garanții, termene de livrare, condiții de retur sau proceduri interne.
Cum setezi regula: răspunde, refuză sau escaladează
Un sistem practic poate avea trei ieșiri simple. Prima: răspunde, dacă dovezile găsite sunt suficiente și coerente. A doua: refuză politicos, dacă dovezile lipsesc, sunt prea slabe sau se contrazic. A treia: escaladează către un om, dacă întrebarea este importantă pentru client sau are impact comercial, juridic ori operațional.
Refuzul nu trebuie să fie sec. Un răspuns bun poate spune: „Nu am găsit în documentația disponibilă o confirmare pentru această informație. Te rog să verifici cu echipa de suport.” Dacă există o sursă apropiată, chatbotul poate indica documentul, dar fără să tragă o concluzie pe care documentul nu o susține.
Pentru firmele mici, această regulă ar trebui inclusă încă din etapa de alegere a soluției. În articolul despre cum alegi un chatbot AI pentru site criteriile reale contează mai mult decât promisiunile generale de marketing. Un criteriu important este tocmai capacitatea sistemului de a lucra cu surse controlate și de a marca răspunsurile nesigure.
Ce trebuie să verifici înainte de lansare
Înainte să pui chatbotul pe site, testează-l cu întrebări la care răspunsul există clar în documentație, întrebări la care răspunsul nu există și întrebări în care documentele par apropiate, dar nu confirmă detaliul cerut. A treia categorie este cea mai periculoasă, pentru că poate produce răspunsuri convingătoare, dar greșite.
Lucrarea SURE-RAG, publicată pe arXiv în 2026, formulează problema exact în acești termeni: relevanța nu înseamnă automat suficiență. Autorii descriu verificarea dovezilor pentru răspunsuri selective în RAG, unde sistemul decide dacă dovezile susțin, resping sau sunt insuficiente pentru răspuns.
Pentru o firmă, această idee poate fi transpusă simplu: nu lăsa chatbotul să completeze golurile. Cere citări, păstrează loguri, verifică răspunsurile sensibile și definește dinainte zonele în care AI-ul trebuie să trimită utilizatorul la un om.
Întrebări frecvente
Ce este Selective Answering la un chatbot AI?
Este o regulă prin care chatbotul răspunde doar când are dovezi suficiente în sursele aprobate. Dacă informația lipsește sau este neclară, sistemul refuză politicos ori escaladează către un om.
De ce nu este bine ca chatbotul să răspundă la orice?
Pentru că poate produce răspunsuri fluente, dar neverificate. Într-o firmă, asta poate duce la promisiuni comerciale greșite, informații false pentru clienți sau decizii luate pe baza unor date nesigure.
RAG rezolvă automat problema halucinațiilor?
Nu automat. RAG ajută prin folosirea surselor aprobate, dar fragmentele găsite trebuie să fie și suficiente pentru întrebarea pusă. O sursă relevantă ca temă nu confirmă neapărat răspunsul exact.
Ce ar trebui să facă un chatbot când dovezile sunt insuficiente?
Ar trebui să spună clar că nu are suficiente informații, să evite improvizația și, dacă întrebarea este importantă, să trimită utilizatorul către suport sau către o verificare umană.
Surse
- LLM09:2025 Misinformation – OWASP Gen AI Security Project
- Retrieval-augmented generation (RAG) in Azure AI Search
- Groundedness Detection Filter – Microsoft Foundry
- Retrieve data and generate AI responses with Amazon Bedrock Knowledge Bases
- SURE-RAG: Sufficiency and Uncertainty-Aware Evidence Verification for Selective Retrieval-Augmented Generation
