TEJL · Softver, integracije, sigurnost, web · Rijeka
+385 99 836 1079 info@tejl.hr Rijeka 14:49 CET
Tehnologija · pojam

RAG

Način da jezični model odgovara na temelju vlastitih dokumenata: prvo pronađe relevantne odlomke, pa ih priloži uz pitanje.

RAG (retrieval-augmented generation, generiranje obogaćeno dohvatom) je tehnika u kojoj jezični model prije odgovora dobije relevantne dokumente. Umjesto da odgovara samo iz onoga što je naučio, model čita priloženi izvor i na njemu temelji odgovor.

Postupak ima dva koraka. Prvo se na pitanje pronađu najsličniji dijelovi teksta iz zbirke dokumenata, najčešće pretragom po značenju koja koristi numeričke zapise teksta, tzv. embeddinge. Zatim se ti dijelovi priloži pitanju i model napiše odgovor. Zbirka dokumenata ostaje izvan modela, pa se može mijenjati bez ponovnog učenja.

Primjer: tvrtka ima priručnik od stotina stranica. Zaposlenik pita koliko dana godišnjeg odmora ima nakon prve godine. Sustav pronađe odlomak o godišnjem odmoru, priloži ga modelu, a model odgovori i navede izvor. Bez dohvata model bi mogao pogađati.

RAG se isplati kad odgovori moraju počivati na vašim vlastitim ili često mijenjanim podacima, a želi se moći provjeriti izvor. Manje je potreban kad je pitanje opće znanje koje model već zna ili kad je dokumenata tako malo da stanu izravno u upit.

Česta zabluda je da RAG isključuje izmišljanje. Ne isključuje: ako dohvat vrati pogrešan odlomak ili ništa korisno, model može odgovoriti uvjerljivo i krivo. Kvaliteta rezultata uvelike ovisi o tome kako su dokumenti podijeljeni na dijelove i koliko je pretraga dobra. Treba provjeravati odgovore na stvarnim pitanjima.

Pripremu dokumenata ne treba podcijeniti. Tekst se dijeli na odlomke prikladne veličine, uz zadržavanje naslova i izvora, pa odgovor može navesti odakle je uzet. Zbirku treba održavati: zastarjeli dokument daje zastarjel odgovor, a model to neće sam primijetiti. Korisno je zapisivati pitanja na koja sustav nije znao odgovoriti.

RAG se obično gradi oko LLM-a, kao što je onaj u chatbotu poput ChatGPT-a. Knowledge graph može poslužiti kao strukturiraniji izvor činjenica, jer čuva veze između pojmova, a ne samo tekst. Tada se uz odlomke dohvaćaju i veze, što pomaže kod pitanja koja traže povezivanje više podataka.

Sljedeći korak

Opišite problem svojim riječima.

Ne trebate specifikaciju. Opišite što ne radi, koga pogađa i što bi bilo drukčije da radi. Odgovaramo s pitanjima, ne s ponudom.

Sažetak stranice · 2 min

Pojam RAG: jezični model prvo dohvati relevantne dokumente, pa na njima temelji odgovor; uz prednosti, zamke i pripremu zbirke.

Ne da ti se čitati? Pošalji stranicu svom agentu.

Tvoj AI dobiva ovu stranicu i ulaz u cijeli web (sažetak za agente i MCP poslužitelj), pa ti može odgovoriti što TEJL može napraviti za tebe. Otvara se u novoj kartici, ništa se ne šalje s naše strane.

Ulaz za agente (MCP)
 
llms.txt · llms-full.txt · /mcpbez kolačića i bez praćenja trećih strana