Mallit ja tekniikka

RAG

englanniksi: retrieval-augmented generation

RAG (retrieval-augmented generation) tarkoittaa tekniikkaa, jossa kielimalli hakee vastauksen pohjaksi tietoa ulkoisesta lähteestä, kuten yrityksen omista dokumenteista, sen sijaan että vastaisi pelkän koulutusdatansa varassa. Haettu tieto liitetään mallin kontekstiin, jolloin vastaus perustuu ajantasaiseen lähteeseen ja siihen voidaan lisätä lähdeviittaukset.

Miten RAG toimii käytännössä?

Kun käyttäjä kysyy kysymyksen, järjestelmä etsii ensin dokumenttivarastosta osuvimmat kohdat. Haku tehdään yleensä merkitysten perusteella embedding-vektoreilla, ei pelkillä hakusanoilla, joten "vuosilomaohje" löytyy myös kysymyksellä "montako lomapäivää saan". Löydetyt katkelmat annetaan kielimallille kysymyksen mukana, ja malli muotoilee niistä vastauksen. Tieto pysyy omassa varastossa, eikä mallia tarvitse kouluttaa uudelleen, kun dokumentit päivittyvät.

Milloin yritys tarvitsee RAG-ratkaisun?

Silloin, kun vastausten pitää perustua omaan aineistoon: henkilöstöohjeisiin, tuotedokumentaatioon, sopimuksiin tai hinnastoihin. RAG vähentää hallusinaatioita merkittävästi, koska malli siteeraa lähdettä keksimisen sijaan. Kevyimmillään RAG on jo valmiina työkaluissa: Claude Projects ja vastaavat lataavat dokumentit keskustelun taustaksi. Raskaammat toteutukset rakennetaan omaan ympäristöön. Koulutamme tämän käytännössä sisäisen tiedonhaun koulutuksessa.

Esimerkki käytännöstä

Henkilöstöassistentti vastaa kysymykseen "miten toimin sairauslomalla" hakemalla työehtosopimuksen ja talon ohjeen kohdat, tiivistämällä ne ja liittämällä linkit alkuperäisiin dokumentteihin. Vastaus on tarkistettavissa, mikä erottaa RAG-ratkaisun pelkästä chatbotista.

Lähikäsitteet

Embedding Vektoritietokanta Konteksti-ikkuna Hallusinaatio Fine-tuning

Syvenny aiheeseen

Usein kysytyt kysymykset

Mikä on RAG?

RAG (retrieval-augmented generation) tarkoittaa tekniikkaa, jossa kielimalli hakee vastauksen pohjaksi tietoa ulkoisesta lähteestä, kuten yrityksen omista dokumenteista, sen sijaan että vastaisi pelkän koulutusdatansa varassa. Haettu tieto liitetään mallin kontekstiin, jolloin vastaus perustuu ajantasaiseen lähteeseen ja siihen voidaan lisätä lähdeviittaukset.

Mitä eroa on RAG:lla ja fine-tuningilla?

RAG tuo tiedon mallille vastaushetkellä, fine-tuning muuttaa itse mallia koulutuksella. Ajantasaiseen yritystietoon RAG on lähes aina oikea valinta: halvempi, päivitettävä ja lähteistettävä.

Ylläpitää Sampsa Sironen, Co-Founder & CEO

Haluatko, että tiimisi osaa nämä käytännössä?

Koulutamme tekoälyn käytön teidän työtehtävillänne, ei kalvoilla.

Tutustu koulutuksiin

← Kaikki sanaston termit