Hvad er et RAG-system?
Et RAG-system (retrieval-augmented generation) er et AI-system, der før svaret søger passende afsnit i en egen vidensbase og formulerer svaret udelukkende på det grundlag. I stedet for at svare ud fra træningsviden slår systemet altså op først – som et menneske, der åbner håndbogen. Det gør svarene aktuelle og dokumenterbare: hvert udsagn kan føres tilbage til et konkret dokument.
Sådan fungerer et RAG-system
1. Forberedelse: jeres dokumenter opdeles i meningsfulde afsnit og omregnes til talvektorer (embeddings), der afspejler deres betydning. Disse vektorer havner i en vektordatabase.
2. Fremsøgning: kommer der et spørgsmål, omregnes også det til en vektor. Systemet søger de afsnit, der ligner mest indholdsmæssigt – semantisk, ikke efter stikord. Et spørgsmål om „ferieret“ finder derfor også et afsnit om „årlig ferie“.
3. Generering: de fundne afsnit overdrages til sprogmodellen sammen med spørgsmålet, med instruksen om udelukkende at svare ud fra dem. Resultatet er et formuleret svar med henvisning til de anvendte steder.
Den afgørende forskel fra en ren chatbot: modellen behøver ikke at „vide“ noget. Nye dokumenter er tilgængelige med det samme, uden at modellen skal trænes igen – og forældet indhold forsvinder, så snart man fjerner det.
Hvorfor RAG passer til virksomhedsviden
Hvert svar henviser til kilden – kontrollerbart i stedet for en sort boks.
Nye dokumenter indekseres og kan bruges straks, uden gentræning.
Modellen svarer ud fra de forelagte afsnit i stedet for vag træningsviden.
Interne håndbøger, retningslinjer og kontrakter bliver søgbare – indhold, som ingen offentlig model kender.
Indholdet bliver i jeres vidensbase; det behøver ikke trænes ind i en model.
Sammen med en rettighedsstyring inddrages kun kilder, som den spørgende person må se.
Et RAG-system kan kun være så godt som sine kilder: er de underliggende dokumenter fejlbehæftede, forældede eller modstridende, gengiver systemet de fejl. Det kontrollerer ikke indholdets rigtighed. Derfor forbliver kildeangivelsen vigtig – og den faglige kontrol af svarene en opgave for brugerne. RAG gør ikke AI ufejlbarlig, men den gør den sporbar.
Ofte stillede spørgsmål
Hvad er forskellen på RAG og finjustering?
Ved finjustering trænes en model videre med yderligere data – det er omkostningstungt, og nyt indhold kræver ny træning. RAG lader modellen være uændret og stiller viden til rådighed under kørslen. For virksomhedsviden, der ændrer sig ofte, er RAG derfor som regel det rigtigste valg.
Har RAG brug for en vektordatabase?
I praksis næsten altid: den muliggør semantisk søgning, altså at finde efter betydning frem for efter præcist stikord. Nogle systemer kombinerer den desuden med klassisk fritekstsøgning for at øge præcision og træfsikkerhed.
Forhindrer RAG hallucinationer helt?
Nej, men det reducerer dem markant, fordi modellen svarer ud fra konkrete afsnit i stedet for hukommelsen. En restrisiko består – for eksempel når kilder modsiger hinanden. Kildeangivelsen gør dog sådanne tilfælde kontrollerbare.
Hvordan kommer vores dokumenter ind i systemet?
De uploades og bliver derefter automatisk forberedt og indekseret. Med KOSMO er nyt indhold tilgængeligt umiddelbart efter – uden gentræning og uden at vidensbasen skal bygges op igen.
Sådan ser det ud med KOSMO
Teori er én ting – på 30 minutter viser vi live, hvordan KOSMO gør det i jeres organisation. Med jeres eget indhold.
