Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation

Retrieval-Aug­ment­ed Gen­er­a­tion (kurz RAG) beze­ich­net einen KI-Ansatz, bei dem die reine Textgener­ierung eines Sprach­mod­ells mit ein­er geziel­ten Infor­ma­tions­beschaf­fung ver­bun­den wird.

Hier­bei erweit­ert RAG die Wis­sens­ba­sis eines Sprach­mod­ells, da es vor der eigentlichen Antwort rel­e­vante Inhalte aus ein­er Daten­bank oder einem exter­nen Wis­sensspe­ich­er holt. Diese wer­den dann in die Antwort einge­flocht­en, so dass die Ergeb­nisse nicht nur aktueller, son­dern auch genauer und fak­ten­basiert­er sind.

Der Prozess gestal­tet sich so, dass in einem ersten Schritt passende Doku­mente oder Textab­schnitte gesucht wer­den (engl. retrieval), im zweit­en Schritt wird mit Hil­fe des Sprach­mod­ells eine Antwort gener­iert, die diese Infor­ma­tio­nen berück­sichtigt (engl. generation).

Auf diese Weise kön­nen beispiel­sweise auch fir­menin­terne Doku­mente, Bedi­enungsan­leitun­gen oder Echtzeit­dat­en in die Antworten eines Chat­bots gelangen.