RAG é a sigla de retrieval-augmented generation , ou geração aumentada por recuperação. É uma arquitetura que liga um modelo de linguagem a uma base de conhecimento externa.
Porque um modelo de linguagem só sabe o que viu no treino. Esse conhecimento é fixo e tem data de corte. Ele não inclui os documentos internos da sua empresa.
O RAG tem duas fases: preparar a base e responder. Preparar a base. Os documentos são divididos em trechos menores. Cada trecho vira um vetor, uma forma numérica do seu sentido…
A expressão "base de conhecimento" é antiga. Em times de atendimento e de TI, ela nomeia a central de artigos, perguntas frequentes e procedimentos. As pessoas consultam essa…
As duas formas dão contexto ao modelo, mas não são a mesma coisa. Só o RAG envolve busca automática em uma base gerida pela organização.
Há duas formas de dar a um modelo conhecimento de um domínio:
O RAG não corrige um documento ruim: lixo entra, lixo sai. A base precisa ser precisa, completa, consistente e atualizada.
Uma base de conhecimento concentra documentos internos em um só lugar. Isso facilita a resposta e exige mais cuidado com o acesso.
O artigo completo, com as fontes, está no PRISMON News.