Um modelo genérico foi treinado na web pública até uma data. A sua política, os seus preços, a decisão do mês passado não estão lá, e perguntado sobre eles responde na mesma.
O modelo foi treinado na web pública até certo ponto. Os seus preços, a sua política, a decisão do mês passado: nada disso está lá.
Perguntado sobre algo que nunca viu, um modelo produz uma resposta fluente na mesma. Numa fila de suporte ou numa revisão de contrato, isso é um risco.
Sem referência, ninguém verifica a resposta. Quem a lê tem de confiar ou refazer o trabalho.
Um sistema RAG procura as passagens relevantes na sua base de conhecimento antes de o modelo escrever uma palavra. A resposta assenta nos seus documentos, está atual à data do último índice e traz as citações.
Três partes, cada uma mensurável sozinha antes de se confiar na seguinte.
O seu material torna-se uma base pesquisável.
As passagens certas, para a pergunta feita.
Uma resposta fundamentada com as fontes anexadas.
Quatro fases, cada uma com um entregável que pode testar.
O que as pessoas perguntam, onde vivem as respostas, quem pode ver o quê.
Ingerir, dividir, embutir e indexar os seus documentos.
Ligar a procura ao assistente que as suas equipas usam.
Entregar, observar e manter a base atual.
Respostas que pode verificar, a partir do conhecimento que já tem.
O modelo escreve a partir das suas passagens; uma resposta sem fonte na base é recusada em vez de adivinhada.
Quem pergunta recebe a passagem e a resposta juntas, sem abrir quatro sistemas.
Uma citação em cada resposta significa que o leitor a verifica num clique, e verifica.
| Lado a lado | Modelo sozinho | Com RAG |
|---|---|---|
| De onde vêm as respostas | Dados de treino, fixos numa data | Os seus documentos, atuais ao último índice |
| Conhecimento da empresa | Nenhum | Tudo o que indexar, por permissão |
| Fontes | Nenhuma | Documento e secção em cada resposta |
| Quando não sabe | Adivinha | Diz que não sabe |
| Controlo | Nenhum sobre o que sabe | Decide o que é indexado e quem o vê |
Tudo o que tenha texto: PDFs, wikis, tickets, emails, registos de base de dados, transcrições. Cada fonte mantém o dono e o nível de acesso, por isso o assistente só recupera o que quem pergunta pode ver.
As fontes são reindexadas num calendário que define, de hora a hora até semanal, e a pedido. Uma resposta diz sempre a data da passagem que usou.
Sim, com filtro de permissões no momento da recuperação: uma passagem só é considerada se quem pergunta puder ler a fonte. O modelo pode correr localmente quando os documentos não podem sair do seu perímetro.
Contra um conjunto de perguntas acordado na descoberta, com as respostas e fontes esperadas. Reportamos recall, exatidão das citações e taxa de recusa, e revemos uma amostra semanal de respostas reais com a sua equipa.
Somos uma equipa pequena de especialistas seniores. Escolhemos o modelo certo e a camada certa, e construímos o mínimo de maquinaria que resolve o problema. Tem uma chamada com um engenheiro, não um deck de vendas.
