Insights · AI
As respostas confiáveis nascem das suas fontes, não das suposições do modelo. Recuperação, regras e controlo humano reduzem o risco.
Um modelo de linguagem não consulta um arquivo quando responde: gera a sequência de palavras mais provável dado o contexto. Quando uma pergunta toca em informações que não estão nos seus dados de treino, ou que mudaram depois do treino, o modelo não para nem diz «não sei». Continua a produzir texto plausível, com o mesmo tom seguro que usaria para uma resposta correta. Este é o mecanismo por trás das chamadas alucinações: não são um erro ocasional a corrigir, mas o comportamento natural de uma ferramenta que otimiza a fluidez, não a verdade.
O pior risco não é a resposta obviamente errada, que se reconhece de imediato. É a resposta verosímil: uma referência normativa que não existe, uma cláusula contratual citada com segurança mas inventada, uma data ou um número inserido para completar a frase. Num contexto empresarial, isto transforma uma ferramenta útil numa fonte de risco operacional e reputacional. Pedir ao modelo que «seja preciso» não resolve, porque o modelo não tem como distinguir o que recorda do que constrói no momento.
O avanço não está em escolher um modelo maior, mas em mudar de onde vem a resposta. Em vez de deixar o modelo recorrer à sua memória estatística, entrega-se-lhe o material pertinente no momento da pergunta e pede-se-lhe que responda apenas com base nele. O modelo deixa de ser o arquivo e torna-se o leitor que sintetiza. Esta é a ideia na raiz do RAG, retrieval-augmented generation: primeiro recuperar, depois gerar.
Quando chega uma pergunta, o sistema não a passa diretamente ao modelo. Primeiro procura nos seus documentos — páginas, contratos, procedimentos, fichas de produto — as passagens mais relevantes para aquele pedido específico. Esta fase de recuperação é o coração do mecanismo: se trouxer o material certo, a resposta terá fundamento; se trouxer material impreciso ou ausente, nenhum modelo poderá compensar. A qualidade da recuperação importa mais do que a potência do modelo.
Só neste ponto entra o modelo, e recebe uma instrução precisa: responde usando exclusivamente as passagens fornecidas; se a informação não estiver lá, diz isso. A diferença em relação ao uso livre é nítida. O modelo já não tem de adivinhar: tem de ler, selecionar e reformular o que tem à frente. O seu talento linguístico é posto ao serviço da sua documentação, não da sua imaginação.
Uma resposta séria indica de onde vem. Cada afirmação importante deveria poder ser rastreada até à passagem do documento de onde foi extraída, para que uma pessoa possa verificá-la em segundos. A citação não é um detalhe estético: é o que torna a resposta auditável. Sem rastreabilidade, mesmo uma resposta correta continua a ser um ato de fé; com rastreabilidade, torna-se uma afirmação verificável.
O sistema responde apenas a partir de um conjunto definido e atualizado de documentos, não a partir de toda a web nem da memória interna do modelo. Restringir o perímetro das fontes é a primeira forma de evitar que as respostas resvalem para informações não verificadas.
A abstenção deve ser instruída e recompensada: quando as fontes não contêm a resposta, o sistema deve declará-lo em vez de preencher o vazio. Um «isto não consta dos documentos disponíveis» vale mais do que uma resposta inventada.
Quando uma política muda, atualiza-se o documento e a resposta muda com ele, sem tocar no modelo. Isto mantém o sistema alinhado com a realidade atual da empresa e reduz as respostas baseadas em informações ultrapassadas.
Cada resposta traz consigo as referências às fontes, para que quem lê possa verificar autonomamente. A verificabilidade transforma a confiança cega em confiança informada e torna possível corrigir o sistema quando erra.
Dar ao sistema acesso aos documentos da empresa levanta uma questão de controlo: nem tudo o que é recuperável deveria sê-lo por qualquer pessoa. As permissões de quem faz a pergunta devem valer também para a recuperação. Um colaborador não deve poder obter, através de uma resposta sintetizada, informações que não poderia ler abrindo o documento original. A governança do acesso não é uma camada acima do sistema: é parte do sistema.
Quando as fontes contêm dados pessoais, os princípios do RGPD aplicam-se como a qualquer outro tratamento: base jurídica, minimização, finalidade definida, conservação limitada. Significa decidir conscientemente o que entra no arquivo recuperável e o que não entra, e tratar com cuidado particular as categorias sensíveis. A questão não é apenas «o sistema responde bem», mas «está a usar dados que tem o direito de usar, para a finalidade com que foram recolhidos».
Um sistema governado deixa rasto: que fontes foram consultadas, que resposta foi dada, quando. Isto serve para verificar, corrigir e demonstrar conformidade, mas deve por sua vez ser disciplinado, porque também os registos podem conter dados pessoais e precisam de uma política de conservação. Uma governança madura não se limita a fazer o sistema funcionar: define quem é responsável pelo quê, e por quanto tempo as informações permanecem disponíveis.
Antes de falar de modelos, decide-se a que documentos o sistema pode recorrer, quem é o seu proprietário e com que frequência são atualizados. Um perímetro claro é a premissa de toda a resposta confiável.
Verifica-se quem pode ver o quê e onde vivem os dados pessoais, alinhando o acesso do sistema com o acesso real das pessoas e aplicando os princípios de minimização desde a conceção.
Configura-se o sistema para responder apenas a partir do material recuperado e para declarar a ausência de informação quando as fontes não bastam. A abstenção é tratada como uma resposta correta, não como uma falha.
Para os casos de maior impacto, a resposta do sistema é um rascunho que uma pessoa revê antes de se tornar definitivo. O controlo humano não atrasa tudo: concentra-se onde o erro custaria mais.
Observam-se as respostas reais, verificam-se as citações, identificam-se os pontos fracos da recuperação e atua-se sobre as fontes. O sistema melhora atualizando documentos, não perseguindo modelos cada vez maiores.
Um percurso ordenado, não um interruptor para ligar
O RAG elimina totalmente as alucinações?
Não, reduz substancialmente mas não as zera. Ancorar o modelo nas suas fontes torna a invenção muito mais difícil e torna cada resposta verificável, mas mantém-se uma margem de erro: uma recuperação imprecisa ou uma síntese forçada ainda podem produzir imprecisões. Por isso contam o controlo humano sobre os casos críticos e a possibilidade de verificar as citações.
Precisamos de retreinar o modelo com os nossos dados?
Quase nunca, e raramente é a primeira coisa a fazer. Na maioria dos casos é mais eficaz e mais seguro fornecer os documentos no momento da pergunta: atualiza uma fonte e a resposta muda, sem intervenção no modelo e sem incorporar os seus dados de forma permanente. É também uma abordagem mais respeitadora da privacidade, porque os dados ficam nas fontes que controla.
O que acontece se um documento estiver errado ou desatualizado?
O sistema responderá segundo esse documento, porque confia nas fontes que lhe dá. É esse o ponto central: a qualidade das respostas depende da qualidade e da atualização do arquivo. Por isso a manutenção das fontes — retirar o que está obsoleto, atualizar o que muda — é parte integrante do sistema e não uma atividade acessória.
Podemos controlar quem vê que informações?
Sim, e é um requisito, não uma opção. A recuperação deve respeitar as permissões de quem pergunta: ninguém deve obter através de uma resposta o que não poderia ler diretamente. Em conjunto com a minimização dos dados pessoais e uma política de conservação dos registos, é isto que torna o sistema compatível com o RGPD e com as suas regras internas.