Question 1

Nossos dados vão treinar o modelo do fornecedor?

Accepted Answer

Não. Nas configurações corporativas que utilizamos — Azure OpenAI e a API comercial da OpenAI — os dados enviados não são usados para treinar modelos. Com o Azure OpenAI é possível ainda manter o processamento na região escolhida e a comunicação em rede privada.

Question 2

Como garantir que o assistente não invente respostas?

Accepted Answer

Com três camadas: RAG restringindo a resposta ao conteúdo recuperado, instrução explícita para admitir quando não há base para responder, e um conjunto de avaliação que mede taxa de alucinação a cada alteração. Nenhuma delas é suficiente sozinha — juntas, tornam o comportamento previsível e mensurável.

Question 3

Qual o custo de operar uma solução de IA generativa?

Accepted Answer

Depende do volume, do modelo e do tamanho médio do contexto. Estimamos o custo por interação ainda na prova de conceito e aplicamos otimizações desde o início — cache de respostas, roteamento para modelos menores em tarefas simples e compactação de contexto. Na prática, isso costuma reduzir a conta em uma ordem de grandeza em relação a uma implementação ingênua.