Inteligência artificial · Inteligência Artificial
Avaliação e controle de qualidade de IA
Medimos se sua inteligência artificial responde bem, quanto custa cada resposta e se piora quando o modelo muda.
- Método
- Suíte de casos de referência
- Mede
- Qualidade, custo, latência e regressões
- Duração
- 3 a 6 semanas
- Aplica-se a
- Em soluções próprias ou de terceiros
O problema
A maioria das implementações de IA não é medida: são lançadas e confia-se. Depois o fornecedor atualiza o modelo, a qualidade cai e ninguém percebe até um cliente reclamar.
O que inclui
Suíte de casos de referência
Construímos um conjunto de casos com sua resposta correta, incluídos os difíceis e os que jamais deve responder.
Juiz automático
Um modelo avaliador com rubrica explícita pontua cada resposta, com guardas determinísticas para o crítico.
Detecção de regressões
Cada mudança de modelo, de prompt ou de dados é confrontada com a linha de base antes de chegar à produção.
Custo e latência
Medição por resposta, para saber quanto custa realmente operar e onde vale a pena otimizar.
Temas vetados e crises
Verificação de que a solução nunca responde o que não deve e encaminha corretamente os casos sensíveis.
Como trabalhamos
- 01DefiniçãoO que significa uma boa resposta no seu caso concreto.
- 02Conjunto de dadosConstrução da suíte com casos reais e sintéticos.
- 03MediçãoLinha de base de qualidade, custo e latência.
- 04IntegraçãoA avaliação é executada a cada mudança, automaticamente.
Entregáveis
| Documento | Extensão |
|---|---|
| Suíte de avaliação Sua, reutilizável e versionada. | incluído |
| Relatório de linha de base Qualidade, custo e latência iniciais. | incluído |
| Limiar de aprovação Critério explícito para publicar mudanças. | incluído |
Serve também para auditar outro fornecedor. Se você já tem uma solução de IA contratada e não sabe se funciona bem, esta avaliação responde com dados em vez de impressões.