Skip to main content

Executando varreduras

Aprenda a executar varreduras do DQS, monitorar o progresso, lidar com grandes datasets e agendar varreduras recorrentes.

Atualizado

Executando varreduras

Como funcionam as varreduras

Quando você roda uma varredura, o DQS processa os seus registros do Salesforce em relação às capabilities que você configurou. A varredura roda em segundo plano usando o Batch Apex do Salesforce, então você pode continuar trabalhando enquanto ela processa.

O DQS respeita automaticamente os limites de governador do Salesforce. Sua org permanece responsiva durante as varreduras.

Rodando uma varredura manual

Iniciando uma varredura

  1. Abra o DQS pelo App Launcher
  2. Encontre sua Definition na lista
  3. Clique em Run Scan (ou no ícone de play)
  4. Confirme para iniciar

A varredura começa a processar imediatamente.

Indicadores de status da varredura

Status Ícone Significado
Queued Relógio Aguardando para iniciar
Processing Indicador giratório Em execução no momento
Completed Marca de verificação Concluída com sucesso
Failed X Ocorreu um erro

Visualizando varreduras ativas

A tela inicial do DQS exibe todas as varreduras em execução:

  • Nome da Definition
  • Percentual de progresso
  • Registros processados / total
  • Tempo decorrido
  • Tempo restante estimado

Entendendo o progresso

Acompanhamento do progresso

O DQS processa os registros em lotes. A barra de progresso mostra:

  • Lotes concluídos do total de lotes
  • Registros processados do total de registros
  • Capability atual sendo avaliada

Exemplo: “Processando lote 5 de 12 (2.500 de 6.000 registros) - Completeness”

Ordem de processamento

O DQS avalia as capabilities nesta ordem:

  1. Completeness (verificações rápidas de campo)
  2. Validity (correspondência de padrões de formato)
  3. Timeliness (comparações de data)
  4. Consistency (conformidade de valores)
  5. Uniqueness (detecção de duplicatas)
  6. Capabilities de AI Readiness

As capabilities de menor custo rodam primeiro para fornecer feedback rápido.

Tempo estimado

A duração da varredura depende de:

Fator Impacto
Contagem de registros Mais registros = mais tempo
Contagem de campos Mais campos = mais tempo
Custo da capability Capabilities de custo HIGH levam mais tempo
Carga da org Orgs ocupadas processam mais devagar

Taxas de processamento típicas:

Contagem de registros Tempo estimado
1.000 Menos de 1 minuto
10.000 2-5 minutos
100.000 15-30 minutos
1.000.000+ 1-2 horas

Estas são estimativas. O tempo real varia conforme a seleção de capabilities e a atividade da org.

Custos de processamento

Cada capability tem um custo de processamento que afeta a duração da varredura.

Níveis de custo

Custo Capabilities Observações de processamento
LOW Completeness, Validity Verificações simples de campo por registro
MEDIUM Timeliness, Consistency, PII Detection Análise de padrões e cálculos de data
HIGH Uniqueness Comparações entre registros

Cálculo de custo

O resumo da Definition mostra o custo total estimado:

  • Low - Todas as capabilities selecionadas são de custo LOW
  • Medium - Pelo menos uma capability de custo MEDIUM
  • High - Pelo menos uma capability de custo HIGH

Dica: Na sua primeira varredura em um grande dataset, comece apenas com capabilities de custo LOW. Adicione capabilities de custo HIGH depois de entender a linha de base.

Detalhes do processamento em lote

Como o Batch Apex funciona

O DQS usa o Batch Apex do Salesforce para processar registros. Veja o que isso significa:

  1. Os registros são divididos em lotes (padrão: 200 registros por lote)
  2. Cada lote processa de forma independente
  3. Se um lote falhar, os outros continuam
  4. Os limites de governador são redefinidos entre os lotes

Essa abordagem permite que o DQS:

  • Processe milhões de registros
  • Respeite os limites do Salesforce
  • Rode sem bloquear os usuários
  • Retome a execução caso seja interrompido

Limites de governador do Salesforce

O Batch Apex tem estes limites principais:

Limite Valor Observações
Máximo de jobs em lote na fila 5 O DQS usa 1 job por varredura
Registros via QueryLocator 50 milhões Mais que suficiente para a maioria das orgs
Execuções diárias de lote 250.000 Considerando todos os jobs em lote da org

O DQS foi projetado para permanecer bem dentro desses limites.

Otimização do tamanho do lote

O DQS ajusta o tamanho do lote com base na complexidade da capability:

Tipo de capability Tamanho do lote
Apenas custo LOW 200 registros
Inclui custo MEDIUM 200 registros
Inclui custo HIGH 100 registros

Lotes menores para capabilities complexas evitam erros de timeout.

Lidando com grandes datasets

Datasets com mais de 100.000 registros

Para grandes datasets, siga estas práticas:

  1. Use filtros para limitar o escopo
  2. Comece com capabilities de custo LOW primeiro
  3. Rode em horários de menor uso quando possível
  4. Monitore o progresso em busca de problemas

Datasets com mais de 1 milhão de registros

Para datasets muito grandes:

  1. Segmente seus dados usando várias Definitions com filtros
  2. Agende as varreduras durante janelas de manutenção
  3. Rode as capabilities separadamente se necessário
  4. Use a segmentação para processar os dados em paralelo

Exemplo de segmentação:

  • Definition A: Contacts onde Region = ‘Americas’
  • Definition B: Contacts onde Region = ‘EMEA’
  • Definition C: Contacts onde Region = ‘APAC’

Dicas de desempenho

Dica Benefício
Menos campos por Definition Processamento mais rápido
Use filtros de registros Dataset menor para varrer
Rode capabilities de custo HIGH separadamente Melhor visibilidade do progresso
Agende para horários de menor uso Menos competição por recursos

Conclusão da varredura

Notificações de conclusão

Quando uma varredura termina, você recebe:

  1. Notificação no app - O ícone de sino mostra novos resultados
  2. Notificação por e-mail - Um resumo é enviado para o seu e-mail
  3. Atualização na tela inicial - O status muda para Completed

Visualizando os resultados

Clique em uma varredura concluída para ver:

  • Pontuação geral de qualidade
  • Pontuações no nível de dimensão
  • Detalhes das métricas
  • Detalhamento até os registros afetados

Veja Entendendo os resultados para orientação de interpretação.

Histórico de varreduras

O DQS mantém um histórico de todas as varreduras de cada Definition:

  • Data e hora
  • Duração
  • Contagem de registros
  • Pontuação geral
  • Comparação com a varredura anterior

Use o histórico para acompanhar a melhoria ao longo do tempo.

Agendando varreduras

Você pode agendar varreduras recorrentes para automatizar o monitoramento da qualidade de dados.

Configurando um agendamento

  1. Abra sua Definition
  2. Clique em Schedule (ícone de relógio)
  3. Escolha a frequência:
    • Diária
    • Semanal (selecione o dia)
    • Mensal (selecione a data)
  4. Defina o horário de início
  5. Clique em Save Schedule

Melhores práticas de agendamento

Frequência Caso de uso
Diária Entrada de dados de alto volume, monitoramento crítico de qualidade
Semanal Acompanhamento padrão de qualidade, análise de tendências
Mensal Relatórios executivos, auditorias de conformidade

Dica: Agende as varreduras em horários de menor uso (início da manhã ou fins de semana) para minimizar o impacto nos usuários.

Gerenciando agendamentos

Na página de detalhe da Definition:

  • Edit - Altere a frequência ou o horário
  • Pause - Pare temporariamente sem excluir
  • Resume - Reinicie um agendamento pausado
  • Delete - Remova o agendamento por completo

Limites de agendamento

As varreduras agendadas estão disponíveis para todos os usuários, sem limite na quantidade de agendamentos que você pode configurar.

Cancelando uma varredura

Como cancelar

  1. Encontre a varredura em execução na tela inicial
  2. Clique no ícone de parada (ou em Cancel)
  3. Confirme o cancelamento

O que acontece ao cancelar

  • O processamento para após o lote atual
  • Os resultados parciais são salvos
  • O status muda para “Canceled”
  • Você pode visualizar os dados parciais coletados

Varreduras canceladas não contam contra os limites.

Solução de problemas

“Scan queued but not starting”

Causa: Outros jobs em lote da sua org estão em execução.

Solução: Aguarde os outros jobs concluírem. O Salesforce permite no máximo 5 jobs em lote simultâneos.

Verifique: Setup > Apex Jobs para ver o que está em execução.

“Scan failed”

Causa: Geralmente um problema de dados ou de permissão.

Solução:

  1. Verifique a mensagem de erro nos detalhes da varredura
  2. Confirme que você tem acesso ao objeto e aos campos
  3. Revise eventuais condições de filtro em busca de erros
  4. Tente rodar com menos registros

“Scan taking too long”

Causa: Dataset grande ou capabilities de custo HIGH.

Solução:

  1. Deixe concluir (ela vai terminar em algum momento)
  2. Adicione filtros para reduzir a contagem de registros
  3. Remova as capabilities de custo HIGH
  4. Agende para horários de menor uso

“Results don’t show all records”

Causa: As condições de filtro excluíram alguns registros.

Solução: Revise e ajuste os filtros da sua Definition.

Próximos passos