AI ScraperConceito

Como um scraper é construído

Uma construção é o único momento em que a IA participa. Ela explora o site com um navegador de verdade para achar o caminho até os seus dados, registra esse caminho como um plano, percorre o plano e depois escreve um programa a partir do que observou — uma etapa determinística, sem modelo. Um veredito avalia as linhas, e o que fica incerto volta como dúvida em vez de falha.

8 min de leituraAntes: AI ScraperAbrir no Waiso
O que você vai aprender
  • Acompanhar as fases de uma construção em ordem
  • Saber por que um valor de exemplo é necessário
  • Ler o veredito e a nota de correspondência
  • Entender as dúvidas e o que o conserto faz

As fases

FaseO que acontece
1. ExemploToda entrada precisa de um valor de verdade para explorar. Se você não deu nenhum, o chat faz uma pergunta e espera.
2. ExplorarA IA olha cada página — o esboço e uma captura de tela — e escolhe uma ação: preencher, selecionar, clicar, enviar, navegar, esperar, extrair, terminar ou não conseguir.
3. PlanejarAs ações exploradas viram os passos do plano, cada uma com o alvo e o valor.
4. PercorrerO plano é percorrido num navegador; uma foto de cada passo chega à Navegação na hora.
5. ProgramaO percurso é escrito como um programa Python. Nenhum modelo escreve esse código: ele é gerado a partir do que foi observado.
6. ProvarO programa roda uma vez para mostrar que funciona, e as linhas dele preenchem os Resultados.
Navegação e Sessão do programa durante uma construção: uma foto por passo, com o que o passo fez ao lado.

Explorando o site

A exploração é uma conversa entre a página e a IA, uma ação por vez, e cada ação é feita pelo próprio motor com as mesmas regras de uma execução. Ela tem um limite de 10 minutos e 200 páginas. Quando a IA não consegue seguir — uma escolha que só você pode fazer —, ela posta a pergunta no chat e a construção espera a sua resposta. Um site que exige um login que ela não recebeu é avisado como tal; ela nunca inventa credenciais.

Perguntando ao verificador durante o percurso

Durante o percurso, três momentos são avaliados na hora: quando duas tabelas podem ser a lista que você pediu, se a página alcançada é a que o passo queria e se um loop está preso repetindo. O melhor candidato vence; uma página errada ou um loop preso nunca é repetido — vira uma dúvida.

Veredito, dúvidas e conserto

Depois do percurso, um veredito compara as linhas com a sua frase campo a campo e dá uma Nota de correspondência: passou, quase ou falhou. Ele é dado pelo verificador da plataforma ou, quando ele não está disponível, pela própria IA deste scraper — o veredito, nos Logs da construção abaixo dos resultados, diz qual.

  • Um campo que o veredito rejeita vai para o conserto: a extração é pedida de novo com uma dica do que estava errado — até 3 tentativas por fase e 10 por construção, dentro do tempo que sobra.
  • O que o conserto não resolve é entregue com dúvidas: a construção ainda termina com sucesso, e o resultado diz Entregue com dúvidas sobre: … com um motivo para cada uma, como o valor pode não ser o campo pedido.
  • Todo resultado traz uma lista doubts — vazia quando nada está em dúvida —, então um flow ou script pode conferir antes de confiar nas linhas.

Limites

  • A exploração para em 10 minutos ou 200 páginas; quando o limite acaba, isso vira uma dúvida (a exploração ficou sem tempo ou páginas antes de terminar).
  • O verificador acerta menos quando a descrição não está em inglês; o veredito avisa isso.
  • Sem nenhuma IA no projeto, nenhum veredito é dado e a construção diz por quê.