Como fazer web scraping para monitorar preços usando python

แชร์
ฝัง
  • เผยแพร่เมื่อ 7 ก.ย. 2024
  • Neste vídeo vamos fazer um web scraping em python para monitorar o preço de um produto.
    💊Quer explodir sua mente!: encurtador.com.br/fhDT8
    Vamos usar as bibliotecas Beautiful Soup e request para podermos trabalhar com os dados da web.
    💰Seja patrocinador do canal :
    picpay.me/codi...
    apoia.se/codifike
    Os links abaixo são de afiliados, comprando através desses links eu ganho uma pequena comissão do site sem nenhum custo adicional no preço. E você me ajuda a continuar produzindo conteúdo.
    🎬 Equipamentos 🎬:
    🎤MICROFONE PROFISSIONAL VOCAL COM FIO, SHURE, PGA48-LC
    amzn.to/34CHwhW
    ⌨Teclado Redragon:
    amzn.to/2GH2Uce
    🖱 Mouse Logitech Mx Master 3
    amzn.to/3mMg34a
    📸Webcam Logitech C920 Full HD 1080p:
    amzn.to/32talL9
    🔦Kit de Iluminação Duplo com Softbox:
    amzn.to/3gyJbYm
    🖥Site:
    www.codifike.c...
    #python #webscraping #raspagemdedados

ความคิดเห็น • 92

  • @gabrielbraz19
    @gabrielbraz19 5 หลายเดือนก่อน +3

    Graças a esse homem eu vou ganhar muito dinheiro esse ano! Que Deus te abençoe

  • @victormaia4192
    @victormaia4192 3 ปีที่แล้ว +9

    sou bem inexperiente com python, estudo a quase uma semana mas consegui seguir o vídeo e fiquei muito feliz quando consegui receber o email, muito obrigado! notificações de preços é um primeiros temas que pensei em aplicar e pelo visto agora é só progredir a partir daqui

    • @Codifike
      @Codifike  3 ปีที่แล้ว +1

      Oi Victor, Esse é o objetivo do canal. Muito feliz em saber que conseguiu. Abraçso

  • @heliomar93
    @heliomar93 3 ปีที่แล้ว +5

    Pô cara, eu pedi web scraping no último vídeo e vc fez msm(apesar de não saber se foi pq eu pedi).
    Vlw msm

    • @Codifike
      @Codifike  3 ปีที่แล้ว +1

      😉👍

  • @brayan-mesquita
    @brayan-mesquita 3 ปีที่แล้ว +5

    Excelente aula, estou sempre acompanhado os vídeos do canal, parabéns. Só uma dica: poderia dá uma melhorada no tema pra ficar mais didático, quem sabe fundo branco pra quem assiste a aula seria melhor. Particularmente programo com temas escuros também, mas pra quem assiste, na minha opinião, melhor temas claros ou com cores mais fortes.

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Olá Brayan, muito obrigado. Nos próximos vídeos vou usar fundo branco

  • @guilhermemoraes4055
    @guilhermemoraes4055 2 ปีที่แล้ว +1

    Alguns sites o script diz que não possuem acesso ao .get_text mesmo estando em , mas gostei do vídeo e pretendo aprender mais sobre e tentar polir minha aplicação o máximo possivel. Obrigado

  • @amanda5001
    @amanda5001 3 ปีที่แล้ว +1

    Já tive q fazer muito webscraping, já fiz Shell Script no Linux, com Java e C#... Usei regex e stringTokenizer em muitos casos... mas com essa biblioteca fica bem mais fácil. Valeu pela explicação clara e objetiva!

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Olá Amanda, Muito obrigado

  • @jardelalbuquerque5369
    @jardelalbuquerque5369 ปีที่แล้ว

    Cara, excelente aula! Muito bem explicada, sem pular partes pressupondo o conhecimento de quem está assistindo, realmente muito didática, gostei muito, vou maratonor seus vídeos.

  • @cryptocrata-u7s
    @cryptocrata-u7s 3 ปีที่แล้ว +1

    Muito top cara. Não sei muita coisa ainda de python estou começando agora por hobby. Mas curti seu vídeo!

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Olá Marcos muito obrigado

  • @antonioribeiro1988
    @antonioribeiro1988 3 ปีที่แล้ว +2

    parabéns! a didática é incrível!

    • @Codifike
      @Codifike  3 ปีที่แล้ว +1

      Oi Antônio muito obrigado

  • @BBTTheKing
    @BBTTheKing ปีที่แล้ว

    Simples, objetivo e extremamente didático! Parabéns pelo vídeo!

    • @Codifike
      @Codifike  ปีที่แล้ว +1

      Obrigado

  • @ferro_gio
    @ferro_gio 3 ปีที่แล้ว

    obrigado pelo vídeo. vou usar a ideia para monitorar vagas para primeiro emprego

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Oi Giovanni. Que bom q gostou. Excelente ideia para webscraping

  • @ryazarde
    @ryazarde 2 หลายเดือนก่อน

    Boa noite, Fabricio.
    Estou aqui assistindo seu vídeo às 23h da noite, tentando aprender as ferramentas do Python e também a monitorar preços e estoques de produtos em sites!
    Estou com uma dúvida e como o vídeo é de 3 anos atrás, não sei se você irá ver minha mensagem para me ajudar nessa dúvida.
    O Telegram possue Bots, e neles ficam tudo mais simples e "fácil", de registrar vários links para que o Bot monitore valores dejesados ou estoque. Eu digo isso por experiência de eu estar em um grupo de promoções que possue um bot que faz isso, você só manda o comando de /stock, ele pede o link do produto e pergunta se você quer monitorar o estoque caso esteja sem estoque, ou se quer monitorar o valor e qual seria.
    Então a minha dúvida é se o seu ensinamento neste vídeo segue o mesmo padrão caso eu queria fazer isso utilizando um Bot no Telegram, configurar no PyCharm, para quando usar o comando no Bot do Telegram ele responder por lá?
    Excelente video, me inscrevi e estou acompanhando todos os videos!

    • @Codifike
      @Codifike  2 หลายเดือนก่อน +2

      Olá. A resposta simples é que sim, tudo é possível. Esse bot teria que ter uma inteligência por trás ( programa) para quando vc passar o link do produto ele comece a monitorar. Agora, tem diversas variáveis que tem q considerar, como as paginas mudam a toda hora então que ajustar o programa para ler corretamente o link, tem que ter um programa que vai ser disparado quando vc mandar o link, o programa teria que ficar em loop para monitorar o site.

  • @garotodoprograma
    @garotodoprograma 2 ปีที่แล้ว

    Que top seu vídeo, parabéns, também curto muito webscraping, sucesso!

    • @Codifike
      @Codifike  2 ปีที่แล้ว

      Obrigado

  • @viniciuspaiva8126
    @viniciuspaiva8126 3 ปีที่แล้ว

    Que vídeo bom. Gostando muito do seu conteúdo. Parabéns pelo trabalho.

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Muito obrigado Vinicius, vai ter muita coisa boa vindo aí. Abraços

  • @wesleyassuncao9727
    @wesleyassuncao9727 3 ปีที่แล้ว +1

    Boa Tarde, primeiramente obrigado, deu certo aqui, excelente vídeo.
    Alguma sugestão de como deixar isso monitorando usando windows ?

    • @Codifike
      @Codifike  3 ปีที่แล้ว +3

      Oi Wesley que bom que funcionou. No windows você pode usar o agendador de tarefas. Segue um link sobre isso: encurtador.com.br/fpKS3

  • @lucasravelly
    @lucasravelly 10 หลายเดือนก่อน

    Gostaria de pedir uma ajudinha.
    Eu to começando agora a aprender sobre python e web scraping, me interessei por essa área.
    Minha dúvida é a seguinte, estou tentando pegar o título da pagina em específico (do site da livelo), mas eu não consigo encontrar, somente usando o selenium. Poderia dar uma breve explicação?

  • @juliocesarlourenco86
    @juliocesarlourenco86 2 ปีที่แล้ว +1

    Valeu pelo vídeo! Top demais!

    • @Codifike
      @Codifike  2 ปีที่แล้ว

      Eu que agradeço

  • @canaldogaelkids
    @canaldogaelkids 3 ปีที่แล้ว

    Top demais, me ajudou bastante, agora preciso é criar um executável para este programa para instala-lo em outros pc, você tem alguma aula sobre isso?

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Oi Vitor, que bom que gostou. Mas vc não precisa de um executável, basta instalar o Python no outro PC e rodar esse programa lá. 😜

  • @FranklinAraujo
    @FranklinAraujo 2 ปีที่แล้ว

    Excelente didática e conteúdo. Tentei fazer pra alguns sites como casa Bahia, Amazon, e Magazine, e estranhamente não consigo recuperar o valor. Somente o nome do produto.

    • @Codifike
      @Codifike  2 ปีที่แล้ว +1

      Olá Franklin,obrigado. Alguns sites via JS mudam as variáveis.

  • @pietrobecker2764
    @pietrobecker2764 ปีที่แล้ว

    Professor!! Baita aula, mas meu código da "none" logo no primeiro teste. Fiz e refiz o código.. onde posso estar errando? Por favor!!
    Ótima aula! Obrigado!

    • @Codifike
      @Codifike  ปีที่แล้ว +1

      Veja se pegou o nome.correto da tag

  • @adrianogoto4904
    @adrianogoto4904 2 ปีที่แล้ว

    Show, ajudou muito !

  • @Bruno-dw8km
    @Bruno-dw8km 2 ปีที่แล้ว

    Ótima aula , gostaria de saber se é possível fazer com todos os produtos do site , e utilizando Google colab para atualização , e além email atualizar uma planilha, muito obrigado pela aula.

    • @Codifike
      @Codifike  2 ปีที่แล้ว +1

      Sim, é possível, basta vc criar um programa para cada produto que desejar

  • @bolobolo4816
    @bolobolo4816 2 ปีที่แล้ว +1

    Não tem mais como ativar a opção de App menos seguro, o código está dando erro

    • @Codifike
      @Codifike  2 ปีที่แล้ว

      Neste caso teria q usar uma nova plataforma de envio de e-mail como o mailgun ou sendgrid

  • @iltonrotta
    @iltonrotta 11 หลายเดือนก่อน +1

    olá e como faço para monitor mais de 3 sites ecommerce, que apareça o preço e imagem dos 6 itens mais vendidos da pagina... (exemplo, mais vendidos da categoria de smartphones) e que ele atualize para mim a cada 5 dias. Tem como ? obrigado

    • @Codifike
      @Codifike  11 หลายเดือนก่อน

      Teem que se um scraper para cada site, pois são diferentes. mas a logica que viu nesse video é o mesmo

  • @adrielvcg
    @adrielvcg ปีที่แล้ว

    Excelente aula! Amigo, agora fiquei com uma duvida, como seria o web scraping para monitorar uma categoria de produtos que tiveram por exemplo +40% de desconto, pulando os que teve por exemplo até 39% ?
    Exemplo: quero monitorar o site "X" que vende categoria de Informática e o script monitorar essa categoria os produtos que recebeu mais de 40% de desconto e ignorar os que tiveram menos descontos.

    • @Codifike
      @Codifike  ปีที่แล้ว

      criar uma função que calcula o desconto. essa função recebe o parâmetro do preço e retorna o valor do desconto

  • @roga0507
    @roga0507 3 ปีที่แล้ว

    Cara vc e 10!!!

  • @edmilsonsouza2278
    @edmilsonsouza2278 3 ปีที่แล้ว

    Excelente conteúdo. Mas, infelizmente pelo tamanho da fonte utilizada não dá pra ler em tela de notebook ou ipad

    • @Codifike
      @Codifike  3 ปีที่แล้ว +1

      Olá Edmilson, realmente neste ficou pequeno, tomei cuidado para não acontecer nos outros vídeos.

  • @pfflau9022
    @pfflau9022 2 ปีที่แล้ว

    Cara seus vídeos são sensacionais parabéns 👏🏿👏🏿
    Eu estou com um projeto você poderia me ajudar ?

    • @Codifike
      @Codifike  2 ปีที่แล้ว

      Qual a dúvida?

  • @mayksuelramalho1833
    @mayksuelramalho1833 3 ปีที่แล้ว

    Vídeos mt bons mesmo parabéns

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Olá Mayksuel obrigado

  • @marloliveiraOficial
    @marloliveiraOficial 3 ปีที่แล้ว

    Show, muito bom.
    Dúvida: tem como ao invés de utilizar o send email, usar para enviar para um grupo no Telegram?

    • @Codifike
      @Codifike  3 ปีที่แล้ว +1

      Tem mas vc tem. Q instalar a lib do telegram e saber o id do grupo. Tem um vídeo aqui. No canal sobre bot onde mostro como enviar mensagem para o telegram

  • @danielruffo463
    @danielruffo463 9 หลายเดือนก่อน

    E pro caso de eu tentar receber a atualização de mudança de um preço variavel impresso anteriormente? Digo, ao invés de vc estipular "5000" ser o valor impresso de outro codigo?

    • @Codifike
      @Codifike  9 หลายเดือนก่อน

      Não entendi muito bem a questão. Pode dar um exemplo?

  • @CarlosAbujamra
    @CarlosAbujamra 2 ปีที่แล้ว

    Primeiramente parabéns pelo conteúdo!!
    Fiz aqui seguindo seu script e aconteceu qdo estava codando o site atualizar mudando todas as CLASS_ .... Verifiquei que isso acontece todo momento, o site fica atualizando suas informações em poucos minutos... Alguma sugestão?

    • @Codifike
      @Codifike  2 ปีที่แล้ว +1

      Neste caso,alguns sites alteram o DOM para evitar scraping. Aí fica realmente complicado pois não sabemos as tags q precisamos usar

    • @CarlosAbujamra
      @CarlosAbujamra 2 ปีที่แล้ว

      @@Codifike vc teria alguma outra sugestão? Tem algum vídeo com outra técnica?

    • @Codifike
      @Codifike  2 ปีที่แล้ว

      @@CarlosAbujamra Vi algumas técnicas neste artigo aqui dev.to/scrapehunt/two-quick-hacks-for-web-scraping-pages-with-dynamic-css-class-names-j0b

  • @topdronesmgtopdrones347
    @topdronesmgtopdrones347 2 ปีที่แล้ว

    Como fazer para transportar as informações de um scraping Python para uma aba específica de um arquivo excel ja existente ? Se possível para células específicas de planilhas q ja possui dados sem inteferir nas informações q ja estão lá

    • @Codifike
      @Codifike  2 ปีที่แล้ว +1

      Vc pode fazer algo do tipo : with pd.ExcelWriter('mult_sheets_1.xlsx') as writer1:
      df_1.to_excel(writer1, sheet_name = 'df_1', index = False)

    • @topdronesmgtopdrones347
      @topdronesmgtopdrones347 2 ปีที่แล้ว

      @@Codifike muito obgd pelo retorno em apoio e parabéns pelo conteúdo do seu canal; to aqui aos 50 anos, encantado com as possibilidades com o Python e batalhando para tentar aprender programação através dele

    • @Codifike
      @Codifike  2 ปีที่แล้ว

      ​@@topdronesmgtopdrones347 EU que agradeço o apoio.

  • @GustavoBomfimMoreiraTavares
    @GustavoBomfimMoreiraTavares ปีที่แล้ว

    Amigo, existe alguma extensão de navegador que permite realizar isso?

    • @Codifike
      @Codifike  ปีที่แล้ว

      Olá que eu conheça não.

  • @CanalPlusCenter
    @CanalPlusCenter 3 ปีที่แล้ว

    como ler o arquivo xml de mais de um site e anotar o preço e os estoques e fazer um banco para anotar dia do preço e estoque mais o mês?

    • @Codifike
      @Codifike  3 ปีที่แล้ว +1

      Você pode usar o beautiful soup, ou a elemento tree. Neste caso vc pode passar as URL em uma lista. Para salvar no banco de dados, precisa ter a biblioteca de acesso ao banco e o banco de dados modelado para receber as informações

  • @darlanalmeida9043
    @darlanalmeida9043 ปีที่แล้ว

    Como faz a crontab no windows?

    • @Codifike
      @Codifike  ปีที่แล้ว +1

      pt.stackoverflow.com/questions/265600/como-rodar-o-cron-do-schedulerun-no-windows

  • @alinemoraes4214
    @alinemoraes4214 3 ปีที่แล้ว +1

    Como faço para buscar vários itens e preços em uma mesma página?

    • @Codifike
      @Codifike  3 ปีที่แล้ว +2

      Oi Aline, assiste a esse vídeo aqui que falo sobre isso : th-cam.com/video/_Ri-QjToQ24/w-d-xo.html

    • @alinemoraes4214
      @alinemoraes4214 3 ปีที่แล้ว

      @@Codifike Obrigada 😃

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      👍😀

  • @SelectedStock
    @SelectedStock 8 หลายเดือนก่อน

    é possível fazer isso em um site que exige login para ter acesso aos preços?

    • @Codifike
      @Codifike  8 หลายเดือนก่อน

      Sim, fiz um vídeos sobre isso na playlist de webscraping

  • @paulorossi7510
    @paulorossi7510 ปีที่แล้ว

    Alguem pode me indicar um curso bom de web scraping.

  • @RL-hx1iu
    @RL-hx1iu 2 ปีที่แล้ว

    Preciso de um serviço seu, deixe seu contato, obrigado

  • @wagnerweimer
    @wagnerweimer 2 ปีที่แล้ว

    Eu conseguiria pegas os preços de imagens?

    • @Codifike
      @Codifike  2 ปีที่แล้ว

      Se estiver em um tag sim.

  • @rafaelribeirodelima7977
    @rafaelribeirodelima7977 3 ปีที่แล้ว

    Tem como deixar executando de hora em hora no windows?

    • @Codifike
      @Codifike  3 ปีที่แล้ว +2

      Oi Rafael , tem sim, você pode deixar no agendador de tarefas do windows. Segue um link sobre isso: encurtador.com.br/fpKS3

    • @rafaelribeirodelima7977
      @rafaelribeirodelima7977 3 ปีที่แล้ว

      @@Codifike show! Muito obrigado! Fiz o algoritmo hoje e funcionou super bem, fiquei bastante feliz porque de quebra aprendi o send mail tambem. Muito obrigado mais uma vez!

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      @Rafael Ribeiro de Lima essa é a função principal aqui do canal. Abraços

  • @matheusdantas_oficial
    @matheusdantas_oficial 3 ปีที่แล้ว

    não consigo instalar o pip install smtplib da esse erro

    • @matheusdantas_oficial
      @matheusdantas_oficial 3 ปีที่แล้ว

      ERROR: Could not find a version that satisfies the requirement smtplib
      ERROR: No matching distribution found for smtplib

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      Dá uma olhada neste artigo

    • @matheusdantas_oficial
      @matheusdantas_oficial 3 ปีที่แล้ว

      @@Codifike qual ?

    • @Codifike
      @Codifike  3 ปีที่แล้ว

      @O Curitibano Foi mal stackoverflow.com/questions/44198752/installing-a-python-package-that-is-not-available-in-anaconda-smtplib