DataOps TUTORIAL: Data engineering / Ejemplo DAGSTER end-to-end con BigQuery, dbt, spark, jupyter

แชร์
ฝัง
  • เผยแพร่เมื่อ 1 ก.พ. 2025

ความคิดเห็น • 15

  • @kikecastor
    @kikecastor 2 ปีที่แล้ว +2

    Muchas gracias, buen video, Saludos!

    • @fullscan
      @fullscan  2 ปีที่แล้ว +1

      Muchas gracias, me alegro sea útil!

  • @jocalvo
    @jocalvo 3 ปีที่แล้ว +1

    Uy si totalmente de acuerdo! Ahora todas las transformaciones ahora son en codigo! En su momento, tambien estaba pasando pero a mi lo que me paso es que todas las transformaciones las comenzamos a hacer en Stored Procedures para explotar el poder de los motores de DB

    • @fullscan
      @fullscan  3 ปีที่แล้ว

      Si pero ojito con cosas propietarias como el PL/SQL de Oracle que luego no hay quien se lo saque de encima jaja

  • @fedramenei
    @fedramenei ปีที่แล้ว

    gracias por el tutorial!

  • @canimus
    @canimus 3 ปีที่แล้ว +2

    Gracias por compartir. En el minuto 32 del video, decidiste comentar el codigo del pipeline, unicamente para reducir el scope del pipeline al solid de dbt. Quizas solo como referencia, puedo agregar que la seccion de playground de Dagit te permite hacer un filtro de los solids que quieres ejecutar en el pipeline, de manera que te ofrece la habilidad de limitar los solids filtrados con una sintaxis peculiar que incluye el nombre del solid y el signo de + o * posicionado como prefijo o sufijo del nombre, como mecanismo de filtro. Asi, no hay necesidad modificar el pipeline, solo el filtro de ejecucion. Saludos!

    • @fullscan
      @fullscan  3 ปีที่แล้ว

      Muchas gracias, super util! No lo sabia!

  • @juanpablosampayo3222
    @juanpablosampayo3222 2 ปีที่แล้ว

    muy buen video, la verdad me gusto mucho !, el data stack para en engineering , cambio mucho?

  • @jcmleon
    @jcmleon 2 ปีที่แล้ว

    Hola gracias por su explicación, hay versión de dagster para empresas como servicio en GCP?

  • @carlesg0n
    @carlesg0n 3 ปีที่แล้ว +2

    Hola Luis! Una pregunta, veo que trabajas para Google en Barcelona, te quería preguntar si lo haces en remoto y si es cliente final, ya que no veo que tengan oficinas en la ciudad.
    Buen video como siempre
    Un saludo!

    • @fullscan
      @fullscan  3 ปีที่แล้ว +2

      Estamos en remoto!!

    • @neurondeep
      @neurondeep 3 ปีที่แล้ว

      @@fullscan menudo crack! alguna forma de entrar como becario?

  • @erwinhuang928
    @erwinhuang928 3 ปีที่แล้ว +1

    Hi, is it possible to do an English version of this tutorial?

    • @fullscan
      @fullscan  3 ปีที่แล้ว +1

      Im thinking on generating some English content indeed! Thanks for the feedback!

  • @sabinoflores5808
    @sabinoflores5808 3 ปีที่แล้ว

    Escuchar decir que se debe usar todo código para construir procesos ETL o ELT suena un poco del pasado
    Cuando hoy en día existen herramientas como Informatica, Alteryx, Azure Data Factory, Google Data Fusion entre muchas otras que son cada vez más usadas por las grandes empresas, creo que existe un consenso en que en el futuro pocas de estas cosas se harán escribiendo código puro ya que es más difícil de mantener y escalar
    Al principio del video mencionas algunas debilidades de usar estas herramientas gráficas y coincido totalmente en el punto del control de versiones pero es que con el resto de puntos escribiendo todo en código presentas los mismos problemas y cualquier ingeniero de datos moderno podrá mencionar 20 desventajas adicionales de hacerlo todo en código