Visual Guide to Gradient Boosted Trees (xgboost)

แชร์
ฝัง
  • เผยแพร่เมื่อ 2 ธ.ค. 2024

ความคิดเห็น • 98

  • @MissFlyingLion
    @MissFlyingLion 3 ปีที่แล้ว +83

    Great explanation! But honetsly, this music make sit soo much harder to concentrate !! :S

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว +8

      Noted! Thanks a lot!

    • @coderide
      @coderide 7 หลายเดือนก่อน +4

      @@Econoscent could you re-upload without music please?

  • @sahiljamadar7324
    @sahiljamadar7324 8 หลายเดือนก่อน +2

    This is how clean teaching is done. Simple just the model's working in easy terms. Thanks very much!!

  • @saidisha6199
    @saidisha6199 2 ปีที่แล้ว +29

    Wow, I can't believe they included all the important information in just 4 minutes with visuals and animations! Really good work.

  • @ahans5319
    @ahans5319 2 ปีที่แล้ว +19

    This is awesome! Visuals are spot on! It's crazy how much quality information can be fit into 4 minutes

    • @Econoscent
      @Econoscent  2 ปีที่แล้ว

      Thank you so much for the appreciation!

  • @mengyuli5711
    @mengyuli5711 3 ปีที่แล้ว +14

    Background music is too loud.

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว +1

      Noted. Thanks!

  • @maximponomarenko2418
    @maximponomarenko2418 3 ปีที่แล้ว +3

    After I saw video preview picture I said "AAAAAA It is so simple" grate explanation , thank you!

  • @whoislewys3546
    @whoislewys3546 3 ปีที่แล้ว +6

    Great refreshers for me. I hope more people see this

  • @shanmukhram6156
    @shanmukhram6156 2 ปีที่แล้ว +1

    Hi ! In the first step ( 1:37 ) , a single decision tree is fit. How do you do that? Using entropy method in datasets or Gini Impurity method?

    • @Econoscent
      @Econoscent  2 ปีที่แล้ว

      You can use either!

  • @LoremIpsum-xd4vl
    @LoremIpsum-xd4vl 8 หลายเดือนก่อน

    At 03:42 I was wondering if you were actually applying a `RandomForestRegressor` to a classification problem, but you've obviously corrected that in the Colab notebook linked in the description, and applied a `RandomForestClassifier`. But now I wonder: if `RandomForestClassifier` reaches a score of 0.9446875, and `XGBClassifier` reaches a score of `0.94325` - why would I choose Gradient Boosted Trees?

  • @mindlessambient1791
    @mindlessambient1791 2 ปีที่แล้ว +2

    When you say the second tree is the negative gradient of the loss function w.r.t the previous output, do you mean that the second tree uses the negative gradient in place of the original dataset's response values?

  • @dhiaromd2228
    @dhiaromd2228 9 หลายเดือนก่อน

    but in the google colab document the two models accuracy and the randomforest had a better one ?

  • @armagaan007
    @armagaan007 2 ปีที่แล้ว +2

    Great video! I have a question, though. How do you add the gradient of the loss to a tree? What does that even mean?
    [EDIT] Also, what happens at test time? Is only the last learner used i.e. F(n)?

  • @jatinroks
    @jatinroks 3 หลายเดือนก่อน +1

    Great video, keep em coming! I think you can slowly start making more in-depth videos too

  • @TheMightyWej
    @TheMightyWej ปีที่แล้ว +2

    Great video, so glad I found your channel. Thank you for putting in the effort to provide this content 👍

  • @KARAB1NAS
    @KARAB1NAS 8 หลายเดือนก่อน

    how do you compute the derivative? This is Frechet derivative here...

  • @andre01jacob
    @andre01jacob 10 หลายเดือนก่อน

    great work! such an underrated video (in terms of views)

    • @Econoscent
      @Econoscent  9 หลายเดือนก่อน

      Much appreciated!

  • @bl4z3_kanazaki
    @bl4z3_kanazaki 11 หลายเดือนก่อน

    Very clear explanation thank you so much!

  • @aasiralikhan7205
    @aasiralikhan7205 3 ปีที่แล้ว +1

    Easy explanantions and great illustrations.Loved it

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Thank you so much 😀

  • @sneharj2036
    @sneharj2036 2 ปีที่แล้ว +1

    Wow! Thanku so much Mam . Really best visualization . I saw first time & liked videos so much.🥰😘

    • @Econoscent
      @Econoscent  2 ปีที่แล้ว

      Most welcome 😊

  • @kofpong
    @kofpong 3 ปีที่แล้ว +1

    Thank you very much along with provided actual code

  • @AI_QQQ
    @AI_QQQ 3 ปีที่แล้ว +1

    I subscribed! Great videos! Just wondering why there are still so many dislikes?

  • @juandiegoorozco5531
    @juandiegoorozco5531 ปีที่แล้ว

    Amazing, just what i wanted, however the music is a bit distracting, at least for me.

  • @VisuallyExplained
    @VisuallyExplained 3 ปีที่แล้ว +1

    Wonderful exposition!

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Thank you! Great work on your channel as well!

  • @toothpaste4dinnr
    @toothpaste4dinnr 3 ปีที่แล้ว +3

    loved the 'close enough' rage face.

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      This guy gets it!

  • @abedalrahmannaser4558
    @abedalrahmannaser4558 3 ปีที่แล้ว +4

    Greate video!
    Please lower the music volume next time ^_^

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Thanks, will do!

  • @rafsunahmad4855
    @rafsunahmad4855 3 ปีที่แล้ว +1

    is knowing the math behind algorithm must or just knowing that how algorithms works is enough? please please please give a reply.

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว +1

      It's not important to understand the math but it's important to understand the algorithm's limitations so you know when to apply it

    • @rafsunahmad4855
      @rafsunahmad4855 3 ปีที่แล้ว

      In data science interview do the interviewer ask math behind algorithm?

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว +1

      @@rafsunahmad4855 it depends on the company but usually junior data scientists are not expected to know more than linear regression and SQL. It's always good to know the math if you want to do a good job.

    • @rafsunahmad4855
      @rafsunahmad4855 3 ปีที่แล้ว

      Thank you very much❤️

  • @rc2000123
    @rc2000123 3 ปีที่แล้ว +2

    loved the explanation!

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Thank you! Do subscribe so you know when we put out new videos!

  • @aitrends8901
    @aitrends8901 2 ปีที่แล้ว +1

    Great Explaination ! Thanks so much...

  • @reinerfunden1976
    @reinerfunden1976 ปีที่แล้ว +2

    The music is very distracting

  • @K-mk6pc
    @K-mk6pc 8 หลายเดือนก่อน +1

    Thanks for the Great Content

  • @nicolo.lazzaro
    @nicolo.lazzaro 2 ปีที่แล้ว +1

    Superb video! I would just tone down the music and choose a less upbeat melody (if any at all), as it's too much on par with voice imo

  • @15jorada
    @15jorada 4 ปีที่แล้ว +1

    You just got a new subscriber!

  • @basicsimstudium4928
    @basicsimstudium4928 3 ปีที่แล้ว +1

    Thank you! That helped me a lot.

  • @elchino356
    @elchino356 3 ปีที่แล้ว +1

    super well explained! thanks

  • @Grmblfsh
    @Grmblfsh 3 ปีที่แล้ว +2

    I love the music! What is it?
    (loved the video too :) )

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Hey man. Can't remember the track which I should be crediting here. Will do that in the future. It's from the TH-cam Music Library

  • @loganyang
    @loganyang 3 ปีที่แล้ว +3

    Awesome illustrations and subscribed!! How do you make such animations?

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Thanks a lot! We use a tool from Adobe called After Effects

  • @zhaochenhe1232
    @zhaochenhe1232 2 ปีที่แล้ว +1

    way clearer than statquest

  • @royerzurumluoglu2466
    @royerzurumluoglu2466 3 ปีที่แล้ว +1

    Great explanation!

  • @Bearymuchi
    @Bearymuchi 3 ปีที่แล้ว +3

    this was great!

  • @shhhh770
    @shhhh770 3 ปีที่แล้ว +1

    THANK YOU SO MUCH 🤍🤍🤍🤍🤍

  • @alejandroalvarez9453
    @alejandroalvarez9453 ปีที่แล้ว

    The music has a backgroung scraping sound that is a bit annoying.

  • @vaibhavjindal7394
    @vaibhavjindal7394 3 ปีที่แล้ว +4

    Great video !!! Very clear and accurate explanation!!! Great selection of background music !!!

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Thanks a lot for watching! Smash the like and subscribe button!

  • @ama-tu-an-ki
    @ama-tu-an-ki ปีที่แล้ว +1

    Not visual, but mathematic notational. Fail to show visually the trade-off in complexity, decision tree depth, and overfitting.

  • @devawratvidhate9093
    @devawratvidhate9093 3 ปีที่แล้ว +1

    Gr8 Elaborate explanaton.

    • @Econoscent
      @Econoscent  3 ปีที่แล้ว

      Thank you so much! Do subscribe for more videos

  • @kareemelattar8251
    @kareemelattar8251 2 ปีที่แล้ว +1

    the music is silly and causes loss of focus

  • @kevinope6166
    @kevinope6166 9 หลายเดือนก่อน

    dios mío, qué buen video :'d

  • @BirdTodd-b6k
    @BirdTodd-b6k 2 หลายเดือนก่อน

    005 Jamie Forks

  • @ytaah3
    @ytaah3 6 หลายเดือนก่อน +1

    The explanation is good, but the background music is terrible. Not only distracting, but completely out of place. Not sure why they thought it was a good idea. Make videos focusing on content, and remove any background music.

  • @AbrahamCoriz-t2w
    @AbrahamCoriz-t2w 2 หลายเดือนก่อน

    Cummings Groves

  • @MariaMiller-i9h
    @MariaMiller-i9h 3 หลายเดือนก่อน

    Sophie Ridges

  • @light126
    @light126 6 หลายเดือนก่อน +1

    please remove the background music. One guy's favorite music is a poison for another guy!

  • @WhittierElliot-f3b
    @WhittierElliot-f3b 2 หลายเดือนก่อน

    Thomas Deborah Walker Nancy Hernandez Jose

  • @HumanBeings007
    @HumanBeings007 2 ปีที่แล้ว +19

    Your derivative explanation was so poor that it simply confused

    • @tellurium3754
      @tellurium3754 3 หลายเดือนก่อน

      ? This is exactly how derivatives work my bro

  • @KarenPerez-w9d
    @KarenPerez-w9d 3 หลายเดือนก่อน

    Thomas Anthony Brown Daniel Miller Eric

  • @DebraLittle-pz5um
    @DebraLittle-pz5um 3 หลายเดือนก่อน

    Lewis Helen Perez Angela Thomas Michelle

  • @JohnsonGwendolyn-v2z
    @JohnsonGwendolyn-v2z 2 หลายเดือนก่อน

    Lopez James Davis Maria Allen Joseph

  • @hkgyguhuviChbjn
    @hkgyguhuviChbjn 2 หลายเดือนก่อน

    Miller Deborah Jones Kimberly Lopez Linda

  • @MaxPenelope-w4j
    @MaxPenelope-w4j 3 หลายเดือนก่อน

    Young Christopher Taylor Linda Lee Brian

  • @MeganGrant-s9j
    @MeganGrant-s9j 3 หลายเดือนก่อน

    Martin George Thomas John Garcia Robert

  • @TnikusaMoni-i7p
    @TnikusaMoni-i7p 2 หลายเดือนก่อน

    Lee Jason Moore Margaret Wilson Linda

  • @coderide
    @coderide 7 หลายเดือนก่อน

    Why the hell this irritating background music was needed?
    a perfect video was ruined.

  • @Amd107
    @Amd107 2 ปีที่แล้ว

    This was too much for me

  • @pglparg
    @pglparg 5 หลายเดือนก่อน

    couldn't watch the video just bc of the annoying music

  • @davidnassau23
    @davidnassau23 ปีที่แล้ว

    Music is distracting and annoying!