Функции активаций нейрона | Sigmoid, ReLU, Leaky ReLU, ELU | Neural Networks (NN) | НЕЙРОННЫЕ СЕТИ 4

แชร์
ฝัง
  • เผยแพร่เมื่อ 17 ธ.ค. 2024

ความคิดเห็น • 27

  • @ClearPaper89
    @ClearPaper89 2 ปีที่แล้ว +3

    Приятно слушать. Хорошая ведущая

    • @machine_learrrning
      @machine_learrrning  2 ปีที่แล้ว +1

      Очень приятно это читать 😊

  • @kaperit8255
    @kaperit8255 2 ปีที่แล้ว +7

    суперское видео

  • @RR-hq4cv
    @RR-hq4cv 2 ปีที่แล้ว +6

    Отличный разбор, спасибо! Поздравляю с 2 тысячами подписчиков!

    • @machine_learrrning
      @machine_learrrning  2 ปีที่แล้ว +1

      Рада, что разбор понравился!
      Спасибо за поздравления 😊

  • @АлиСултанов-и8э
    @АлиСултанов-и8э 2 ปีที่แล้ว +4

    Cпасибо большое

  • @MsGleaming
    @MsGleaming 2 ปีที่แล้ว +1

    вааааай спасибо 😻

  • @dmitriym8634
    @dmitriym8634 หลายเดือนก่อน

    Спасибо. А про метод активации swish у вас что-то есть?

  • @Midjt
    @Midjt 10 หลายเดือนก่อน

    Очень интересно рассказываете. Когда будут новые уроки?

  • @АнтонМихед
    @АнтонМихед ปีที่แล้ว +1

    Заметил что в производной от тангенса пропустили одну скобку в коде. Поэтому график для неё должен до 1 возрастать.

  • @kaperit8255
    @kaperit8255 2 ปีที่แล้ว +1

    Вопрос такого плана. Если сигнал зануляется . чисто технически он же идет просто уже имеет значение 0, там же нету такого что функция возвращает none и дальше перестает работать.

    • @machine_learrrning
      @machine_learrrning  2 ปีที่แล้ว

      Да, всё верно, сигнал 0 идет дальше, но при подсчете ошибки или же подсчете градиента может появляться nan

  • @alekseiegorov3980
    @alekseiegorov3980 ปีที่แล้ว

    Здравствуйте! Подскажите, пожалуйста, какую функцию активации лучше всего использовать для задачи регрессии

    • @machine_learrrning
      @machine_learrrning  ปีที่แล้ว

      Для выходного слоя лучше использовать ReLU (если нет отрицательных значений в целевом признаке) или же Linear

    • @СергейСоколов-у1п8щ
      @СергейСоколов-у1п8щ ปีที่แล้ว

      Здесь надо внимательно, у меня как то был случай, ReLU, в выходном слое глючила. Обычно я использую Linear. А если значения правильных ответов, нормализованны в диапазон (-2...2), (0...2) или (0...1), то можно и sigmoid использовать, у меня в этом случае, работало лучше@@machine_learrrning

  • @pankratovso
    @pankratovso 2 ปีที่แล้ว

    Добрый день! Имеет ли больший смысл на выходе сети ставить softmax? Классов 10 + мы делаем ohe через to_categorical…

    • @machine_learrrning
      @machine_learrrning  2 ปีที่แล้ว

      Добрый день!
      Да, конечно, лучше использовать softmax, когда мультиклассовая классификация, про это отдельное занятие сделаю
      Сейчас с сигмоидой может возникнуть такая ситуация, что и у ботинка вероятность 0.9 и у кофты вероятность 0.9, с софтмаксом такого не будет, будет только один класс с максимальной вероятностью (а по всем 10 классам сумма вероятностей будет 1)
      Но ohe в любом случае можно делать, неважно это 2 класса или 10

    • @pankratovso
      @pankratovso 2 ปีที่แล้ว +1

      @@machine_learrrning спасибо

  • @DrUlrih
    @DrUlrih 9 หลายเดือนก่อน +1

    - \inf это не очень маленький. Это бесконечно отрицательный.

  • @kaperit8255
    @kaperit8255 2 ปีที่แล้ว

    притом если уменьшить количество слоев где про сигмоиду описывают, то обучаются все три слоя)). ИНтересно почему

  • @alexwhite252
    @alexwhite252 ปีที่แล้ว

    class_names это что? Переменная? Если да, то мы туда просто список запихали? Каким образом мы пометили целевые значения? Если это pandas data frame, то могу предположить, что class_names это название колонки. Если так, то почему это не показать? Без этой информации невозможно понять материал!
    Практически во всех подобных "учебных" недо-материалах перешагивают через важную информацию, получается как шпаргалка для самого себя, а не как обучающий материал. Очень плохо.

    • @machine_learrrning
      @machine_learrrning  ปีที่แล้ว +2

      В этом ролике нет цели познакомить смотрящих с разметкой данных (выставление меток для изображений), в этом видео смотрим на функции активации.
      А разметка данных - это целое искусство, конкретно в этой задаче class_names - это метки классов изображений, но как они получаются? А изначально у вас были изображения с кофтами, штанами, ботинками и так далее, из этой каши нужно получить папку только с кофтами, папку только с ботинками и папку только со штанами, это делается путем просмотра картинок и перекидывания их в нужные папки, а потом эти папки для удобства именуются [1, 2, 3], но чтобы мы понимали, что это за классы, мы для себя составляем список ['кофта', 'штаны', 'ботинки']
      так же подобная информация есть и в документации keras keras.io/api/datasets/fashion_mnist/

    • @alexwhite252
      @alexwhite252 ปีที่แล้ว

      @@machine_learrrningу вас в предыдущем видео об этом было? Если нет, то для чего это все? Как обучающие эти видео не годятся, вместо них можно было просто ссылку на документацию keras на экране написать и так сойдет.

    • @Kerico-o9b
      @Kerico-o9b ปีที่แล้ว

      @@alexwhite252 Если не нравится не смотри, нахрен нам здесь твоё мнение

    • @alexwhite252
      @alexwhite252 ปีที่แล้ว

      @@Kerico-o9b пшнх.

    • @textreanimator
      @textreanimator 7 หลายเดือนก่อน

      Автор сего комментария наверное снял супер-видео, в котором нет ни единой ошибки. Прежде чем критиковать других, покажите на своём примере, как это сделать.