У вас очень хорошо получается объяснять материал. Никогда не думал, что доучусь до магистратуры и не смогу понимать своих преподавателей. Спасибо Вам. Стало понятнее.
В целом видос помог разобраться как работает градиентный спуск, огромное спасибо автору, но вот момент с вычисление альфа вызывал вопросы, для тех кто не понял альфа можно найти любым методом нахождения минимума одномерной функции. И ещё стоит сказать, что не обязательно искать минимум аргумента градиента функции, достаточно найти минимум аргумента функции.
Вы заранее знали координаты экстремума и к нему двигались и на нем остановились. А если заранее эта точка неизвестна, то как найти ее координаты? Тогда придется на каждом шагу проверять стала ли функция меньше или начала расти?
Зачем нужен метод градиентного спуска, если для функций двух переменных есть четкие алгоритмы нахождения экстремумов? Через частные производные и отыскание стационарных точек. Подобные алгоритмы есть и для функций большего числа переменных.
Там в видео небольшая неточность, когда я снимал, я допустил оплошность и не записал x1 и x2, что внесло небольшую путаницу. Градиент это частные производные d [(x1-2)^2 +(x1-3)^2]/dx1= d [(x1-2)^2]/dx1 =2(x1-2)*d[x1-2]/dx1 =2(x1-2)*1 Второе слагаемое у нас как константа, а производная от константы 0, остаётся только первая скобка в квадрате ее мы и дифференцируем (как сложную функцию)
Если вам нужно будет найти альфа - подставляете получившийся вектор в Вашу исходную функцию. Первая строчка первый столбец вектора альфа (3 - 2a) это x1, а вторая строчка (6a) это x2. Берёте от этой функции (3-2a)^2 + (6a-3)^2 производную. После полученную производную приравниваете к нулю. И находите из этого уравнения ваш альфа, который уже можно подставить для нахождения следующей точки.
![[DeepLearning | видео 2] Градиентный спуск: как учатся нейронные сети](http://i.ytimg.com/vi/f9oDe4Yq4E0/mqdefault.jpg)
![[DeepLearning | видео 2] Градиентный спуск: как учатся нейронные сети](/img/tr.png)
У вас очень хорошо получается объяснять материал. Никогда не думал, что доучусь до магистратуры и не смогу понимать своих преподавателей. Спасибо Вам. Стало понятнее.
В целом видос помог разобраться как работает градиентный спуск, огромное спасибо автору, но вот момент с вычисление альфа вызывал вопросы, для тех кто не понял альфа можно найти любым методом нахождения минимума одномерной функции. И ещё стоит сказать, что не обязательно искать минимум аргумента градиента функции, достаточно найти минимум аргумента функции.
Молодец, большинству лекторов стоило бы у вас поучиться 🎉
Крутое видео, спасибо!
Самое классное объяснение, что я нашла. Это видео будет последним по теме, теперь все понятно. Спасибо!
какое клевое видео, спасшее новичка в ML!✨🥰
Вы заранее знали координаты экстремума и к нему двигались и на нем остановились. А если заранее эта точка неизвестна, то как найти ее координаты? Тогда придется на каждом шагу проверять стала ли функция меньше или начала расти?
Зачем нужен метод градиентного спуска, если для функций двух переменных есть четкие алгоритмы нахождения экстремумов? Через частные производные и отыскание стационарных точек. Подобные алгоритмы есть и для функций большего числа переменных.
Можно Вас попросить сделать видео по D-оптимальных планах и как их реализовать. Очень нужно
Добрый день. Подскажите пж, как можно с вами связаться? Не нашел ссылки на вк/телеграмм
@it_daniil telegram
Спасибо
Откуда появилась первая "2" когда вы писали в примере "F(x) = 2(x-2)/2(x-3)..." ?
все не нужно я понял, 2 по умолчанию
Там в видео небольшая неточность, когда я снимал, я допустил оплошность и не записал x1 и x2, что внесло небольшую путаницу. Градиент это частные производные d [(x1-2)^2 +(x1-3)^2]/dx1=
d [(x1-2)^2]/dx1 =2(x1-2)*d[x1-2]/dx1 =2(x1-2)*1
Второе слагаемое у нас как константа, а производная от константы 0, остаётся только первая скобка в квадрате ее мы и дифференцируем (как сложную функцию)
Нашёл сокровища?
Поясните, пожалуйста, альфа 0,5 откуда взялась?
Да просто предположил и угадал. это другая задача. Считается более простой.
Если представить длину вектора градиента и проминимизировать ее по alpha, то как раз получим 1/2.
Если вам нужно будет найти альфа - подставляете получившийся вектор в Вашу исходную функцию. Первая строчка первый столбец вектора альфа (3 - 2a) это x1, а вторая строчка (6a) это x2. Берёте от этой функции (3-2a)^2 + (6a-3)^2 производную. После полученную производную приравниваете к нулю. И находите из этого уравнения ваш альфа, который уже можно подставить для нахождения следующей точки.
А мне показалось что много лишних слов.
Ну пока коротко не умею, когда-нибудь научусь)
Я первый