¿Cómo aprenden las Redes Neuronales? Gradient Descent | Backpropagation

Cada vez se usan más distintos tipos de Redes Neuronales para distintos tipos de tareas, pero ¿Cómo es que aprenden? Esto es lo que vamos a ver en el video. Las aplicaciones de estas redes cada vez son más amplias, y son la razón la cual los vehículos autónomos son posibles, por ejemplo.
La idea es que la red aprende en base a ejemplos que nosotros le mostramos(aprendizaje supervisado). En otras palabras, podemos ver esto como un problema de optimización, en el cual queremos disminuir el error que la red comete.
Nota: En el video aplicamos Gradient Descent, porque calculamos la matriz jacobiana para cada ejemplo de los datos de entrenamiento (que eran 4). En la práctica, en cada iteración se calcula jacobiana en base a una muestra del training set, por temas computacionales. Esto último se conoce como Stochastic Gradient Descent (SGD), más información en: datascience.stackexchange.com...
-- Tabla de contenidos
00:20 - Introducción
01:25 - Aprendizaje supervisado
03:27 - Modelo lineal que buscamos optimizar
04:39 - Repaso de pendiente/ordenada al origen
05:15 - Función de Coste (ECM)
10:36 - Modelo de regresión lineal simple (Comparación)
11:43 - Modelo de regresión lineal múltiple (Comparación)
12:47 - Multi Layer Perceptron (Comparación)
15:11 - Intuición del Descenso del Gradiente
17:13 - Vector gradiente
19:30 - Backpropagation
21:36 - Forward pass
23:28 - Backward pass
27:08 - Intuición del vector gradiente
30:38 - Matriz Jacobiana
32:11 - Reducción de la matriz Jacobiana
33:04 - Regla de actualización de pesos del Gradient Descent
35:10 - Recap.
37:15 - Frameworks
37:35 - Motivación
38:10 - Demostración de Object Detection - Depth Estimation - Pose Estimation
-- Recursos/Links --
Calculador de derivadas: www.derivative-calculator.net
Regla de la cadena: es.khanacademy.org/math/ap-ca...
-- Información extra --
- Para la detección de objetos se utilizó Yolo v4 (input res: 608x608), tengo un tutorial de esto en mi canal.
- Para la estimación de la pose se utilizó AlphaPose: cv.gluon.ai/build/examples_po...
- Para la estimación de profundidad de cada pixel de una imagen se utilizó: cv.gluon.ai/build/examples_de...

[@andresnet1827]

00:20 - Introducción
01:25 - Aprendizaje supervisado
03:27 - Modelo lineal que buscamos optimizar
04:39 - Repaso de pendiente/ordenada al origen
05:15 - Función de Coste (ECM)
10:36 - Modelo de regresión lineal simple (Comparación)
11:43 - Modelo de regresión lineal múltiple (Comparación)
12:47 - Multi Layer Perceptron (Comparación)
15:11 - Intuición del Descenso del Gradiente
17:13 - Vector gradiente
19:30 - Backpropagation
21:36 - Forward pass
23:28 - Backward pass
27:08 - Intuición del vector gradiente
30:38 - Matriz Jacobiana
32:11 - Reducción de la matriz Jacobiana
33:04 - Regla de actualización de pesos del Gradient Descent
35:10 - Recap.
37:15 - Frameworks
37:35 - Motivación
38:10 - Demostración de Object Detection - Depth Estimation - Pose Estimation

[@paulinavelasquez6437]

Muchas gracias por tu explicación

[@evilgirl1979]

Excelente explicacion! Muchas gracias.

[@gustavojuantorena]

Muy buena explicación. Gracias!

[@andresnet1827]

Gracias!