Genial ésta serie dotcsv, sinceramente sería muy complicado entender este tipo de arquitectura sin una buena explicación detallada como lo son todos los videos de este canal. Épico
¡Sigue profundizando Dot! ¡El tema es fascinante y tu explicación e excelente! ¿Cómo se hace uso de esta descomposición temporal y qué otras implicaciones tiene?
Sería realmente increíble ver un ejemplo práctico. He escuchado de estás redes pero para un novato como yo sería valioso ver un código que te ayude a encaminar lo practico. Gracias por el video.
Este tipo de videos deberían ponerle a los chavales antes de clases de matemáticas para animar a aprenderlas viendo la gran utilidad que tienen. Gran video como siempre.
Me alegra encontrar en español estos tutoriales de tan buena calidad, tanto por el contenido didáctico como por tu forma de hablar como por los gráficos.
Hola Carlos, tus explicaciones son impresionantemente clarificadoras, acompañadas siempre de una infografía espectacular, lo que demuestra todo el trabajo que hay detrás de cada video. Enhorabuena.
Me costó entender cómo funcionan los Transformers. Tuve que relacionar cada palabra de lo que estaba leyendo con cada una de las demás palabras y luego leerlas ya relacionadas de forma simultánea y paralela, pero teniendo en cuenta el orden. Estoy ironizando. Lo que hice fue leer la explicación por partes, entender un trozo, luego el siguiente y luego volver a leerlo todo. A mi entender, lo que hacemos para entender un texto largo o complicado, se parece más a una convolución que a un transformer.
Una convolucion implicaria que somos capaces de procesar todos los posibles n-gramas de una frase en paralelo. Lo mas parecido para los humanos en una red recurrente.
Excelente video, incluso al día de hoy, es realmente interesante entender cómo pasamos de las antiguaras redes tradicionales a los grandes modelos de lenguaje que ocupamos al día de hoy (nunca había entendido bien qué era el Positional Encoding, genial explicación)
Otra de las razones por las que utilizar una codificación posicional basada en ondas matemáticas multidimensionales es porque le permite al modelo adquirir información posicional relativa respecto a las otras palabras, permitiéndole aprender con menos ejemplos y más rápidamente.
Sos un Genio Carlos! Te consulto si sabes si hay desarrollos para optimizar esta codificacion utilizando por ejemplo modulaciones en cuadratura comunes en telecomunicaciones. Me interesa saber como se encara el incremento en throughput de datos! Saludos!
Carlos, haz un vídeo sobre como funcionan los "encajes", considero que son fundamentales para abordar temas como VQA (que estaría fenomenal que hicieras una serie!). Gran trabajo. Saludos
Hola Carlos. Que buen video! Estás amarrando muchísimos conceptos en una sola aplicación. Genial! Me gustaría usar tu video para el capítulo de series de Fourier en un curso que imparto para estudiantes de ingeniería. Me autorizas? Salu2!
Gran vídeo con el que he comprendido el positional encoding. Si hicieras un vídeo explicando la capa densa final de BERT y el funcionamiento de la arquitectura entendiendo cómo funciona para un ejemplo de problema sería brutal ya :)
ปีที่แล้ว
Excelente explicación!!! Muchas gracias por compartir tus conocimientos.
Solo se que en lugar de simplificar, se está complicando todo exponencialmente. Un ejemplo... Es como cuando generamos rampas en decodificadores A/D...en lugar de solo usar un equipo analógico. Nuestro cerebro es extremadamente simple en ese mecanismo de aprendizaje o incluso inteligencia. Si bien existen multiple tipos de neuronas, hay zonas y sectores específicos. Nuestras limitaciones principales son la velocidad de propagación electroquímica , la densidad de almacenamiento dentro de todo es aceptable , aún así ampliable electrónicamente. Muy buenos tus vídeos, aprendo mucho en verdad ! Saludos desde Rosario Argentina
Hugo Zucarelli, ing acústico famoso por su invención (1980) llamada Holofonic....este ideo una técnica de cambios de fase en sonido...como realmente es capturada por el oído humano, intentaron recrear algoritmos así manejar esta información espacial 3D sin resultados muy superiores.. El ser humano es 100% analógico...no veo razón (hoy en dia) cambiar estos principios hasta no superarlos y así emplear técnicas digitales. Espero se comprenda la comparativa. Saludos
Que magnifica explicación!!! Y que genialidad la de los transformers. Y de ahi que utilicen tantas GPUs para procesamiento paralelo de enormes cantidades de datos. GRACIAS DOT.CSV
Magnífico trabajo como siempre. Me parece interesantísimo todo lo que explicas, aunque no tengo el nivel necesario para entenderlo todo. Una pregunta: 10:33: Fila inferior: ¿seno(1/3 * pos)? ¿Por qué no sería seno(1/4 * pos)? No pillo el significado del 1/3
excelente Videos, tienes un manera de explicar temas dificiles de explicar, de una manera muy "sencilla", podrias realizar algun video acerca de los usos de IA en la medicina hoy
He utilizado los Visual Transformers en mi TFM y su performance es mayor a la de las CNNs. Podrías hacer un vídeo sobre ellos por su gran potencial y futuro
Muchas gracias por tus vídeos. Te sigo hace poco tiempo y me parece que están muy bien. Me surge una duda respecto a la paralelización que comentabas. ¿Dices que con las redes neuronales recurrentes no se puede paralizar los cálculos por GPU? Pero realmente si se puede, ¿no? Puedes explicar a qué te refieres con eso. Digo que se puede paralelizar por qué los datos con los que óperas son una matriz bidimensional donde por una dimensión son los parámetros del algoritmo y por otro lado el número de ejemplos del batch de entrenamiento. Corrígeme si me equivoco o si se me escapa algo. Gracias.
Hola, ¿cómo estas? Estoy interesado en empezar a investigar en visual transformer. Soy estudiante de doctorado en ciencia de datos y me gustaría conocer todas las aplicaciones que puedo realizar con visual transformer, especialmente en visual attention. ¿Conocerás algo al respecto?
En determinado momento, con el conocimiento con las que las propias personas alimentan a las inteligencias artificiales, serán estás las que se ocupen de generar y distribuir la tecnología, y según parece esto avanza rápidamente.
🎯 Key Takeaways for quick navigation: 00:23 *🪐 Finding Exoplanets by Transit Method* - Exoplanets are mostly discovered using the transit method - Transit method involves a planet passing in front of its star - Light blockage helps determine the planet's size, and transit duration reveals its orbital period. 06:46 *🛰️ Challenges in Astronomical Technology* - A problem with technology in astronomical research can hinder discoveries and data analysis. 14:58 *🎵 Miscellaneous Information* - No specific valuable information discernible from this part of the transcript. Made with HARPA AInec
Oye al principio te juzgue mal, no entiendo mucho del tecnisismo de tú canal pero me agrada, para mí los más sorprendente de la informática es la conversión, la conversión de pulsos eléctricos en información
Cualquiera q sabe de Sonido mira esas ondas y es inevitable relacionarlo con las ondas armónicas que al final se traducen en frecuencia.. bien lo decía Tesla.. todo es frecuencia todo !! U.u
Pero si ya existen modelos que respetan orden, por que no usar por ejemplo un takagi sugeno optimizado con enjambre de particulas? o una modificacion a esto, o una mejora o algo que ya se sabe que funciona?
Wow, un video realmente muy interesante, ¡qué mind blower el tema de los senos y cosenos!, la verdad que da que pensar. Gracias por el currazo de los videos!
► Serie Introducción al NLP y Transformers (DotCSV)
⭐Parte 1 - th-cam.com/video/Tg1MjMIVArc/w-d-xo.html - Introducción a Tokens.
⭐Parte 2 - th-cam.com/video/RkYuH_K7Fx4/w-d-xo.html - Introducción a Embeddings.
⭐Parte 3 - th-cam.com/video/aL-EmKuB078/w-d-xo.html - Introducción a Mec. Atención
Justo estaba esperando la segunda parte 😎
Genial ésta serie dotcsv, sinceramente sería muy complicado entender este tipo de arquitectura sin una buena explicación detallada como lo son todos los videos de este canal. Épico
Ahora el universo tiene sentido :p
Me solté riendo con lo de discreto xD
El mejor!!! Gracias
"Detrás de estas tecnologías hay un transformer"
Yo imaginándome a Bumblebee generando palabras
yo tambien
Si existe una tecnologia llamada bumblebee xd
Es un Camaro.
Porque tienen un gran líder. ⚡Optimus Prime. ⚡
Vine por este comentario
Jajajajaja
Jajajaja, no mames wey esto es ciencia 😊🤣🤣😹🤭
Y el nuevo modelo de NVIDIA se llama Megatron, un digno rival
Jajajajajajajajaja
WOW...
Me he queda sin palabra JAMAS me hubiera imaginado el uso de formulas sinusoidales para calcular posiciones.
¡Sigue profundizando Dot! ¡El tema es fascinante y tu explicación e excelente! ¿Cómo se hace uso de esta descomposición temporal y qué otras implicaciones tiene?
Sería realmente increíble ver un ejemplo práctico. He escuchado de estás redes pero para un novato como yo sería valioso ver un código que te ayude a encaminar lo practico. Gracias por el video.
Este tipo de videos deberían ponerle a los chavales antes de clases de matemáticas para animar a aprenderlas viendo la gran utilidad que tienen. Gran video como siempre.
"Sigamos con los transformers"
Yo: Bien... sigue optimus prime
Me alegra encontrar en español estos tutoriales de tan buena calidad, tanto por el contenido didáctico como por tu forma de hablar como por los gráficos.
Hola Carlos, tus explicaciones son impresionantemente clarificadoras, acompañadas siempre de una infografía espectacular, lo que demuestra todo el trabajo que hay detrás de cada video. Enhorabuena.
Excelente! La forma como explicas Positional Encoding no la vi en ningun otro video, y ahora logre entenderlo al 100%. Gracias!
Quizás el mejor video de tu canal, sin duda lo has explicado de manera excepcional! Sin duda me voy a hacer a Patreon
Me costó entender cómo funcionan los Transformers. Tuve que relacionar cada palabra de lo que estaba leyendo con cada una de las demás palabras y luego leerlas ya relacionadas de forma simultánea y paralela, pero teniendo en cuenta el orden.
Estoy ironizando.
Lo que hice fue leer la explicación por partes, entender un trozo, luego el siguiente y luego volver a leerlo todo.
A mi entender, lo que hacemos para entender un texto largo o complicado, se parece más a una convolución que a un transformer.
12:22
Una convolucion implicaria que somos capaces de procesar todos los posibles n-gramas de una frase en paralelo. Lo mas parecido para los humanos en una red recurrente.
@@CristianGarcia "Se parece más"
¡Gracias!
Es impresionante el trabajo didáctico que hacéis. Ésto no podría hacerse en televisión.
Vaya que video y qué manera la tuya de explicar! Necesitamos profundizar y llevar a codigo la siguiente parte.
Que genial la forma creativa de explicar el positional encoding! Sos un grande Dot CSV!
Excelente videoooo!!! Muchas gracias por la dedicación! Por favor, seguí esta serie que está genial!
A Fourier le encantó este video
Wow, Super Gran trabajo. Videos que valen oro, por favor nunca dejes de hacerlos, siempre los espero por lo interesantes que son.
Excelente video, incluso al día de hoy, es realmente interesante entender cómo pasamos de las antiguaras redes tradicionales a los grandes modelos de lenguaje que ocupamos al día de hoy (nunca había entendido bien qué era el Positional Encoding, genial explicación)
Otra de las razones por las que utilizar una codificación posicional basada en ondas matemáticas multidimensionales es porque le permite al modelo adquirir información posicional relativa respecto a las otras palabras, permitiéndole aprender con menos ejemplos y más rápidamente.
Explicas demasiado bien!! buen video... jaja tener este conocimiento hace una década nos hubiese asegurado una beca en el MIT
Genial! Me vuela la cabeza este tipo de resultados que están sacando las IA
Sos un Genio Carlos! Te consulto si sabes si hay desarrollos para optimizar esta codificacion utilizando por ejemplo modulaciones en cuadratura comunes en telecomunicaciones. Me interesa saber como se encara el incremento en throughput de datos!
Saludos!
ufff, muchísimas gracias por compartir con semejante claridad y calidad de exposición! Muy clarificador!. 🙌
🎉🎉🎉 **Felicidades por el 1/2 millón de subs!** 🎉🎉🎉
Brillante video! Muchísimas gracias!!
Agradezco que esta información esté bien explicada y en español. Para estudiar este tema de forma rápida viene bastante bien.
Tenés una forma de explicar magistral!, capturaste mi atención por completo, super interesante
Carlos, haz un vídeo sobre como funcionan los "encajes", considero que son fundamentales para abordar temas como VQA (que estaría fenomenal que hicieras una serie!).
Gran trabajo.
Saludos
Hola Carlos. Que buen video! Estás amarrando muchísimos conceptos en una sola aplicación. Genial! Me gustaría usar tu video para el capítulo de series de Fourier en un curso que imparto para estudiantes de ingeniería. Me autorizas? Salu2!
Claude Shannon... Todo se reduce a la teoría de la información... Que genio fué... Gran video ❤
Gran vídeo con el que he comprendido el positional encoding. Si hicieras un vídeo explicando la capa densa final de BERT y el funcionamiento de la arquitectura entendiendo cómo funciona para un ejemplo de problema sería brutal ya :)
Excelente explicación!!! Muchas gracias por compartir tus conocimientos.
Increible explicación, muchas gracias!!!!
Solo se que en lugar de simplificar, se está complicando todo exponencialmente.
Un ejemplo...
Es como cuando generamos rampas en decodificadores A/D...en lugar de solo usar un equipo analógico.
Nuestro cerebro es extremadamente simple en ese mecanismo de aprendizaje o incluso inteligencia.
Si bien existen multiple tipos de neuronas, hay zonas y sectores específicos.
Nuestras limitaciones principales son la velocidad de propagación electroquímica , la densidad de almacenamiento dentro de todo es aceptable , aún así ampliable electrónicamente.
Muy buenos tus vídeos, aprendo mucho en verdad !
Saludos desde Rosario Argentina
Hugo Zucarelli, ing acústico famoso por su invención (1980) llamada Holofonic....este ideo una técnica de cambios de fase en sonido...como realmente es capturada por el oído humano, intentaron recrear algoritmos así manejar esta información espacial 3D sin resultados muy superiores..
El ser humano es 100% analógico...no veo razón (hoy en dia) cambiar estos principios hasta no superarlos y así emplear técnicas digitales.
Espero se comprenda la comparativa.
Saludos
Que magnifica explicación!!! Y que genialidad la de los transformers. Y de ahi que utilicen tantas GPUs para procesamiento paralelo de enormes cantidades de datos. GRACIAS DOT.CSV
13:28 dot realmente eres un crack, saludos desde America Latina
Magnífico trabajo como siempre. Me parece interesantísimo todo lo que explicas, aunque no tengo el nivel necesario para entenderlo todo.
Una pregunta:
10:33: Fila inferior: ¿seno(1/3 * pos)? ¿Por qué no sería seno(1/4 * pos)? No pillo el significado del 1/3
Espectacular!!! Una explicación excelente. Gracias!!
Hola es muy aclaratoria tu explicación. Soy escritora, se podrá usar como corrector de estilo y ortotipográfico?
excelente Videos, tienes un manera de explicar temas dificiles de explicar, de una manera muy "sencilla", podrias realizar algun video acerca de los usos de IA en la medicina hoy
Todavia se puede ver la conferencia que diste para samsung?
Me ha encantado! Muchas gracias
Qu'e maravilla de v'ideo! mil gracias por semejante explicaci'on!
Densooooo! mucha y muy valiosa informaciòn. Gracias!
Muy didáctico. Gracias 😊
Tío Dot, nunca había visto un video tan bien explicado del Positional Encoding
Bro, tu canal ya es genial, no creo que necesites poner bromas entre medio
He utilizado los Visual Transformers en mi TFM y su performance es mayor a la de las CNNs. Podrías hacer un vídeo sobre ellos por su gran potencial y futuro
Los decepticons y Los Autobots.
Muchas gracias por tus vídeos. Te sigo hace poco tiempo y me parece que están muy bien. Me surge una duda respecto a la paralelización que comentabas. ¿Dices que con las redes neuronales recurrentes no se puede paralizar los cálculos por GPU? Pero realmente si se puede, ¿no? Puedes explicar a qué te refieres con eso. Digo que se puede paralelizar por qué los datos con los que óperas son una matriz bidimensional donde por una dimensión son los parámetros del algoritmo y por otro lado el número de ejemplos del batch de entrenamiento. Corrígeme si me equivoco o si se me escapa algo. Gracias.
Muchas gacias Dot! por toda la explicacion.
Excelente serie de videos sigue asi
nunca vi una explicación tan intuitiva de los embeddings posicionales. felicidades por el video!
Estas hablando de reconocimiento de voz o colores formas etc de cualquier manera todo es frecuencia 😎👍🎼
Que buen video, ¿cual es la música de fondo?. Gracias por el contenido!
Brutal como explicas, cásate conmigo porfavor jaja
QUIERO MAS!
Carlos excelente video, explicas demasiado bien, muchas gracias!
Hola, ¿cómo estas? Estoy interesado en empezar a investigar en visual transformer. Soy estudiante de doctorado en ciencia de datos y me gustaría conocer todas las aplicaciones que puedo realizar con visual transformer, especialmente en visual attention. ¿Conocerás algo al respecto?
Yo quiero hablar con un personaje asi en español y dentro del metaverso o con la realidad mixta. Tiene que ser una pasada!
Muchas gracias por tus videos, me ayudan bastante.
En determinado momento, con el conocimiento con las que las propias personas alimentan a las inteligencias artificiales, serán estás las que se ocupen de generar y distribuir la tecnología, y según parece esto avanza rápidamente.
Wow wow wow, full nice la explicación!!! Gracias Carlos, eres el mejor!!!!
Felicidades Carlos, este es uno de los mejores videos de tu canal, es formidable no encuentro palabras para agradecer tu tiempo y esfuerzo, gracias!
Si todos los vídeos fueran así, aprendería todo más rápido
una barbaridad, te deja sin palabras
Gracias Carlos. Mira que he leído sobre los Transformers pero no conocía este tema del Position Encoding
De los decepticons
🎯 Key Takeaways for quick navigation:
00:23 *🪐 Finding Exoplanets by Transit Method*
- Exoplanets are mostly discovered using the transit method
- Transit method involves a planet passing in front of its star
- Light blockage helps determine the planet's size, and transit duration reveals its orbital period.
06:46 *🛰️ Challenges in Astronomical Technology*
- A problem with technology in astronomical research can hinder discoveries and data analysis.
14:58 *🎵 Miscellaneous Information*
- No specific valuable information discernible from this part of the transcript.
Made with HARPA AInec
Hola, puedes hablar sobre las "Real Doll"
Oye al principio te juzgue mal, no entiendo mucho del tecnisismo de tú canal pero me agrada, para mí los más sorprendente de la informática es la conversión, la conversión de pulsos eléctricos en información
Me gustan mucho todos tus videos son muy buenos
Necesito una parte V de NLP!
excelentes videos!!!
Cualquiera q sabe de Sonido mira esas ondas y es inevitable relacionarlo con las ondas armónicas que al final se traducen en frecuencia.. bien lo decía Tesla.. todo es frecuencia todo !! U.u
Me dejas loco por querer aprender más!
Hola, podrías explicar el concepto de los ViT? Eres un grande
Pero si ya existen modelos que respetan orden, por que no usar por ejemplo un takagi sugeno optimizado con enjambre de particulas? o una modificacion a esto, o una mejora o algo que ya se sabe que funciona?
MUY BUEN VIDEO
Excelente explicación... Gracias Carlos! Ya con ganas de ver los siguientes vídeos de esta serie sobre los transformers 👏🏼👏🏼
De esos robots transformable
Buenísimo
Nos hacía mucha falta los videos profe, muchas gracias.
Excelentisimo contenido
Muy bueno como siempre, sigue haciendo estos videos de calidad y muchas gracias.
Wow, un video realmente muy interesante, ¡qué mind blower el tema de los senos y cosenos!, la verdad que da que pensar. Gracias por el currazo de los videos!
Es lectura rápida, y sí, hay que parar y meditar de cuándo en cuándo...gracias.
Codificación Posicional
División de la posición
Binario
ondas
¡Exelente video!
Bro, eres la onda!
Maravillosa información !
muy bien explicado
Excelente video!
O sea seria amplitud modulada?
Excelente video!! Hay alguna librería para poder hacer pruebas? Alguna web explicando ejemplos reales??
Me encanta, súper bien explicado, muchas gracias por tu vídeo.
Una explicación de los Trasformer sencillamente Genial. Mil gracias desdes Santiago de Cuba
La guerra por cybertron.
Magistral explicación!
Si pudieras hacer un video implementando transformers desde 0 sin librerias aunque con pocos datos de entrenamiento seria genial.
¿Alguien sabe cómo se llama el vídeo del fragmento cerca del minuto 12 dónde pintan con un cañón?