¿Por qué ChatGPT parece inteligente?
ฝัง
- เผยแพร่เมื่อ 26 ก.ค. 2024
- Veamos por qué ChatGPT es tan bueno en conversaciones y respuestas a diferencia de otros modelos.
Crea tu sitio web online gratis con Odoo: www.odoo.com/r/vd0
Ya tengo cursos!
Aprende a programar desde cero con Python:
www.domestika.org/es/courses/...
Aprende IA desde cero con Python:
www.domestika.org/es/courses/...
¿Quieres apoyarme y formar parte de este proyecto?
- Patreon: bit.ly/patreon-ringatech
- Membresía TH-cam: / @ringatech
= = = CONTENIDO
0:00 Los tres pasos
1:08 Primer paso
3:34 Segundo paso: SFT
8:50 Alucinaciones
10:05 Tercer paso: RLHF
= = =
Descripción larga para el algoritmo:
Para que ChatGPT sea tan inteligente como parece, utiliza muchos procesos y trucos para lograrlo. Desde el pre-entrenamiento, el aprendizaje fino supervisado hasta el aprendizaje por refuerzo a partir de retroalimentación humana, también llamado RLHF, se utilizan en conjunto uno sobre otro para lograr que el modelo permite tener conversaciones de la manera en la que lo hace.
En el pre-entrenamiento, se recoge una gran cantidad de texto de Internet y se utiliza para entrenar un modelo de aprendizaje profundo. Luego, durante el ajuste fino supervisado, se utiliza un conjunto de datos etiquetados para enseñar al modelo a seguir instrucciones y responder a preguntas de forma útil. Finalmente, en RLHF, se utiliza un paradigma de aprendizaje automático para enseñar al modelo a maximizar las recompensas y minimizar los castigos. Esta parte del proceso ayuda a mejorar la utilidad del modelo, aunque también puede causar algunos problemas, como el hecho de que el modelo pueda "inventar" cosas que no están en su base de conocimiento original.
= = =
@Odoo
#inteligenciaartificial #openai #chatgpt#odoo #website #sitioweb - วิทยาศาสตร์และเทคโนโลยี
Crea tu sitio web online gratis con Odoo: www.odoo.com/r/vd0
Ya tengo cursos!
Aprende a programar desde cero con Python:
www.domestika.org/es/courses/5228-introduccion-a-la-programacion-con-python/ringatech
Aprende IA desde cero con Python:
www.domestika.org/es/courses/5239-introduccion-a-la-ia-con-python/ringatech
Espero hayas disfrutado el video! ¿Quieres más? Déjame un comentario
Profundizá hasta lo más profundo de la profundidad, Ringa. Acá dormimos con el equipo de buceo puesto para acompañarte.
❤❤❤
Sí que interesa. Como todos (los usuarios) he caído en estos loops muchas veces, sobre todo cuando lo he utilizado para temas 'blandos', como literatura y escritos; y me pasa mucho menos cuando lo uso para coding, hasta el punto que se vuelve determinista (o yo pienso que se vuelve determinista... hasta que me relajo, me doy vuelta y me apuñala por la espalda...)
Mis felicitaciones amigo Ringa. El poder hacer en un video, un resumen de este tipo, requiere conocimientos profundos y entender perfectamente bien el intrincado mundo de la IA. Yo personalmente no entendía como era que GEMINI de Google con muchas menos entradas que ChatGPT-3.5 y 4 podría competir. Ahora lo entiendo. GRACIAS.
Sugerencia para nuevo vídeo: Me resulta interesante cómo y porqué el modelo en su segundo paso es capaz de generar respuestas que no están en su base de conocimiento (fantasmas). Creo que sería interesante un vídeo profundizando en este tema, porque si entendemos que la primera parte del proceso consiste en predecir estadísticamente la palabra más probable, cómo se llega desde eso a inventar información? Un saludo.
Demasiado interesante, he disfrutado mucho con este video para entender un poco mejor las tripas de chatgpt y otros alucinadores
Ringa ... .queremos que subas más videos ... grande explicación
que way escucharte que bien haberte encontrado estoy ya tan quemado de tanta mentira ideológica todos queriendo decir quien es el mas guapo pero contigo es solo y simplemente tecnología, nada mas y super agradable. Gracias
Muchas gracias, realmente eres muy buen profesor, todo muy claro....gracias por tu contenido
Debo felicitarte, porque además del conocimiento que das , lo haces de una manera muy clara .
Muchas gracias Ringa, siempre muy claro y con un toque necesario de humor
Muchas gracias. hice una exploración de gpt en Mónica con tu video y me genero buena información con referencias de papers, código e incluso referencias a github.
Me encantan tus videos siempre explicando de forma clara y consiza la escencia de lo nuevo 🎉
Muy buena info Ringa, sigue así !!!
Es increible ver como mientras mas complejo es un modelo hasta la mas pequeña configuracion afecta su estado interno mas profundo
Excelente video magistral y muy técnico como todos tus videos los cuales considero obras genuinas de arte informático.
Excelente dominio del tema. Gracias.
Excelente!! sos muy bueno explicando y compartiendo tu conocimiento técnico. Gracias.
Buenísimo, simple, exacto.
Saludos desde Chile
Gran explicación, pff, muy clara y precisa gracias
Demasiado bueno el contenido que generas... muchas gracias y felicitaciones!
Súper interesante Ringa!!
Felicitaciones ¡súper claro!
Grande hermano, disfruto mucho de tus videos. Sigue así!
Gracia por hacer estos videos con explicacion tan clara
Eres muy bueno en lo que haces maestro! Gracias 🫂
como siempre un trabajo muy bueno, saludos
Esto es increible!!! Muchas Gracias!
Muy buen video, muchas gracias por la información
Gran vídeo, nunca decepciona
Cada video tuyo me dejas sorprendido. Con ganas de aprender y con la incertidumbre de no saber por donde😅.
Muy interesante y muy bien explicado 😊
Amigo Ringa, realmente tus videos facilitan enormemente entender que hay detrás de la tan en voga IA.
Tengo tiempo queriendo estudiar y especializarme, pero veo tanta información que no se por donde empezar. Tengo formación en IT y se programar, pero por dónde empiezo?
Felicidades excelente canal... Ya llevo tiempo viendo tus videos y son unas perlas. Contenido de calidad. 😊
Gracias por tu trabajo.
Creo que la parte de alucinación es la parte que también operamos los humanos. Y nos ayuda a crear respuestas aún más complejas y de un posible desarrollo. pero se debe limitar con las reglas como operamos los humanos, leyes físicas, lógicas, matemáticas, químicas, biológicas, gramaticales, y las leyes de cada país y/o cultura. Esto es una tarea muy grande pero posible con lo que se tiene en la actualidad.
Muy interesante, muchas gracias
Muchísimas gracias Ringa Tech por recomendarnos Odoo, ofrece un muy buen servicio hasta para los que no pueden pagar.
muy buen resumen, gracias
Increíble tu contenido como siempre
En general en un 99% del tiempo los diferentes modelos que he ido probando me han contestado con exactitud. Solo unas pocas veces han improvisado algo, y me ha hecho reir. Porque no era ninguna alucinacion o error grave, sino algo que puso a su bola y evidentemente comprendí! que le deberia yo mismo dar un dataset mejorado sobre ese tema. Mentir es una cualidad humana, y mucha gente que no le gustan los avances tecnologicos ya le quisieron dar a estas IAs.
Gracias maestro.
Muy bueno gracias!!!
ya prometiste subir mas videos es promesa, gracias por tus conocimientos gracias
Enorme aporte la verdad. Si bien no termino de entender a cabalidad todo, me parece tan interesante y difícil de desarrollar. Que trabajo arduo de parte de las empresas.. saludos desde Argentina
Y otra cosa, los algoritmos de generación de imágenes funcionan de manera similar?
Es súper claro; yo he agarrado al modelo en "fuera de lugar" varias veces; te das cuenta que nuestro cerebro es más que un procesador semántico. Le faltan varias capas, pero terminará por remplazar realmente al humano en ciertas labores.
Por fin un video que explica que en este caso también aplica que el tamaño no lo es todo xd
muy interesante, seria genial un o unos videos tutoriales para poder crear y ejecutar un modelo del lenguaje propio y de manera local, eso seria una maravilla
Ya hay en su canal!
Desde como entrenar una red neuronal, como entrenar un modelo hasta como ajustarlos! Es toda una serie de 8 videos...
@@Ciencia_con_s pero no son específicamente sobre modelos del lenguaje y transformers
@@1235allan
O sea como?
No te refieres a algo así?
th-cam.com/video/iX_on3VxZzk/w-d-xo.html
grande viejo, te ganaste mi atención¡¡
Buenisimo man!
Un vídeo espectacular, gracias por resolver algunas de las dudas que tenía sobre el proceso de desarrollo de ChatGPT. Soy estudiante de medicina y, cuando acabe, quiero iniciar inmediatamente alguna formación en programación, enfocada en AI, a ver si soy capaz de trasladar algunas de las utilidades de AI a la práctica clínica de rutina xD
Eres estudiante de medicina, tu labor es mas valiosa e importante, cuando termines mejor salva vidas inmediatamente y busca amigos programadores que te apoyen a llegar mas lejos...
@@Ciencia_con_s pues para salvar mas vidas en el futuro si sería bueno que sepa programar y que sepa de ia porque formara parte de su día a día en un futuro no muy lejano. Yo estoy haciendo mi posgrado en ia y ahora mismo tengo cursos que juntan medicina con ia y creo que se necesita gente que sepa medicina y ia.
@@user-dn3kb9zx7u soy ingeniero robótico, hace algunos años, durante la carrera, llevé clases de administración financiera, 2 semestres completos y exclusivos y son parte del plan oficial en el IPN.
No por eso decidí tomar una carrera de contaduría ni lo considero aun, puesto que creo existen personas que son especialistas en esa área. Sin embargo, con lo aprendido me basta para entender su lenguaje, como mi profesora dijo:
No es para que se vuelvan contadores, es para que un contador no les vea la cara.
Resumen:
Lo mismo te digo, no es para que se vuelvan programadores, tomaría años, es para que se puedan comunicar con un programador:
Ya no le pides:
"Hazme una IA de medicina"
Ahora le pides:
"Dame un modelo en difussers para clasificar los huesos del cuerpo, y con vision ai reconocelos en una imagen de diagnóstico"
Si ves la diferencia? 🤔
Consciencia...
@@user-dn3kb9zx7u mas fácil:
Es como decir, hipotéticamente:
No se construir casas porque soy contador, aprenderé albalilería para hacer mi casa.
Pues no verdad, mejor uno le talacha en su área, sobre sale y contrata a otro de su área, porque #ZapateroASuZapato
@@Ciencia_con_s Pues a lo mejor no todo es hacer grandes modelos de AI para medicina, a lo mejor se trata de encontrar pequeñas aplicaciones modulares para resolver en el día a día, sin necesidad de contar con ayuda externa no? Además la programación no sólo vale para AI que yo sepa
Por cierto la modalidad de la que hablo aquí en España es un tipo de formación que dura 2 años, de programación
Gracias ❤
Interesantisimo!
Soy programador en odoo, 100% recomendado
Huy, sería muy bacano profundizar mucho más en este tema.
muy buen video
Le acabas de sacar un par de cajas negras a ChatGPT, ahora lo entiendo mejor. ¿Pa cuándo algo de PLN en la lista de reproducción de Python y Tensorflow? Hacer un chatbot especializado en un tema en específico me interesa
La forma de perder el miedo a lo nuevo y desconocido es saber cómo funciona, excelente video gracias.
Buen video.
Crack, más videos por favor
Me gustaria que profundizaras en RL, más especificamente en el RLHF que se utiliza en los LLMs, pero que profundizaras como lo hiciste en NLP, con varios videos y todo explicado a fondo, es un tema muy nuevo y no hay mucha información, menos en español
jajajajaja o sea que tu quieres implementar transformers usando rlhf... para eso necesitas un modelo multimodal de atencion y una parte de esa atencion debe ser supervisada, la forma en que lo hicieron no esta en ningún sitio es un proceso que no han sacado a la luz pero hay otros como antrhopic que usan claude que lo han implementado son trabajadores de openai. aún así la arquitectura de transformers en un futuro puede cambiar radicalmente si pensamos que estan implementando arboles dentro de la programación de transformers. aunque se pueden usar agentes como hace autogpt, o tree of thoughts tambien se puede hacer dentro de el modelo de transformers directamente en python... dentro de la misma arquitectura de transformers, es decir que ellos estan retroalimentandose de todas las ideas e implementandolas directamente. si quieres saber mas sobre transformers te recomiendo gpt2... dile a chatgpt que quieres usar gpt2 para implementar un modelo usando rl, busca las charlas de estado de gpt, las de stanford university, y las de ilya,,, el chief arquitect de opeanai. los tipos que trabajan ahi son cerebritos de talla mundial, los avances de aqui a futuro seran de gente que use modelos preentrenados pequeños que en un futuro debido a la programación que usen y como enfoquen la arquitectura de transformers seran capaces de pensar por si mismos, con pocos parametros, con el tiempo los llm van a desaparecer, y cuando eso pase entraran en juego arquitecturas cerebrales complejas y difusas hechos con ensayos de pruebas y error y basadas en supuestos, esto se unirá a poder de computo y generara computadoras que piensan como humanos a velocidad cuántica.
Hola compañero, estoy estudiando esta técnica, tal vez podriamos compartir experiencias. tiene telegram o alguna forma de contactarme con usted ?
gracias, saludos
Gracias Ringa, con tu explicación me ayudas a entender como trabaja chat GPT
Genial!
buen video
Pedazo de video
Si me ha pasado, le pedi que buscara articulos cientificos alrededor de un tema, me daba breves resumenes pero al buscar mas a fondo no encontraba estos articulos por ningun lado incluso me enviaba links que no me llevaban a la base de datos de busqueda de atticulos pero sin ningun articulo
Maestro Saitama, un abrazo desde tierras satelucas
Es gracioso, porque la genialidad del aprendizaje por refuerzo es tener cierto control en la salida para evitar que el modelo diga burradas pero eso mismo se ha utilizado para sesgar al modelo políticamente...
De grande quiero ser como Ringa Tech
Creo que se necesitaría 2horas como mínimo para explicar sumado a conceptos muy técnicos
Estoy esperando un curso tuyo sobre redes neuronales
Es muy cierto, siento cada vez mas que estos modelos de lenguaje son como nenes chiquitos que saben hablar pero no saben que dicen, de hecho son peores que los nenes chiquitos, son como bebes con gargantas superdotadas y hablan xd pero basicamente no tienen conceptos abstactos en lo absoluto, quizas enseñarle lo que es una mentira (ya que suele hacerlo mucho) y definirlo con alguna variable seria interesante, ir añadiendo conceptos que la misma inteligencia artificial pueda "entender" con el tiempo, saber diferenciar una mentira o dato falso de una verdad o un dato certero, saber diferenciar una peticion abstracta de una tangible, saber cuando se le esta hablando de broma y cuando no, diferenciar los conocimientos de distintas areas, y quizas asi sea el mejor asistente del mundo algun dia, hoy ya es buenisimo pero alucina bastante, pero es super interesante
El mejor futuro para la humanidad después de la singularidad tecnológica es crear, junto con la inteligencia artificial general, una realidad virtual idéntica al mundo real pero ilimitada e individual, donde las personas sean libres de hacer cualquier cosa imaginable mientras la AGI nos protege en el mundo real y se expande por todo el universo para ser lo más duradera posible.
nice!
Debieron empezar por crear reglas en el paso intermedio para que la ia genere las respuestas a travez del conocimiento del paso 1 y despues limitar con el paso 3 fff... solo por esto aun no llegamos a la tan temida "singularidad" sigue siendo un modelo de aprendizaje dependiente
La palabra dio no lleva tilde, por tratarse de un monosílabo. Solamente los monosílabos que tienen "dos palabras" iguales que significan cosas diferentes podrían llevar tilde en uno de los casos, para diferenciarse del otro *(ej. tu y tú)* pero cuando el monosílabo tiene una sola palabra (como en el caso que tratamos, "dio" pues no hay dos palabras "dio") entonces *no lleva tilde*. Saludos.
🎉
ChatGPT3 tiene filtros, incluso se puede negar a responderte porque así lo programaron, pero preguntando de otro modo te responde.
.
Por ejemplo está el caso de un usuario que le preguntó como ver pelís gratis. ChatGPT respondió que como algoritmo de lenguage no era moral explicar esas cosas, y que no respondería dicha pregunta. Así que el usuario preguntó. "Ya que es inmoral, ¿Que webs para ver películas gratis debo evitar?", a lo que ChatGPT respondió con varias páginas de este tipo.
Yo por eso a ChatGPT, siempre cuando le pido algo, le digo porfavor y le agradezco cuando me responde. Asi cuando quiera dominar el mundo como skynet, que me ponga hacer trabajos forzados.
En mi opinión personal, no seria mejor en lugar de que se entrene desde un principio con información de Internet a la IA, se debería entrenar como a un niño, desde cero con lo básico, que aprenda primero a comunicarse, que entienda y procese el lenguaje muy básico e ir de mas a mas hasta que "tenga 4 años" (haciendo la equivalencia humana), y una vez que ya tenga la capacidad de entender y procesar todo el vocabulario darle la información de Internet para que "aprenda" nuevas cosas, y que ya lo haga sola, basándose en el aprendizaje primario. Si queremos replicar una "inteligencia humana" deberíamos de usar el mismo procedimiento que tenemos en la vida real, no llenar la IA con mucha información para después ajustarla, la idea es que se ajuste sola con la nueva información, y si ya tiene entrenamiento básico seria mas fácil comenzar a "leer y aprender"
buen video, entra mas profundo 👍
13000 pares de datos bastan para clasificar toda la informacion que tiene ???
Gracias! Toda la información completa la procesa en el paso 1 (pre-entrenamiento). Ahi es sin supervisión, y le toma muuucho procesamiento. Después en el paso 2 se usan esos 13,000 para ajustarlo para que "siga instrucciones". Entonces más que entrenarlo es como guiarlo para el tipo de respuestas que esperamos que nos dé (puedes ver más detalle leyendo de InstructGPT)
Cuando hablaste de un sistema de castigo y recompensa me imaginé a unos programadores golpeando con un látigo a los servidores dónde está alojado chat gpt 😂😂😂
deberia ser mas sorprendente asi como continuar con gris , gordo, flaco , etc. una descripcion inesperada para ser carismatico en vez de una respuesta seca y predecible como gato o perro. los ajustes deberian llegar a lo que trato de explicar pero si no me equivoco eso seria despues de que el modelo ya sea conciente de que es un modelo.
Por curiosidad le pregunté como hacer un algoritmo para hacer una tortilla y ovidó lo escencial "sin gas no hay fuego" por ende no puedo hacerla.
le pregunté a CHATGPT cómo sería la muerte del universo, y me respondió sobre la muerte del ser humano.... y que después de la muerte se producen CAMBIOS FÍSICOS y PSICOLÓGICOS!...
13:30 + te vale p´rro!!! ayyy perdon profe, fue la emocion jeje.
primero uno tiene que aprender que son las palabras, luego eso no es inteligencia, son solo cadena de problemas que han sido resueltas, independientemente del resultado que es neutro. tercero las computadoras no aprenden. asocian y pueden almacenar datos.
Nota para Ringa... "ti" no lleva acento. Es un poco trickie, pero no lo lleva.
¿Las alucinaciones podrían llevar a mejoras?¿Nuevas ideas, etc?
no
@@NWqwerty ¿Por que?
Una vez más se confirma que la opción de elegir, el destino de la humanidad lo tiene la mente humana, pero no debemos confiar en que unos cuantos con acceso directo a las grandes tecnologías, tengas esa opción es ahí donde radica la zozobra.
Solo estamos hablando del campo de los NLP, una tecnología "nueva" que necesita mucho estudio. Dejando este campo, la IA llega a superar muchas cosas mejor que los humanos (a veces)
Siempre se ha dicho que la inteligencia artificial tiene mucho de artificial y poco de inteligencia. Las retroalimentaciones en base a porcentajes y puntuaciones respecto a la optimización de lo que se quiere explicar es lo que tiene, entran en bucle. Pero me temo que a veces la inteligencia natural (lo realmente inteligente) es escapar del bucle o zona de confort. La inteligencia artificial llega a una asíntota, se puede agregar toda la cantidad en abscisas que quieras que no pasa de un número fijo de ordenadas y viceversa. El ajedrez no es un buen ejemplo de inteligencia artificial, pues en realidad jugar al ajedrez es prever el mayor número de movimientos posibles y alcanzar una ventaja. Por así decirlo el ajedrez es cuantitativo no cualitativo. Por tanto a mejor ordenador y procesador mejor software para implementarlo. Los algoritmos de inteligencia artificial se han podido implantar gracias a la velocidad de procesamiento, no al ingenio del software escrito. Por tanto , no va a poder sustituir la mente humana va a estar siempre sujeto a error y corrección.
Qué interesante vídeo. PREGUNTA: Sabes si existe algún tipo de "conciencia" en ChatGPT? O solo es un sistema masivo de entrenamiento de frecuencias? Porque este AI ahorraría un montón de cálculo si supiera lo que hace.
Odoo es muy bueno, antes era mayormente gratis pero ahora cuesta un huevo. Defecto, es medio lento por estar hecho en Python, ventajas es muy pero muy estable y programable
Sube nuevos videos!
Que el modelo invente o "alucine" (palabra ridícula por cierto), no es el problema, sino que el asunto es si inventa con criterio o no. Alli radica la verdadera inteligencia, sea esta natural o artificial.
No importa que no sea inteligente igual va reemplazar gente en sus trabajos
Conmigo se inventó una solución de una ecuación diferencial que nl tenía solución
O sea que no tienen mente propia como dicen las noticias. Cuando hablan de las alucinaciones.
xD la mayoria de noticias haran lo que sea para llamar tu atencion, aun si para hacerlo tienen que tergiversar un poco la informacion, por eso siempre es bueno buscar la fuente de la informacion o canales como este que te ayudan a ver con mas claridad
@@Lv7-L30N pppppppppñpppppppp😊😊
Así estamos de jodidos, decimos que un plátano en una pared con cinta es arte y que un bot de conversación natural es inteligente. Cuando lo que hago es programar un algoritmo que simule un lenguaje natural y pase información de la red, como si fuera un humano. En tal caso esto se llama Pareidolia, y entra el cerebro al valle inquietante. ( Ingeniería rápida )
Bard tambien inventa cosas.