Gracias @nicocmw por compartir todo este conocimiento. Por favor sube ese video de más de 1h detallando el paso a paso para principiantes que queremos probar LLM en local. Como recomendación, puedes detallar el hardware requerido para poder correr en local cada uno de los modelos quantizados, obviamente que la GPU ideal es la 4090 o superiores que saldrán en 2025, pero por ahora, una 4070 de 16Gb VRAM es lo máximo que puedo permitirme.
Excelente video Nico! Me queda una duda con respecto a los requerimientos para correr este tipo de IAs... necesito un buen ordenador o puedo utilizarlos desde cualquier ordenador?? Gracias por tu contenido!!
Justo soy un abogado, Argentino en este caso, tratando de entender si me conviene utilizar un LLM o si puedo darle una biblioteca así de grande a Gemini 2.0 o ChatGPT. Me gustaría poder subir por un lado los expedientes judiciales digitalizados, por otro la doctrina, por otro lado la jurisprudencia y por otro lado los comentarios de los codigos Y tratar de hacerle entender a la IA, el rol y la ponderación de cada uno para entender en alguna materia legal. No sé bien por donde empezar, pero este parece un buen lugar, por ahora simplemente estoy preparando los PDF para que sean buscables mediante OCR y metiendole metadatos, para que en un futuro la IA entienda qué interes representa la persona que habla. Si me queres orientar aunque sea una respuesta muy tecnica, te lo agradecería, lo que no entienda ahora en algún momento va a tener sentido . Gran video gracias!
Podrías entrenar una IA con tus datos, para ello estás en buen camino, primero es ordenar la lógica de la información, posteriormente podrías finetunear un modelo para que responda solo basado en su base de conocimiento, Google está avanzando con ello, notebool llm , etc
Espectacular Nico, una consulta.. Se puede utilizar una especie de GPT personalizado para su utilización en local host? Muchas gracias por compartirlo.
Yo he logrado con Python usas wisper para transcribir e incluso para grabaciones, completamente gratis, lo usé para transcribir las grabaciones de mis reuniones de trabajo, buen contenido 🎉
Nico como siempre un video de altísima calidad de contenido excelente!!! Y obviamente esperamos ese video no importa si es un poco largo 🤙🤙🤙🤙
Gracias @nicocmw por compartir todo este conocimiento. Por favor sube ese video de más de 1h detallando el paso a paso para principiantes que queremos probar LLM en local. Como recomendación, puedes detallar el hardware requerido para poder correr en local cada uno de los modelos quantizados, obviamente que la GPU ideal es la 4090 o superiores que saldrán en 2025, pero por ahora, una 4070 de 16Gb VRAM es lo máximo que puedo permitirme.
Excelente video!!! Me encanta todo lo que enseñas de IA!!! Saludos!!!
Hola Nico, gracias por compartir, me he metido en este mundo IA primero con Chatbots y tus videos me han servido mucho.
Excelente vídeo. Gracias! Me sumo a los que te animan a que hagas un vídeo más largo con más detenimiento ;)
Excelente video Nico! Me queda una duda con respecto a los requerimientos para correr este tipo de IAs... necesito un buen ordenador o puedo utilizarlos desde cualquier ordenador?? Gracias por tu contenido!!
Justo soy un abogado, Argentino en este caso, tratando de entender si me conviene utilizar un LLM o si puedo darle una biblioteca así de grande a Gemini 2.0 o ChatGPT.
Me gustaría poder subir por un lado los expedientes judiciales digitalizados, por otro la doctrina, por otro lado la jurisprudencia y por otro lado los comentarios de los codigos
Y tratar de hacerle entender a la IA, el rol y la ponderación de cada uno para entender en alguna materia legal.
No sé bien por donde empezar, pero este parece un buen lugar, por ahora simplemente estoy preparando los PDF para que sean buscables mediante OCR y metiendole metadatos, para que en un futuro la IA entienda qué interes representa la persona que habla.
Si me queres orientar aunque sea una respuesta muy tecnica, te lo agradecería, lo que no entienda ahora en algún momento va a tener sentido . Gran video gracias!
Podrías entrenar una IA con tus datos, para ello estás en buen camino, primero es ordenar la lógica de la información, posteriormente podrías finetunear un modelo para que responda solo basado en su base de conocimiento, Google está avanzando con ello, notebool llm , etc
Espectacular Nico, una consulta.. Se puede utilizar una especie de GPT personalizado para su utilización en local host? Muchas gracias por compartirlo.
son 7 o 15 dìas de prueba?
Que tal información 😮
Yo he logrado con Python usas wisper para transcribir e incluso para grabaciones, completamente gratis, lo usé para transcribir las grabaciones de mis reuniones de trabajo, buen contenido 🎉
Cómo funciona tu implementación? Estoy intentando desarrollar algo similar
En local como funcionarían los agentes? Se pueden hacer también?
Si, tienes algún video por el canal donde se trata esto!
Con n8n en local o puedes habilitar un servidor comprando un dominio por ejemplo en hodtinger
Hola Nico, tienes alguna sugerencia de ia para páginas de internet. Algo sencillo
La de jin.ai te puede servir
Muy buen video me gustaría saber más del tema si tienes más información por hay guardas please create un video más largo y enróllate un poco mas
Eso de tener que tener abierto el cmd te lo sacaste de la manga. No hace falta tenerlo abierto.
Es verdad, tienes toda la razón. Todos los días se aprende algo nuevo!