Te recomiendo que utilices un modelo LLM poco pesado, en este video muestro un ejemplo de un modelo pesado y otro mucho más ligero y como ves los pequeños van mejor, pero al final, depende de cada laptop. th-cam.com/video/9d7swxUN6oU/w-d-xo.html
SIRVE PARA SUBIR UN PDF Y ME HAGA LA CORRECION ORTOGRAFICA DE TODO EL DOCUMENTO DE UN SOLO VIAJE? EL DOCUMENTO ES DE 200 PAGINAS, ADEMAS LE PUEDO ESCRIBIR EN ESPAÑOL Y RECIBIR LAAS RESPUESTAS EN ESPAÑOL? GENERA IMAGENES?
Lo que yo busco es algo como esto pero aplicado a mis propios datos, pdf, txt, etc. Solo así tendría sentido para mi, porque lo demás ya lo tengo en internet y no tengo problemas con privacidad. Pero sería interesante crear un resumen de documentos personales u otros textos y todo eso en español.
4 หลายเดือนก่อน +3
para este caso, debes aplicar RAG, y lo harias sobre un modelo en local, en ello debes usar una DB vectores para dar contexto al LLM
Saludos, cuando ejecutas las pruebas configurando LLM local, donde se encuentra el algoritmo que realiza la operación? lo consulta de internet o se encuentra dentro de los descargables del instalador?
el algoritmo se ejecuta en mi propio ordenador, que previamente me he descargado. No se envia nada por internet, es decir, que puedes tener tu computadora sin internet, y el LLM te generará la respuesta a tu prompt.
Hola he estado probando lm studio y funciona de lujo. Muchas gracias por tus videos. He estado experimentando con modelos de calling funtion pero no he conseguido hacerlo funcionar. tienes algun enlace o consejo pera intentarlo
Gracias amigo un buen tutorial la verdad... Quiero saber si es posible ingresar informacion personalizada para que interactúe con esa infonacion especifica...
Habrá algun script que se conecte a lm studio para que otros usuarios usen los modelos descargados a través de una web desde su navegador. La idea es que se use en una red local.
Antes vi el video de como instalar ollama y que me llevó a este. ¿Cómo puedo acelear el rendimiento usando la GPU? ¿se puede en GPU's nvidias de portatiles tipo gamer, ejemplo serie OMEN?
no se si ya lo solucionaste pero si tiene para una api bastante simple por lo que vi. yo encontre como poder usarlo con un bot de telegram sin demasiados problemas pero al mismo tiempo como era sumamente simple el script cualquier error que tuvieras dejaba de funcionar y tenias que reiniciarlo de forma manual.
no me deja cargar un modelo de 4 gb y tengo 16 gb me da ``` 🥲 Failed to load the model Error loading model. (Exit code: -1073740791). Unknown error. Try a different model and/or config. ```
![[LIVE] นาทีนี้ต้องพี่ทนาย | ทนายแก้ว vs ทนายไพศาล | #คุยให้เด็กมันฟัง EP.47 (02/11/67)](http://i.ytimg.com/vi/HmquaO-PL_M/mqdefault.jpg)
![โอ้เธอช่าง... - บี้เดอะสกา ft. ต๋อง เทวัญ (Prod. by ป๋าเพชร) [Official MV]](http://i.ytimg.com/vi/zbWhiLFmVL0/mqdefault.jpg)
LM Studio o Ollama cuál os gusta más para vuestros LLM Locales?
video ollama: th-cam.com/video/WkouIQBB1GI/w-d-xo.html
amigo pero no pesara mucho tengo una laptop vieja
Te recomiendo que utilices un modelo LLM poco pesado, en este video muestro un ejemplo de un modelo pesado y otro mucho más ligero y como ves los pequeños van mejor, pero al final, depende de cada laptop. th-cam.com/video/9d7swxUN6oU/w-d-xo.html
Muchas gracias, no conocía esta herramienta. La estoy probando y funciona muy bien, dejando de lado que también es anónima.
Si, que sea anónima se agradece y hay modelos LLM opensource muy potentes a día de hoy.
SIRVE PARA SUBIR UN PDF Y ME HAGA LA CORRECION ORTOGRAFICA DE TODO EL DOCUMENTO DE UN SOLO VIAJE? EL DOCUMENTO ES DE 200 PAGINAS, ADEMAS LE PUEDO ESCRIBIR EN ESPAÑOL Y RECIBIR LAAS RESPUESTAS EN ESPAÑOL? GENERA IMAGENES?
Si y te cocina también
@@boasorte6808 WOW SORPRENDENTE TU INTELIGENCIA DE CEREBRO DE POLLO!
iba a preguntar algo similar en la oficina siempre se usa los pdf
Que super herramienta excepente video, tengo una pregunta cuando tengo multi-GPU usara todas las tarjetas...
Lo que yo busco es algo como esto pero aplicado a mis propios datos, pdf, txt, etc. Solo así tendría sentido para mi, porque lo demás ya lo tengo en internet y no tengo problemas con privacidad. Pero sería interesante crear un resumen de documentos personales u otros textos y todo eso en español.
para este caso, debes aplicar RAG, y lo harias sobre un modelo en local, en ello debes usar una DB vectores para dar contexto al LLM
amo este canal! Gracias por el aporte
Gracias a ti!
Saludos, cuando ejecutas las pruebas configurando LLM local, donde se encuentra el algoritmo que realiza la operación? lo consulta de internet o se encuentra dentro de los descargables del instalador?
el algoritmo se ejecuta en mi propio ordenador, que previamente me he descargado. No se envia nada por internet, es decir, que puedes tener tu computadora sin internet, y el LLM te generará la respuesta a tu prompt.
excelente video!!! sabes si existe algun modelo destinado para programadores?
En este video tienes el mejor LLM para programadores, la desventaja que lo explico en el video es que necesitas mucha GPU ;) gracias por comentar
Hola he estado probando lm studio y funciona de lujo. Muchas gracias por tus videos. He estado experimentando con modelos de calling funtion pero no he conseguido hacerlo funcionar. tienes algun enlace o consejo pera intentarlo
gracias por comentar David, intentaré subir un video pronto de calling funtion con modelos en local.
holaa, una pregunta, se puede usar un set de datos locales para que el modelo trabaje sobre ese contexto y cómo se configura algo así? Gracias.
Si quiero usar uno oara leer pdfs de 1000-2000 paginas en inglés e espeñol y que aprenda de esos pdf cual sería el mejor modelo a usar?
Hay alguna manera de descargarlo en un movil?
Hola amigo.¿Hay alguna manera de que lea los textos que escribe la IA?
Gracias amigo un buen tutorial la verdad... Quiero saber si es posible ingresar informacion personalizada para que interactúe con esa infonacion especifica...
hablamos de comida verdad?
solucionaste eso amigo?
@@titinladen todavía no amigo
Habrá algun script que se conecte a lm studio para que otros usuarios usen los modelos descargados a través de una web desde su navegador. La idea es que se use en una red local.
Pregunta, cono se hace fine tuning a mixtral 7B?
Antes vi el video de como instalar ollama y que me llevó a este. ¿Cómo puedo acelear el rendimiento usando la GPU? ¿se puede en GPU's nvidias de portatiles tipo gamer, ejemplo serie OMEN?
Buen video,que hago si cuando lo descargo me dice "You have 1 uncategorized model files", lo desinstalo y lo vuelvo a instalar o que hago?
los link para WINDOWS 7
Puedes conectar a través de una API con ese modelo LLM que hayas instalado en un Linux?
no se si ya lo solucionaste pero si tiene para una api bastante simple por lo que vi. yo encontre como poder usarlo con un bot de telegram sin demasiados problemas pero al mismo tiempo como era sumamente simple el script cualquier error que tuvieras dejaba de funcionar y tenias que reiniciarlo de forma manual.
Como le cambio el idioma a español? Xf
lo cambaste? si es asi como le hiciste
no me deja cargar un modelo de 4 gb y tengo 16 gb
me da
```
🥲 Failed to load the model
Error loading model.
(Exit code: -1073740791). Unknown error. Try a different model and/or config.
```
Me pasa lo mismo, lo pudiste solucionar? literal no me abre ningun modelo y cuando busco algun otro me aparece ´No results found´