¿Por qué CONSUMEN tantos TOKENS los ASISTENTES con RETRIEVAL?

แชร์
ฝัง
  • เผยแพร่เมื่อ 2 ม.ค. 2025

ความคิดเห็น • 36

  • @magurtoy2k
    @magurtoy2k 9 หลายเดือนก่อน

    Juan que prolija explicacion para un tema tan complejo & abstracto. Gracias y felicitaciones.

  • @gustavopereztempranillo
    @gustavopereztempranillo 9 หลายเดือนก่อน

    Es asombrosa la facilidad que tienes para explicar de manera sencilla cualquier concepto, por complicado que sea.👏👏👏 Estoy ansioso por ver el siguiente vídeo para crear una herramienta de Retrieval propia. Por cierto, el curso de Construcción de Asistentes es espectacular y me ha servido de mucho, ya he construido varios. ¡Muchas gracias!

    • @productomania
      @productomania  9 หลายเดือนก่อน

      ¡Muchas gracias Gustavo! 🤗

  • @Investigadorinexperto-dt3ed
    @Investigadorinexperto-dt3ed 9 หลายเดือนก่อน

    capo progresando en conocimientos, te sigo desde tu primer video y ver tu avance es motivador

    • @productomania
      @productomania  9 หลายเดือนก่อน

      ¡Gracias por el apoyo!

  • @SantiagoMejiaParra
    @SantiagoMejiaParra 9 หลายเดือนก่อน

    Muchas gracias por tu dedicación y conocimiento! Eres bueno.

  • @gaarell
    @gaarell 8 หลายเดือนก่อน

    muy buen video, gran explicación

  • @CristianBejarano11
    @CristianBejarano11 9 หลายเดือนก่อน

    Qué pasada de contenido el que nos traes siempre! Cada video es una joya y estoy súper agradecido por el tiempo y pasión que le pones. Explicas los conceptos de manera muy clara y comprensible que facilita el aprendizaje de todos. Mi agradecimiento es inmenso por tu esfuerzo y dedicación.😁 Ya estoy deseando ver el próximo! El curso de Asistente de IA me ha dejado sin palabras, lo recomiendo muchísimo. Realmente espero que sigas sacando más cursos así, porque ya estoy aquí, esperando con muchísimas ganas. ¡Gracias por todo este esfuerzo y por enseñarnos tanto Juan!

    • @productomania
      @productomania  9 หลายเดือนก่อน

      ¡Muchísimas gracias por tu comentario Cristian! 😍

  • @royotech
    @royotech 9 หลายเดือนก่อน +1

    Como siempre una joya de video. Felicitaciones JUAN.
    Para un catálogo de productos en un documento ¿qué crees que es mejor subirlo en JSON o en PDF?.
    Para las preguntas y respuestas, ¿será mejor un JSON que un PDF?

    • @productomania
      @productomania  9 หลายเดือนก่อน

      Siempre es preferible subirlo en un formato JSON porque es un formato bien estructurado, donde queda claro qué es cada cosa porque todo la información está almacenada en pares clave-valor. Pero claro, transformar la información de PDF a JSON si tienes mucha información pues no siempre es viable. Pero no hay nada mejor que probar! :)

  • @luisc.restrepo6392
    @luisc.restrepo6392 9 หลายเดือนก่อน

    ⭐⭐⭐⭐⭐. Excelente video.
    Contenido de mucho valor

  • @Figueira205
    @Figueira205 หลายเดือนก่อน

    justo en la empresa que estoy trabajando estan inplementado la utilizacion de un asistente virtual para apoyo a el equipo de abogados que les permita encontrar informacion especifica entre cierto numero de leyes que son con las que mas trabajan pero me he encontrado con que las respuestas del asistente suelen ser errorneas en ocasiones y no hace su trabajo debidamente, quizas me convenga crear una herramienta de retrieval propia para que la busqueda sea mas precisa. o me suguieres algo mas que pueda hacer? (los archivos de la leyes ya se cargan de forma automatica a openai y suelen tener entre 100 y 300 paginas)

  • @Ikerposcaart
    @Ikerposcaart 9 หลายเดือนก่อน

    Excelente información, en mi caso uso Dify para mis RAG

    • @productomania
      @productomania  9 หลายเดือนก่อน +1

      No la conocía, acabo de ver su web y tiene muy buena pinta, la probaré! Gracias :)

    • @Ikerposcaart
      @Ikerposcaart 9 หลายเดือนก่อน

      @@productomania tiene mucho LLM yo llevo tiempo usándola es de código abierto

  • @jorgenebra8787
    @jorgenebra8787 9 หลายเดือนก่อน

    Muy buen video para entender de forma clara todo el proceso de retrieval.
    Un punto, en estos dos casos, tanto con Langchain, como directamente sobre OpenAI, el documento vectorizado se almacena en un base de datos vectorial. ¿Correcto?
    Con la opción directa de OpenAI, entiendo que de esa base de datos vectorial "te olvidas".
    ¿Con la opción de Langchian es igual? ¿O tienes que encargarte de pagarla y gestionarla?
    Gracias!!

    • @productomania
      @productomania  9 หลายเดือนก่อน +1

      Efectivamente! Si construyes tu sistema de Retrieval con Langchain tienes que encargarte de almacenar los vectores en alguna base de datos. Algunas de las más populares son www.pinecone.io/ y qdrant.tech/. En el caso del Asistente de OpenAI te olvidas de esa parte.

  • @erickreyes1677
    @erickreyes1677 6 หลายเดือนก่อน

    Se pueden aplicar estos conceptos usando Llama Index?

  • @putinninovacuna8976
    @putinninovacuna8976 7 หลายเดือนก่อน

    o sino lo ideal seria usar nlp para que sea mas consecuente el corte de chunks y tenga sentido semantico por parrafos

  • @Westxo-m9h
    @Westxo-m9h 9 หลายเดือนก่อน

    Excelente crack! Porque fijate que yo por "ordenado" decidí crear los asistentes dividiendo en PDFs, y en modo pregunta respuesta, como que el sentido común me lo decía y ahora entiendo porque gracias. Sin embargo, me sucede que cada 10 preguntas gpt4 me consumen casi el dólar, se me hace una barbaridad y es que si uso 3.5 0125 hay un % de alucinación que no puedo permitir por el giro del negocio. Definitivamente me ayudaría saber cómo reducir 10x este coste, soy cliente actual de tus cursos! 🎉 Lo necesito y si es sin programar y en Botpress mejor!

    • @productomania
      @productomania  9 หลายเดือนก่อน

      En unos minutos subo vídeo explicando cómo construir una solución con Botpress, ¡a ver si te sirve!

  • @luisc.restrepo6392
    @luisc.restrepo6392 9 หลายเดือนก่อน

    Esperando el video de "crear nuestra propia herramienta de Retrieval.
    Pa cuannndddooo

    • @productomania
      @productomania  9 หลายเดือนก่อน +2

      Semana que viene!

  • @fbravoc9748
    @fbravoc9748 9 หลายเดือนก่อน

    Espectacular video ! Estoy pensando en comprar tu curso de asistentes. Me podrías comentar Cuál es el valor agregado que entrega tu curso pago en comparación con tus vídeos de TH-cam, a los cuales encuentro geniales !?

    • @productomania
      @productomania  9 หลายเดือนก่อน +1

      ¡Gracias! Aquí explico el contenido del curso: th-cam.com/video/zSAb8JxymPM/w-d-xo.html
      Te hago un resumen rápido: en los vídeos que subo a TH-cam no me da tiempo a explicar detenidamente todo lo que necesitas saber para poder construir un Asistente con la API de Asistentes de OpenAI, en el curso sí. Además en el curso comparto varias plantillas de Botpress para que no tengas que crear tu Asistente desde cero.

  • @hectorraulgarcia3246
    @hectorraulgarcia3246 8 หลายเดือนก่อน

    Qué cantidad de información le puedo dar a un agente gpt de chat gpt, para entrenarlo?

  •  9 หลายเดือนก่อน +1

    Tengo varias dudas. La primera, ¿Se puede monetizar el chat utilizando Wordpress? ¿Qué tan complicado sería? Por ejemplo, un chat premium.
    La segunda, en el caso de un chat premium, ¿El usuario puede hacer preguntas en audio y obtener la respuesta de la misma manera? Llegado el caso, ¿Qué tan costoso sería?
    Tercera pregunta, ¿Chatbase y herramientas similares, funcionan como lo explica en este video?
    Gracias.

    • @productomania
      @productomania  9 หลายเดือนก่อน +1

      Te respondo:
      1. Sí, puedes intentar monetizar un chatbot con Wordpress. Tendrás que utilizar algún plugin que te permita implementar un sistema de registro (memberpress.com/) y permitir utilizar el chatbot unicamente a los usuarios que te hayan pagado.
      2. Si construyes el chatbot con Botpress el usuario no podrá enviar audios, sí podrá recibirlos. Si quieres que el usuario pueda enviar audios te recomiendo crear un chatbot para Whatsapp, en vez de para Botpress.
      3. Sí, las herramienta de creación de chatbots que te permiten alimenar el chatbot con documentos utilizan la misma técnica que explico en este vídeo. De hecho, en Chatbase puedes ver qué trozos de texto ha utilizado el chatbot para responder al usuario, suelen ser siempre 3 creo.

    •  9 หลายเดือนก่อน

      @@productomania Muchas gracias por la respuesta

  • @Juan-Ballesteros
    @Juan-Ballesteros 9 หลายเดือนก่อน

    Hola Juan! ¿Es posible que el asistente en OpenAI se coma todo el contexto antes de responder cada pregunta del usuario? (sin vectorizar). Creo que los números se parecen bastante (promtp + instrucciones + contexto = tokens de entrada)

    • @Juan-Ballesteros
      @Juan-Ballesteros 9 หลายเดือนก่อน

      Hice la prueba con texto plano (así es como coinciden los tokens ~)

  • @eleagueofschoolsmx1142
    @eleagueofschoolsmx1142 9 หลายเดือนก่อน

    ¿Tienes algún código de descuento para el curso de asistentes? :)

    • @productomania
      @productomania  9 หลายเดือนก่อน

      No, el código de descuento se agotó hace tiempo :(