Real time RAG App using Llama 3.2 and Open Source Stack on CPU

แชร์
ฝัง
  • เผยแพร่เมื่อ 18 พ.ย. 2024

ความคิดเห็น • 37

  • @AbhijeetSingh-ku4bz
    @AbhijeetSingh-ku4bz หลายเดือนก่อน +3

    This is great bro. I have been trying to build this for over 2 months and just could progress. This is awesome

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน

      Glad to hear that...

  • @avinashnair5064
    @avinashnair5064 หลายเดือนก่อน +4

    how can we add convesational memeory buffer i need to have context in my chat who can we do that?

    • @ritikkumar30
      @ritikkumar30 5 วันที่ผ่านมา

      I have same problem of storing context for each session

  • @kareemyoussef2304
    @kareemyoussef2304 หลายเดือนก่อน +2

    What about bulk processing the pdfs

  • @parwindersingh2302
    @parwindersingh2302 19 วันที่ผ่านมา

    Brilliant bro..better than the so called experts..end to end flow awesome..can we do it for json messages also instead of pdfs. If yes what would be the changes

  • @BetterProgrammer-p5k
    @BetterProgrammer-p5k 22 วันที่ผ่านมา

    An error occurred while processing your request: [WinError 10061] No connection could be made because the target machine actively refused it
    can someone help me with the above error

  • @muhammedaslama9908
    @muhammedaslama9908 หลายเดือนก่อน +1

    If Qdrant is currently running locally, what steps should we take when deploying the application?

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน

      You can deploy the same qdrant on any VM via docker command or within a container instance services.

  • @KINGOFCODES
    @KINGOFCODES 17 วันที่ผ่านมา

    Nice....Make End to End Project on TAG....Tabular Augmented Retrieval .....Thanks

    • @AIAnytime
      @AIAnytime  16 วันที่ผ่านมา +1

      I'll add it to my list.

  • @IsmailIfakir
    @IsmailIfakir หลายเดือนก่อน

    is there is a multimodal llm can fine-tuning for sentiment analysis from text, image, video and audio ?

  • @avinashnair5064
    @avinashnair5064 หลายเดือนก่อน

    What is i need to retrive the image from the documents not generation just the images from the pdf with context similarity?

  • @RedCloudServices
    @RedCloudServices หลายเดือนก่อน +1

    but multimodal should mean you can use a Vision LLM to read each PDF page as an image not use traditional vector based RAG - can you make a video using Vision LLM with this PDF?

  • @educationdelightenglish3819
    @educationdelightenglish3819 หลายเดือนก่อน

    Boss you are a GENIUS! thanks buddy !

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน

      You're welcome!

  • @artur50
    @artur50 หลายเดือนก่อน

    great! might be an option to add an option for 'semantic search'

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน

      Definitely!

  • @MrRobots100
    @MrRobots100 หลายเดือนก่อน

    Can we host this online, to have an API which can react with a client. Can the hugging face 16GB CPU host this with fast interference ? If not, how can I host it on my local device to have an API.

  • @rahulhalappa3927
    @rahulhalappa3927 หลายเดือนก่อน

    does it process images within pdf ?

  • @maheswarib199
    @maheswarib199 หลายเดือนก่อน

    Can use hnsw for vector db and train using different domain dataset agriculture legal health for single qa project

  • @mohsenghafari7652
    @mohsenghafari7652 หลายเดือนก่อน

    Thanks, dear. Is it support Persian pdfs and language?

  • @maheswarib199
    @maheswarib199 หลายเดือนก่อน

    Can anybody tell how different domain of dataset interoperate ?

  • @light_70
    @light_70 12 วันที่ผ่านมา

    Great Video

  • @stevencheney4159
    @stevencheney4159 หลายเดือนก่อน

    Great video - tons of useful information here so thank you!
    Are you able to create embeddings for document types other than PDFs easily? For example, I have a lot of documentation that is stored with Markdown. I could probably export them to a PDF but I'm curious if I could parse them directly.

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน

      Yes you can!

  • @hardiksharma9817
    @hardiksharma9817 หลายเดือนก่อน

    how to stop hallucinations in chatbot

  • @saimanikantak-ti2td
    @saimanikantak-ti2td หลายเดือนก่อน

    Could you please share the discord link

  • @muhammedajmalg6426
    @muhammedajmalg6426 หลายเดือนก่อน

    thanks for sharing

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน

      My pleasure

  • @theindianrover2007
    @theindianrover2007 หลายเดือนก่อน

    Awsm

  • @SnehaRoy-xf3zv
    @SnehaRoy-xf3zv หลายเดือนก่อน

  • @rraviteja
    @rraviteja หลายเดือนก่อน +1

    Bro can you please make a video using complete cloud because some people like me don't have good laptop

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน +1

      Already there. Watch my End to end RAG videos using AWS and Azure in RAG Playlist.

    • @mangaanime7727
      @mangaanime7727 หลายเดือนก่อน

      Hello Sir,
      Do you provide one on one courses online?

    • @AIAnytime
      @AIAnytime  หลายเดือนก่อน

      No