Olá Souza, parabéns pelos vídeos do canal. Você já usou o Open Web UI em conjunto com o Ollama? Estou com um desafio de fazer embedding de 1000 monografias para disponibilizar para pesquisa acadêmica via LLM, mas não estou conseguindo bons resultados. Você pode dar-me alguma dica, como sugestão de modelo de embedding e/ou software a ser utilizado?
Olá @josejunior1853 Obrigado pelo comentário. Eu ainda não cheguei a testar com o Open Web UI, mas ele está no meu radar e eu pretendo criar um vídeo sobre ele. Durante os teste, eu pretendo avaliar se ele aguenta em embendding essa quantidade semelhante de material em conjunto com Ollama. Aí eu posto o vídeo para ver se pode te ajudar.
@@souzadevs Gostei bastante do Open Web UI porque ele oferece uma interface bem intuitiva para o usuário, muito parecido com o ChatGPT. Inclusive dá para criar modelos personalizados, bem parecido com os "GPTs".
Eu estou com um desafio de montar uma banco com pouco mais de mil monografias para servir de base para pesquisa acadêmica. Eu queria deixar esse banco salvo para consulta imediata, porque fazer o embedding das mil a cada consulta seria impraticável. Sabe se eu consigo fazer isso com o Qdrant?
Olá, José Júnior. Desculpe a demora em responder. Sim, acredito que você pode fazer isso sim. Como foi mostrado aqui 13:48, 15:35 o Qdrant deixa armazenado nas Colecões os documentos que foram enviados. Posso fazer um video sobre isso depois
Souza, porquê é necessário usar o Qdrant antes do IA Agent e na saída do vector store? É a mesma ferramenta usada para propósitos diferentes? Dá impressão de redundância.
Olá, José Júnior. Desculpa a demora em responder. É porque eles estão em modos de operação diferentes. O primeiro antes do IA Agent está no modo Insert Documents (Inserir documentos) 5:41 e o segundo na saida do vector store está no modo de Retrieve Documents (Recuperar documentos) 19:13
Link do vídeo anterior obrigatório: th-cam.com/video/CFBV7gnW0BY/w-d-xo.html
Olá Souza, parabéns pelos vídeos do canal. Você já usou o Open Web UI em conjunto com o Ollama? Estou com um desafio de fazer embedding de 1000 monografias para disponibilizar para pesquisa acadêmica via LLM, mas não estou conseguindo bons resultados. Você pode dar-me alguma dica, como sugestão de modelo de embedding e/ou software a ser utilizado?
Olá @josejunior1853 Obrigado pelo comentário. Eu ainda não cheguei a testar com o Open Web UI, mas ele está no meu radar e eu pretendo criar um vídeo sobre ele. Durante os teste, eu pretendo avaliar se ele aguenta em embendding essa quantidade semelhante de material em conjunto com Ollama. Aí eu posto o vídeo para ver se pode te ajudar.
@@souzadevs Gostei bastante do Open Web UI porque ele oferece uma interface bem intuitiva para o usuário, muito parecido com o ChatGPT. Inclusive dá para criar modelos personalizados, bem parecido com os "GPTs".
@josejunior1853 show! Vou testar
Eu estou com um desafio de montar uma banco com pouco mais de mil monografias para servir de base para pesquisa acadêmica. Eu queria deixar esse banco salvo para consulta imediata, porque fazer o embedding das mil a cada consulta seria impraticável. Sabe se eu consigo fazer isso com o Qdrant?
Olá, José Júnior. Desculpe a demora em responder. Sim, acredito que você pode fazer isso sim. Como foi mostrado aqui 13:48, 15:35 o Qdrant deixa armazenado nas Colecões os documentos que foram enviados. Posso fazer um video sobre isso depois
Souza, porquê é necessário usar o Qdrant antes do IA Agent e na saída do vector store? É a mesma ferramenta usada para propósitos diferentes? Dá impressão de redundância.
Olá, José Júnior. Desculpa a demora em responder. É porque eles estão em modos de operação diferentes. O primeiro antes do IA Agent está no modo Insert Documents (Inserir documentos) 5:41 e o segundo na saida do vector store está no modo de Retrieve Documents (Recuperar documentos) 19:13
@@souzadevs Olá, o primeiro seria para tratar/receber o arquivo inserido no chat e o segundo para recuperar ele na base do Qdrant?