Parabéns pelo conteúdo! Cara faz um tutorial de como fazer esse tipo de fine-tuning, não tem nenhum conteúdo bom assim em português sobre esse tema, vai ser sucesso!
Muito bom! Vi que você pretende fazer um tutorial mais profundo sobre o tema. Eu já estou aguardando kkk. Se possível, deixaria como tema abordar o treinamento para atendimento de clientes (chatbot). E também como conduzir a "conversa" por um determinado fluxo, sem apenas responder aos inputs dos "clientes". 🙏🙌
Excelente vídeo, eu estou trabalhando com a OpenAI e ajuste fino, irei seguir essa dicas da entropia, clareou bem minha mente! Irei checar os códigos de automação também, este conteúdo esta de parabéns!
que conteúdo incrível!!! faz um exemplo para "traduzir textos e modificar as palavras de forma que permaneça o contexto original" - como se reescrevesse o texto de outra forma"
Ola obrigado por esse conteudo incrivel. Tenho uma duvida. Ja implementei o fine-tuning com chatgpt 3.5 turbo na empresa onde eu trabalho para criar um bot de atendimento com base no banco de dados de chat da organização. Fiz uma cosulta no banco para buscar as perguntas mais frequentes e consultei as respostas para criar uma serie de prompts e completions para gerar o jsonl para fazer o tuning. Fui questionado sobre a possibilidade da AI se auto alimentar com base nas informações da organização(database) de forma que o bot sempre ficara atualizado para interagir com os clientes, ou seja não ter esse processo manual de criar o arquivo jsonl manualmente para treinar o modelo. Não achei nada na documentacao do fine tuning sobre isso. Tem alguma forma de implementar isso ou algum recurso disponivel na openai?
Primeiramente, parabéns pelo conteúdo de belíssima qualidade. A dúvida que tenho é se após criar um fine-tuning, é possível adicionar dados no mesmo arquivo ou é necessário criar outro fine-tuning? Resumindo, consigo adicionar dados em um fine-tuning existente?
@@rodrigobraunworst1671 Qualquer adição feita na base anterior vai ser gerado um novo modelo fine-tuning com todos os dados. Ou seja você precisa adicionar os dados complementares na base existente. No exemplo dos emails, onde eu treinei uma versão com 100 exemplos, para aumentar para 400 exemplos eu precisei adicionar 300 novos no json totalizando os 400 desejados. Então ao enviar para openai uma nova versão foi gerada. (Nesse caso eu usaria a última versão atualizada do meu fine-tuning).
@@rodrigobraunworst1671 UPDATE: agora é possível adicionar mais exemplos continuando um fine-tuning existente 😀platform.openai.com/docs/guides/fine-tuning/continue-fine-tuning-from-a-fine-tuned-model
Show de bola Daniel! Parabéns pelo conteúdo, eu estou a procura de treinar um modelo para entender por completo um aplicativo que tenho, para que sirva como auxiliar na criação de artigos de tutoriais e talvez até mesmo como atendente. No entanto não tenho encontrado bons exemplos de como fazer isso com o GPT-3, pode me indicar algo ou me ajudar com isso?
Estou pensando em fazer algo mais detalhado sobre isso. No estilo tutorial, explorando o fine-tuning =) O que fiz até agora foi explorando a documentação. Não encontrei muitos exemplos.
@AJ Castello Branco, de um mês para cá, você conseguiu avançar na sua pesquisa? estou à procura de algo semelhante ao seu. Mas eu gostaria de treinar o GPT-3 para conhecer o universo de um livro que estou criando... Mas como você disse no seu comentaria, está difícil de encontrar conteúdo sobre na internet.
Você apareceu como um salvador! Eu tava precisando justamente disso, estou desenvolvendo um projeto (pro TCC) que visa integrar a API do chatgpt numa interface onde pode ser usada nas escolas, e a minha dúvida era justamente essa: Posso treinar a API deles pra o meu projeto? e vi que sim, e no caso essa versão treinada também fica salva certo? Você poderia sugerir algum curso ou artigo que fale mais disso? Queria treinar ela pra esse propósito específico e deixar salva pq meu medo era que ela ficasse apenas localmente ou nao fosse possível personalizar a api para o meu motivo. Ótimo vídeo ❤❤
Valeu pelo feedback! Bem sobre o processo de fine-tuning, no caso da Openai a versão "treinada" fica salva e disponível para ser consumida por meio da api deles. Porém o acesso é restrito a conta utilizada para fine-tuning. Sobre material/curso eu não estou sabendo de nenhum disponível, tudo que vi foi na documentação da própria Openai.
Fiz usando o código que vc disponibilizou no github, ele envia tudo certo, porém o modelo ainda não apareceu no playground, ele demora algum tempo ou é na hora?
No caso do exemplo que mostrei não. O processo de fine-tuning foi inteiramente feito pela api da openai. Os frameworks só fazem sentido com acesso ao código usado para treinar o modelo.
Você já ativou o billing da sua conta com um cartão de crédito para usar esses recursos da API ou ainda está utilizando o crédito de $18 que eles liberam ?
@@daniel_romero Sim, eu já ativei a conta com o cartão de crédito, mas ainda está utilizando o crédito de $18 dolares, eu consegui fazer o upload do arquivo .jsonl, no entando, não consigo fazer o treinamento. recebi o arquivo file-... mas ao tentar realizar o treinamento do arquivo upado, ele retorna: Incorrect API key provided: sua_chav********enai.
A verdade é que ninguém sabe 😂 Quando utilizamos o chatgpt o que é inserido no chat parece passar por um processo e depois é incorporado na "base geral". No fine-tuning acho que por ser um processo diferente, acho que deve ficar isolado. Isso de incorporar os dados deu problema com a Samsung: www.eenewseurope.com/en/chatgpt-leaking-samsung-chip-secrets-is-icebergs-tip/
@@daniel_romero dei uma lida nos termos de uso da openai e entendi o seguinte: Tudo que for enviado/recebido diretamente pela API não será usado para melhorar os modelos do chatgpt. Já o que for escrito pelo site que é onde a maioria vai já que é de graça, vai ser usado para melhoria. É possível preencher um formulário para ceder as informações usadas pela API para melhorar o chatgpt como tbm é possível preencher outro formulário para que o que for falado no site não seja incorporado a base deles.
Se você fez o finetuning na openai e o modelo está disponível na sua conta, a resposta é sim. Você pode consumir o seu modelo refinado pela API da openai.
Daniel, muito linda a sua aula! Parabéns!!!!
Parabéns pelo conteúdo! Cara faz um tutorial de como fazer esse tipo de fine-tuning, não tem nenhum conteúdo bom assim em português sobre esse tema, vai ser sucesso!
Anotado =)
Parabéns, continue com mais conteúdos assim, muito bom.
MDS que conteudo bom cara, simples, objetivo e entrega tudo o que promete, merecia ter mais visualizações!
Valeu =)
Muito bom! Vi que você pretende fazer um tutorial mais profundo sobre o tema. Eu já estou aguardando kkk. Se possível, deixaria como tema abordar o treinamento para atendimento de clientes (chatbot). E também como conduzir a "conversa" por um determinado fluxo, sem apenas responder aos inputs dos "clientes". 🙏🙌
Como esse cara só tem 726 inscritos?
conteúdo de qualidade, parabéns!!
Obrigado por esse feedback! =)
Excelente vídeo, eu estou trabalhando com a OpenAI e ajuste fino, irei seguir essa dicas da entropia, clareou bem minha mente! Irei checar os códigos de automação também, este conteúdo esta de parabéns!
parabens, muito bem explicado e vou usar isso para alguns projetos q tenho. vlw pela explicação sobre o fine-tuning
Amigo, ótimo conteúdo! Parabéns! Muito obrigado por compartilhar o conhecimento !
Valeu pelo feedback!
conteúdo maravilhoso!
Caraio mano, cara é um monstro! Obrigado
Muito bom o conteúdo, vou começar a acompanhar o canal.
Show, excelente conteúdo! Parabéns!
que conteúdo incrível!!!
faz um exemplo para "traduzir textos e modificar as palavras de forma que permaneça o contexto original" - como se reescrevesse o texto de outra forma"
Ola obrigado por esse conteudo incrivel. Tenho uma duvida. Ja implementei o fine-tuning com chatgpt 3.5 turbo na empresa onde eu trabalho para criar um bot de atendimento com base no banco de dados de chat da organização. Fiz uma cosulta no banco para buscar as perguntas mais frequentes e consultei as respostas para criar uma serie de prompts e completions para gerar o jsonl para fazer o tuning. Fui questionado sobre a possibilidade da AI se auto alimentar com base nas informações da organização(database) de forma que o bot sempre ficara atualizado para interagir com os clientes, ou seja não ter esse processo manual de criar o arquivo jsonl manualmente para treinar o modelo. Não achei nada na documentacao do fine tuning sobre isso. Tem alguma forma de implementar isso ou algum recurso disponivel na openai?
Excelente pergunta! Nesse caso eu não utilizaria fine-tuning, em vez disso usaria RAG. No último vídeo que postei é sobre isso =)
Belo conteudo Daniel, 👍
Aqui é o Alex da epoca dos clans do Orkut M.E.T, B.H.T etc.
Valeu!!
Muito bom. Excelente conteúdo man! Parabénss.
Obrigado!!
Excelente conteúdo Daniel!!
como esse cara só tem 700 inscritos?
Primeiramente, parabéns pelo conteúdo de belíssima qualidade. A dúvida que tenho é se após criar um fine-tuning, é possível adicionar dados no mesmo arquivo ou é necessário criar outro fine-tuning? Resumindo, consigo adicionar dados em um fine-tuning existente?
Sempre que adicionar mais instruções um novo "modelo" fine-tuning vai ser criado.
@@daniel_romero entendi, mas aí qual modelo que devo selecionar no playground, o antigo (com mais dados) ou o novo(com os dados adicionais)?
@@rodrigobraunworst1671 Qualquer adição feita na base anterior vai ser gerado um novo modelo fine-tuning com todos os dados. Ou seja você precisa adicionar os dados complementares na base existente. No exemplo dos emails, onde eu treinei uma versão com 100 exemplos, para aumentar para 400 exemplos eu precisei adicionar 300 novos no json totalizando os 400 desejados. Então ao enviar para openai uma nova versão foi gerada. (Nesse caso eu usaria a última versão atualizada do meu fine-tuning).
@@daniel_romero perfeito, obrigado pela explicação!
@@rodrigobraunworst1671 UPDATE: agora é possível adicionar mais exemplos continuando um fine-tuning existente 😀platform.openai.com/docs/guides/fine-tuning/continue-fine-tuning-from-a-fine-tuned-model
valeu pelo conteúdo, muito bom 😄
Conteúdo mto sucinto! Gostei Daniel!
Valeu!!
Obrigado por compartilhar!
Muito bom 👏🏻 conseguiria liberar o repositório para usarmos?
Valeu! O link está na descrição do vídeo =)
Show de bola Daniel! Parabéns pelo conteúdo, eu estou a procura de treinar um modelo para entender por completo um aplicativo que tenho, para que sirva como auxiliar na criação de artigos de tutoriais e talvez até mesmo como atendente. No entanto não tenho encontrado bons exemplos de como fazer isso com o GPT-3, pode me indicar algo ou me ajudar com isso?
Estou pensando em fazer algo mais detalhado sobre isso. No estilo tutorial, explorando o fine-tuning =)
O que fiz até agora foi explorando a documentação. Não encontrei muitos exemplos.
@AJ Castello Branco, de um mês para cá, você conseguiu avançar na sua pesquisa? estou à procura de algo semelhante ao seu. Mas eu gostaria de treinar o GPT-3 para conhecer o universo de um livro que estou criando... Mas como você disse no seu comentaria, está difícil de encontrar conteúdo sobre na internet.
@@BaDHamisteR Não creio que fine-tuning possa ajudar nessa tarefa. Nesse caso uma memória de longo prazo adaptada ao modelo faria mais sentido.
@@BaDHamisteR yep, vídeo novo no forno 😂
@@daniel_romero Muito obrigado pelo comentário. Vou procurar alguma coisa enquanto aguardo ansiosamente um vídeo seu sobre o assunto.
Daniel, uma dúvida, como eu obtenho o UUID?
Eu gerei por aqui: www.uuidgenerator.net/version4
Você apareceu como um salvador! Eu tava precisando justamente disso, estou desenvolvendo um projeto (pro TCC) que visa integrar a API do chatgpt numa interface onde pode ser usada nas escolas, e a minha dúvida era justamente essa: Posso treinar a API deles pra o meu projeto? e vi que sim, e no caso essa versão treinada também fica salva certo? Você poderia sugerir algum curso ou artigo que fale mais disso? Queria treinar ela pra esse propósito específico e deixar salva pq meu medo era que ela ficasse apenas localmente ou nao fosse possível personalizar a api para o meu motivo. Ótimo vídeo ❤❤
Valeu pelo feedback! Bem sobre o processo de fine-tuning, no caso da Openai a versão "treinada" fica salva e disponível para ser consumida por meio da api deles. Porém o acesso é restrito a conta utilizada para fine-tuning. Sobre material/curso eu não estou sabendo de nenhum disponível, tudo que vi foi na documentação da própria Openai.
Fiz usando o código que vc disponibilizou no github, ele envia tudo certo, porém o modelo ainda não apareceu no playground, ele demora algum tempo ou é na hora?
Demora um tempo, dependendo da quantidade de dados pode levar até horas.
@@daniel_romero Obrigado, demorou mas apareceu hehe
conteúdo foda!
Mas não é necessário algum framework de treinamento capaz de executar o processo de fine-tuning do modelo?
Como TensorFlow, PyTorch e Hugging Face.
No caso do exemplo que mostrei não. O processo de fine-tuning foi inteiramente feito pela api da openai. Os frameworks só fazem sentido com acesso ao código usado para treinar o modelo.
@@daniel_romero Como assim acesso ao código usado?
O código da openai?
@@tpThiago Isso, ou se você estiver em uma jornada construindo um modelo próprio do zero.
Daniel, no meu playground, não aparece o modelo que eu treinei usando o seu código python, você consegue me dar uma luz? obrigadão
Você já ativou o billing da sua conta com um cartão de crédito para usar esses recursos da API ou ainda está utilizando o crédito de $18 que eles liberam ?
@@daniel_romero Sim, eu já ativei a conta com o cartão de crédito, mas ainda está utilizando o crédito de $18 dolares, eu consegui fazer o upload do arquivo .jsonl, no entando, não consigo fazer o treinamento. recebi o arquivo file-... mas ao tentar realizar o treinamento do arquivo upado, ele retorna: Incorrect API key provided: sua_chav********enai.
@@oOvilanderOo eu tenho um server no discord, me pinga por lá discord.gg/nBvw9haBfq
Posso subir PDF para meu especialista?
Não entendi bem.
Depois de treinar o modelo, ele fica salvo e gera um endpoint ? como funciona ?
Fica salvo e você consegue consumir esse modelo pela API da OpenAI =)
os dados que utilizei no meu modelo ficam protegidos ou eles são incorporados a base geral do chat gpt?
A verdade é que ninguém sabe 😂
Quando utilizamos o chatgpt o que é inserido no chat parece passar por um processo e depois é incorporado na "base geral".
No fine-tuning acho que por ser um processo diferente, acho que deve ficar isolado.
Isso de incorporar os dados deu problema com a Samsung: www.eenewseurope.com/en/chatgpt-leaking-samsung-chip-secrets-is-icebergs-tip/
@@daniel_romero dei uma lida nos termos de uso da openai e entendi o seguinte:
Tudo que for enviado/recebido diretamente pela API não será usado para melhorar os modelos do chatgpt.
Já o que for escrito pelo site que é onde a maioria vai já que é de graça, vai ser usado para melhoria.
É possível preencher um formulário para ceder as informações usadas pela API para melhorar o chatgpt como tbm é possível preencher outro formulário para que o que for falado no site não seja incorporado a base deles.
é possivel treinar o modelo de chat GPT-3.5-turbo?
Ainda não. O fine-tuning para esse modelo ainda não foi liberado.
@@daniel_romero e eu li a respeito. mas estou aguardando ancioso =D
Tem como usar o meu novo modelo treinado como uma API?
Se você fez o finetuning na openai e o modelo está disponível na sua conta, a resposta é sim. Você pode consumir o seu modelo refinado pela API da openai.