Como fazer Finetuning no ChatGPT com seus dados: Guia Passo a Passo com Python, OpenAI e ManyChat

🔥 Bem-vindo(a) a um dos vídeos mais avançados do canal! 🔥
Hoje, vamos mergulhar profundamente na ciência dos chatbots e explorar como fazer finetuning no ChatGPT com seus próprios dados. 🛠️🤖
👉ATENÇÃO: Este modelo foi atualizado! Veja o passo a passo da forma atualizada: • Tutorial 2024 ChatGPT ...
🎯 Neste Vídeo, Você Aprenderá:
👉 Finetuning do ChatGPT: o que é e por que fazer.
👉 Pré-requisitos essenciais para começar.
👉Um guia passo a passo para finetuning, desde o dataset até a integração com o ManyChat ou outros softwares!
👉 Requisitos
Chave API da OpenAI 🗝️
Python 🐍
Acesso à Documentação da OpenAI 📚
Planilha de Dados 📊
(Opcional, mas recomendado) VSCode 💻
👇 Tá com pressa? Vai direto onde precisa:
0:00 introdução
1:11 Pra que serve o Fine Tuning
2:14 Requisitos
3:40 Acessando a documentação necessária
4:17 Instalar Python
4:45 Instalar biblioteca OpenAI
5:55 Estrutura dos dados do treinamento
7:25 Ferramentas da OpenAI
8:23 Criar a planilha de prompts e completions
9:35 Exemplo com documentação de CRM
10:40 Prompt criador de faqs
12:35 Preenchendo a planilha com chatGPT
15:35 Converter a planilha para a OpenAi
16:22 Pandas e demais bibliotecas
18:35 Criando o modelo a partir das ferramentas
19:12 Incluindo a chave de API da OpenAI
21:00 Subindo o modelo e recebendo a fila
22:05 Testando o modelo no Playground
24:24 Testando o modelo na API com Insomnia
25:30 A chamada para a API da OpenAI
26:28 Consumindo a API com um Chatbot de WhatsApp
28:15 Testando pelo WhatsApp
28:50 Próximos passos e melhoria do modelo
---------------------------------------------------------------------------------------
👉Integrando ChatGPT no WhatsApp: • Tutorial ChatGPT no Wh...
👉Integrando ChatGPT no Instagram: • Tutorial ChatGPT no In...
👉Verificando a BM e Número no Whats: • Tutorial verificação d...
👉Explore mais sobre ManyChat: crowcreative.com.br/manychat
👉Conheça o CuboCRM: crowcreative.com.br/cubocrm
👉Dê suporte ao canal: crowcreative.com.br/agendawpp
🎓 Nível de Dificuldade
Este é um vídeo avançado que envolve programação. Se você é novo aqui, não se preocupe! Você pode pegar o ritmo assistindo nossos vídeos anteriores, que abordam temas do básico ao intermediário.
👋 Não Fique de Fora!
Se você quer ser o primeiro a saber quando lançarmos novos vídeos e recursos, não esqueça de se inscrever no canal, ativar o sininho de notificações, e dar um like se você aprendeu algo novo! 🛎️👍
🚀 Está pronto para elevar o nível dos seus chatbots? Então, vamos lá! 🚀
#ChatGPT #OpenAI #Finetuning #ManyChat #InteligênciaArtificial #IgorCrow

[@igorcrow]

👉ATENÇÃO: Este modelo foi atualizado! Veja o passo a passo da forma atualizada > kzbin.info/www/bejne/mnaqkICtaLyEZ5Y 📌 Acesse a minha agenda de mentorias: crowcreative.com.br/agendawpp

[@iconevc]

rapaz só não achei na documentação a linha de comando para instalação pip install

[@nickless1100]

Tem algo falando sobre como utilizar após externas para fazer um cadastro em outra ferramenta por exemplo ?

[@thebestdjneguinho]

Igor faz um video integrando o Manychat com pagamento de reconhecimento automático tipo o Efi API

[@igorcrow]

Boaa! A ideia é massa! Se a galera curtir bem esse comentário eu trago sim! 🤩

[@thebestdjneguinho]

@@igorcrow Ia ajudar demais, não existe nenhuma informação clara, é sempre muito dificil. Seu canal é muito bom e seu jeito de ensinar é muito fácil de aprender.

[@Hipsurf]

Ajudaria bastante

[@webrendaextra]

@@igorcrow Pow ia ser revolucionário mano

[@mvmg70]

ISSO NÃO É CONTEÚDO!!! É UMA OBRA DE ARTE IGOR!!!

[@igorcrow]

Muito obrigado Marcus! 🤩

[@henriquesergio9217]

Top Igor, obrigado.

[@bruribeiro3786]

Excelente vídeo 👏

[@r0gn0g]

Excelente explicação, agilizou demais; obrigado

[@andersonmoreira5835]

Sensacional a entrega 👏🏻👏🏻👏🏻

[@igorcrow]

Valeeu Anderson!! 🤩🤩🤩

[@rafaellima8967]

Top demais! Conteúdo de extremo valor 👏👏👏

[@igorcrow]

Valeeeu Rafa! 🤩

[@elieserribeiro8125]

Muito bom...parabéns!!!

[@igorcrow]

Valeeu Elieser 🤩

[@adoniasmouracabral3732]

Sensacional... Gratidão irmão!!!

[@igorcrow]

Gratidão irmão 🙏🏻

[@guilhermeleite3665]

Valeu!

[@igorcrow]

Valeeeu Guilherme! Obrigado por apoiar o canal!

[@nathanroyaledemais5675]

Vaaaaaaleu! Que vídeo foda! Eu estava procurando um desses a tempo, inclusive iria te mandar mensagem para saber sobre isso

[@igorcrow]

Booa Nathan! Depois conta pra gente se conseguiu fazer seu modelo! Qualquer dúvida manda aqui tb! Vamos juntos 😉

[@DiogoReis2201]

Brabo!

[@igorcrow]

Obriago Diogo! Que bom que gostou 🤩

[@muelekedoido226]

Boa irmão, uma baita aula!

[@igorcrow]

Espero ter ajudado! Valeu irmão!

[@rochamg]

Parabéns pelo conteúdo e riqueza de informações. O vídeo ficou TOP demais! Show!!!

[@igorcrow]

Muito obrigado irmão!

[@caio.ledesma]

Belo trabalho cara, obrigado pelo conteúdo! 👏👏👏👏

[@igorcrow]

Eu que agradeço irmão! 😃

[@ajjmoura]

Excelente conteúdo, parabéns e muito obrigado

[@igorcrow]

Eu que agradeço! 🤩

[@wagnerlima8827]

Fantástico!!!

[@igorcrow]

Obrigado Wagner!

[@samuelsaar1751]

Top demais!!

[@igorcrow]

Valeu Samuel!

[@georgeallan8033]

Didática excelente com conteúdo top. Muito obrigado por compartilhar com a gente Igor, vc manda MUITO bem.

[@igorcrow]

Eu que agradeço 🤩🙏🏻

[@alexandrebaccarin936]

Parabéns, muito bem explicado

[@igorcrow]

Muito obrigado Alexandre!

Valeu, me fez economizar um tempão!

[@igorcrow]

Que bom Matheus! Volte sempre que precisar!

[@rodrigoocazim]

👏👏👏👏

[@igorcrow]

Valeu Rodrigo! 😉

[@JosueSilva7]

Irmão, que didática incrível. Ganhou +1 inscrito!

[@igorcrow]

Muito obrigado 🙌

[@grobencio]

Cara, dificilmente comento algo aqui no youtube, mas seu vídeo merece. Ia falar que você ganhou um seguidor mas na verdade quem ganhou fui eu com esse conteudo top e gratuito. Estava procurando exatamente o que você passou nessa aula, parece que foi feito pra mim rsrs. Tenho um e-commerce e algum conhecimento básico no python, inclusive utilizo o vscode como interpretador, então realmente parece que foi feito pra mim rsrs mas imagino que muitas pessoas também estão procurando como automatizar o suporte sem perder o lado humano do atendimento e com certeza também vão aprender bastante. Parabéns pelo conteúdo e obrigado pela aula, vou maratonar seus videos e treinar meu chatbot.

[@igorcrow]

Que isso irmão! Muito obrigado pelo feedback! São depoimentos como esse que dão gás pra fazer cada vez mais 😍

[@AliceSilva-gj4cx]

que conteúdo precioso!!! vai me ajudar demais no estágio

[@igorcrow]

Que bom que ajudou Alice! Seja sempre bem vinda!

[@andretorres6497]

Realmente o melhor conteúdo sobre o tema da internet .... muito melhor inclussive que de outros paises. PARABÉNS!!

[@igorcrow]

Que honra! Valeu Andre!

[@victorbenevides]

Sensacional. Caramba, poucas pessoas conseguem falar algo tão complexo de forma tão simples. Parabéns meu amigo, muito obrigado!!

[@igorcrow]

Muito obrigado Victor! 🤩

[@PRColacino]

Muito bom! Poderia compartilhar o código para facilitar a prática de quem assiste ;) obrigado

[@kaun8045]

Olá, Igor! Muito obrigado pelo grande conteúdo, sou estudante de ensino médio, e junto do meu grupo estou fazendo um projeto com o intuito de simplificar questões de provas, através da IA( o processo de fine tuning nesse caso). Ainda estamos bem ansiosos e com muitas dúvidas sobre como vamos desenvolver isso, mas com o seu vídeo conseguimos ter uma boa base. Queria saber se poderíamos ter algum tipo de contato, pois tenho dúvidas sobre preço tanto de API, quanto dos tokens. Além de outras perguntas que tenho. Queria saber se você acredita que seja possível treinar essa AI para "reescrever" dados ou se teria outras dicas para nós, já iniciamos o banco de dados com aproximadamente 100 questões normais e questões como trocas de palavras para uma linguagem simples. Qualquer dica que tiver, já ajuda! Incrível vídeo, obrigado pela ajuda!!

[@joseduardoamorim]

Cara, só... Uau! Botei no 2x e foi overdose de conteúdo. Fácil fácil isso é conteúdo pago.

[@igorcrow]

Valeeu Jose!

[@guduoliveira]

Igor, primeiramente parabéns pelos conteúdos que são completos, super didáticos e úteis. Fiz o processo de Finetuning e deu tudo certo, porém me esbarrei com o problema de quantidade de tokens na hora de integrar ao meu APP. Acredito que com o 3.5 turbo isso se resolva, porém não consegui fazer o Finetuning em cima desse modelo. Salva a gente!!! hahaha

[@igorcrow]

Valeu irmão! O 3.5 tem um novo processo diferente desse, vou trazer em breve aqui no canal!

[@guduoliveira]

Muito bom maninho. Estou acompanhando!! @@igorcrow

[@coldd.oliver3888]

Fiz aqui aparentemente deu tudo certo. fica a dica pra quem passou pelo mesmo problema que eu. como eu fiz no Annaconda prompt a sintaxe mostrada de atribuir variavel de ambiente não deu certo Mas aí coloquei assim que seria no powershell: setx OPENAI_API_KEY "sua key" e deu certo, acredito que é Annaconda usa o powershell como base mas não tenho certeza

[@AliceSilva-gj4cx]

oiii, será que você pode me ajudar??? não estou conseguindo de jeito nenhum

[@igorcrow]

Boa amigo! Setar a variável no próprio sistema é uma ótima solução, mesmo fora do Annaconda!

[@wfazzioni]

Primeiramente, parabéns pelo video Igor. Uma dúvida, existe limite de tokens para fazer o treinamento no finetuning?

[@josebeniciodesousa4579]

Beleza! Entendi essa coisa de treinar um botGPT. Bem demorado, acho q vou levar mais de um ano pra treinar um agentGPT com os meus dados -- oimportante é q estou animado.

[@igorcrow]

Consegue sim! Agora você consegue subir as documentações pelo proprio platform.openai.com, ficou bem mais fácil e nem precisa de Python ou linha de CMD se você formatar os documentos na mão mesmo!

[@HelberLomar]

Igor, maravilhoso como sempre, acompanhando e aprendendo tudo no seu canal. Uma dúvida, posso mesclar o Finetunning com chatGPT nas respostas? digo, em uma etapa do processo de atendimento no MannyChat ele pode virar a chave e começar a responder com a base de dados do Chat4 por exemplo ? Obrigado.

[@igorcrow]

Muito obrigado Helber! Na verdade, com a nova API de Assistants lançada no fim de novembro você já tem o melhor dos dois mundos.... você pode treinar seu modelo com arquivos como o finetuning desse vídeo, e também consumir o gpt 4 com apenas 1 api! Ficou muito mais fácil e barato de operar, tem um vídeo aqui no canal falando sobre ela!

[@gabrielagimenez4285]

oi, tudo bem? Muito bom o seu vídeo, estava funcionando até dezembro quando eu tentei e fui seguindo o seu passo a passo, mas você viu que a openai mudou toda a forma de fazer o finetuning? mudou inclusive o formato que antes era prompt e completion, agora, para os novos modelos, e melhores, existe um outro formato... seria muito massa se pudesse fazer um upgrade esse video para a versão atual da api! :> de qualquer modo, muito bom seus conteudos!

[@igorcrow]

Muito obrigado Gabriela! Com certeza! Já estou em processo de criação, mas ainda é bem complexa (principalmente para ensinar de forma "rápida" pelo youtube 😂), mas a nova api de assistants, (lançada em novembro de 23) já cobre exatamente essa funcionalidade de criação de contexto a partir de arquivos, e muito mais, de forma bem mais facilitada, com memória e mais barata que o finetuning, então se tiver interesse dá uma olhada no vídeo de assistants aqui do canal que com certeza você vai gostar! 😉

[@shimabuko100]

@@igorcrow Salve, Igor! Estou utilizando o novo modelo do Assistants mas me deparei com alguns problemas. Atualmente estamos utilizando a API dos assistants para um chatbot de atendimento. E o retrieval funciona bem, porém aumenta muito o tempo de resposta do bot e também em larga escala, dobra os custos das requisições. Por isso, ainda tenho interesse no fine-tuning no novo modelo! Cheguei a testar um fine-tuning mas não cheguei perto da entrega do contexto via arquivo. Queria Saber se estou fazendo algo errado kkk Estou ansioso para esse novo vídeo!

[@ID0ntSl33p]

tem empresa fazendo isso dai + front bonitinho e pedindo contrado de 1M+ kkkkkkkkkkkkkkkk brabo demais

[@igorcrow]

Ahahhaha realmente! As novas APIs da OpenAI abriram um grande universo de possibilidades de monetizaçao!

[@ina_3341]

Vídeo INCRÍVEL, mas eu tenho uma dúvida. Caso euq euria o treinar pra conversão de texto, a parte dos prompts devem ser feitas em forma de pergunta? Por exemplo, o chat deve reescrever um texto, ent na planilha prompt eu coloco o texto normal e na parte da respsta ele reescrito?

[@igorcrow]

Valeeeeu! Na verdade pense em Prompt e completion como "pergunta" e "resposta" ou "instrução" e "ação" entende? No primeiro o que você quer que ele faça/responda no segundo a ação/resposta esperada mesmo...

[@viscink794]

cara que conteúdo foda, no finalzinho apareceu um error pra mim o tristesa... se caso tiver como da um mini suport rsrs 21:00 deu um error aqui , da um salve ai Igor ( usage: openai api [-h] )

[@mateusedesio3774]

O meu também, você conseguiu resolver?

[@igorcrow]

Amigos, este método foi substituído a alguns meses, está no comentário fixado, dá uma olhada que anova versão é mais fácil ainda de fazer e já tem memória incluída! kzbin.info/www/bejne/mnaqkICtaLyEZ5Y

[@CesarTejon]

Parabéns novamente pelo excelente vídeo! Fiquei apenas com uma dúvida, eu posso subir uma planilha inicial e depois vir atualizando com novas linhas? Como funcionaria este processo, devo subir a mesma planilha acrescentando as linhas ou subo apenas as novas perguntas?

[@igorcrow]

Valeu Cesar! Você pode subir os novos dados e atualizar o modelo usando outros comandos da CLI da OpenAi, ou treinar um novo modelo com a nova base de dados atualizada, repetindo os passos do vídeo 😉

[@TheMarcos1807]

CARA VC É O MALUCO MAIS GOSTOSO QUE EXISTE!!! CONTINUA FAZENDO VÍDEOS!!! INCRÍVEL

[@igorcrow]

Hahahahah GOSTOSO É LER UM COMENTÁRIO DESSE!🤣 Obrigado amigo! Seja sempre bem vindo 🤩

[@davi.ribeirodr]

No dia 22 de agosto a OpenAI liberou o fine tuning para GPT-3.5 Turbo, a documentação contém instruções diferentes das q voocê ensinou no vídeo, pois aí vc ensinou a fazer fine tuning para as versões davinci, curie, babbage, e ada. Seria interessante se vc fizesse um vídeo ensinando nesse novo formato

[@igorcrow]

Booa Davi! Bem pontuado, a OpenAI liberou o 3.5 no mesmo dia do vídeo 😂 Com certeza vou trazer o passo a passo para o 3.5 também! Pelo que li na doc ficou mais fácil ainda 🤩

[@comunidade.conectados]

​@@igorcrow Seria ótimo. Já me inscrevi e espero que esse tutorial venha logo, com a mesma qualidade deste aqui. Parabéns, ficou top!

[@LATVOFICIAL]

Também quero ver esse vídeo do Funetuning para o 3.5Turbo

[@NokaVip]

atualize seu código e mude o modelo engine para gpt-3-turbo veja a documentação openai das novas funções 👍

[@Alex.Figueiras]

Genial seu conteúdo Igor! Estou aprendendo muito. Para o novo modelo de integração com o Manychat, qual a forma de chamar o modelo de finetunning? O Manychat precisa de atualização? No caso, será que só por POST? Obrigado.

[@igorcrow]

Valeeu Alex! Atualmente a integração nativa do ManyChat não aceita os modelos de fine tuning ou assitant, mas dá pra fazer nas requisições exatamente iguais as do vídeo mas com ps novos parâmetros. Além disso a openai lançou mês passado a API de assistants que é superior ao fine tuning e mais fácil ainda de operar. Está em outro vídeo aqui do canal 😉

Excelente tutorial, já me inscrevi no teu canal. Queria saber se posso aplicar a mesma ideia para gerar um documento ou texto num formato padrão, a partir de um curriculo por exemplo, sendo que esse documento gerado deve detalhar cada item do curriculo do candidato. É possível? obg desde já!

[@igorcrow]

É possível usando o code interpreter do ChatGPT de interface da OpenAI, mas não seria pela API nem com fine tuning como aborde nesse vídeo. Para usar, processar ou enviar documentos você precisaria criar uma API para gerar os docs com as informações que o ChatGPT te devolver 😉

[@XavierLouco]

Seus vídeos são muito bem feitos e de excelente qualidade. Estou com um problema apenas, após o finetuning pronto, como enviar um system. tipo assim. Como você explicar para ele como se portar em relação às respostas? pois a api do chat que da pra enviar o system nao aceita o modelo do finetune e na api da completions nao da pra passar a funcao do system.

[@igorcrow]

Valeu Allen! Pra usar o system não dá com FineTuning, mas a OpenAi lancou semana passada a API de assistants que pode substituir esse prpcesso de FineTuning antigo e ainda tem memória nos bots! É o próximo vídeo que vou lançar aqui no canal 😉

[@webrendaextra]

Dae @igorcrow! Qual é a forma mais efetiva para criar os agentes? Pelo Python e configurando os Finetuning ou pela função nativa de Assistentes?

[@igorcrow]

Pela função de assitants! Falo detalhadamente em kzbin.info/www/bejne/mnaqkICtaLyEZ5Y

[@alexmota4692]

Fala Igor muito legal o seu conteúdo, mas gostaria que me esclarecesse uma dúvida, você treinou o ChatGTP usando uma planilha, essa é uma das maneiras, certo? Eu já vi também, que podemos usar um arquivo texto ao invés de planilhas, gostaria que comentasse sobre os dois métodos. E se puder ainda falar sobre uma nova feature do ChatGTP (ver 4), onde você já pode treinar diretamente o seu ChatGTP, sobre um determinado assunto, sem precisar de programação, ou seja, basta subir um arquivo de texto. Te agradeço!!!

[@igorcrow]

Vakeu Alex! Sim, esta forma do vídeo é uma das que existem, depois do vídeo foram lançados o FineTuning 3.5 e recentemente a API de assistants que facilita mais ainda o processo de treinamento de modelos e é o próximo vídeo que vou lançar aqui no canal! Fica ligado que vou ensinar o passo a passo dessa nova feature 😉

[@xyzcesar]

Bom dia. Existe um limite de tamanho para a planilha que será utilizada? Igor, grato pelo seu vídeo!

[@igorcrow]

Existem, são absurdamente altos, e crescem a cada novo modelo. Por exemplo, há modelos que aceitam até 120k tokens, que se aproximam de 400MIL caracteres 😉 dependendo de quando você tá lendo isso pode ter aumentado mais ainda

[@alexanderbtg]

Fala Igor, muito obrigado por esse conteúdo de extremo valor, porém fiquei com uma dúvida, essa base que nós criamos na planilha é possível ser atualizada de tempos em tempos, conforme novas dúvidas fossem aparecendo? e como ficaria isso na hora de subir para Openai? Teria que pagar tudo novamente? Você poderia ensinar como atualizar? Forte Abraço, e Obrigado.

[@igorcrow]

Fala Alex! Obrigado pelo feedback! É possível sim, voce consegue tanto subir a planilha novamente quanto criar uma nova versão dela com a nova entrada. É feito pela API também e custa o mesmo que treinar o modelo novamente. Não é viável fazer muitas alterações seguidas e sim menos atualizações com mais conteúdo entende? No lugar de acada nova pergunta, uma vez por semana ou mês atualizar a planilha com todas as perguntas daquele período de uma vez 😉

[@ademargr]

Igor, boa noite. Parabéns pelo conteúdo. Mas o que de fato muda para assistant/custom GPTs que você pode fornecer uma base de conhecimento ou chamar via action?

[@carlosalbertotorellimarque9226]

to com essa dúvida tambem, qual a diferença entre treinar o assistant e o fine tunning

[@ademargr]

@@carlosalbertotorellimarque9226 na verdade tenho entendido que o finetunning ele serve pra já ter em "memória" os itens, a base de conhecimento ele vai buscar quando falta algo. Entretanto se souber fazer o prompt talvez seja muito melhor pra N situações o retrieval. Mas ele tem limitação em uma quantidade enorme de dados e então o melhor poderia ser de fato treinar. Vamos aguardar o Igor responder mas tenho essa visão

[@igorcrow]

Boa discussão galera! A maior vantagem do Assistants é o fato de ele ter a memória da conversa, então a comunicação fica muito mais fluida. A segunda vantagem é a facilidade, pois você não precisa baixar e rodar uma biblioteca em python na sua máquina para converter os arquivos de treinamento, apenas fazer um upload direto pro Assistants. Sinceramente vendo o salto evolutivo da api de completions/FineTuning para a API de assistants, eu creio que a própria openai está fazendo esse movimento de substituição de uma pela outra. 😉

[@ademargr]

​@@igorcrow bacana! Então minha compreensão estava correta... Acredito que a chegada dos embeddings chegam pra reforçar ainda mais isso tudo...

[@luigitoniolo1719]

Parabéns pelo conteúdo Igor! Muito interessante. Eu fiquei com uma dúvida apenas... depois de fazer o fine tuning com todas as possíveis perguntas e respostas, o que acontece se o usuário enviar uma pergunta parecida com a que você colocou no prompt? Como por exemplo: Ao invés de digitar "O que é Cubo suite?" digitar "Gostaria de saber o que é o cubo suite". Ele vai entender normalmente da mesma forma dos modelos padrões ou fica muito restrido a exatamente o conteúdo que está no prompt?

[@igorcrow]

Valeu Luigi! Ele consegue ler variações sim, inclusive essa é a maior vantagem das LLMs como o ChatGPT, elas entendem o contexto e preenchem as conversas com as respostas com maior probabilidade de estarem certas de acordo com o modelo de treinamento. Quanto mais dados você enviar, mais dinâmico ele fica 😉

[@ruisantos9535]

Era bom fazer um de sentimentos

[@igorcrow]

Análise de sentimentos com ChatGPT ainda sai mais caro do que ferramentas específicas para isso, até é possível, mas mercadologicamente não compensa

[@MateusSilvamateusivp]

Tem algum video igual esse que fala sobre memória do chatgpt? para que ele armazene a conversa de cada usuario e responda as perguntas sem ser individualmente

[@igorcrow]

Boa Mateus! Tem sim, é o de Assistant API aqui no canal mesmo 😉

[@lorrangomes8076]

Olá, vi que estes comandos python foram atualizados no GPT conseguiria demonstrar quais as diferenças para realizar esta tarefa de forma atualizada?

[@igorcrow]

Ola Lorran! Já tem um vídeo novo ensinando a fazer esse processo de treinamento com a API de assistants, que é melhor e mais fácil que o FineTuning 😉

[@parisestudio4662]

Hoje tentei fazer o procedimento, mais parece que mudou a forma de fazer o finetuner, eu não conseguir até o momento,já assistir várias vezes o video,se mudou poderia me dá um retorno, obriago e parabéns pelo o seu conteudo e a forma com explica

[@igorcrow]

Sim, essa api do FineTuning foi descontinuada, mas dá uma olhada no meu vídeo do Assistant ChatGPT que já ensinei a fazer o novo processo! E é melhor ainda por que é mais fácil de treinar e tem memória! Corre lá 😉

[@fredypendragon]

a quantidade de dados que vou usar pra treinar a IA é muita para criar as planilhas manualmente como você fez, um exemplo, como faço para treinar ele baseado em 100 livros? porque não tem como criar manualmente as planilhas para cada página de cada livro

[@igorcrow]

Dependendo da lista de livros o próprio ChatGPT já tem na memória (vale a pena perguntar pra ele), além disso, com a nova API de assistants (que eu falo nos vídeos mais recentes do canal), você pode subir arquivos PDF para o treinamento, no lugar das planilhas deste vídeo, dá uma olhadinha! 😉

[@fredypendragon]

@@igorcrowsubindo pdf para treinar ele eu não vou precisar de organizar em perguntas e respostas? O conteúdo que tenho é exclusivo, então ele não tem

[@pablomoraesable]

PUTA QUE PARIU VOCÊ É FODA

[@igorcrow]

Hahah Valeeu Pablo!! 🤩

[@MegaOperacaoFordGoiania-zw7yq]

Igor, eu consigo fazer com que o chat gpt crie uma memória da conversa com o clientes? por exemplo: sou um cliente e entrei em contato com um atendimento de uma empresa que possui esse atendimento com IA do gpt, aí eu faço a minha pergunta ele me responde e eu continuo mandando mensgagens falando sobre a pergunta anterior. Ele consegue lembrar da pergunta anterior e da resposta?

[@igorcrow]

Consegue sim! Dá uma olhada no meu vídeo sobre a API de Assistants do ChatGPT que eu explico o passo a passo 🤩

[@jhonnatanbezerra7352]

Me tira uma duvida, depois que eu subi o Finetuning ao utilizar o playground eu vou ser cobrado por tokens enquanto utilizo por lá, ou só quando eu tiver chamando de uma api ?

[@igorcrow]

Só quando chamar por uma API, e ao treinar o modelo em si. Pra testar no Playground não tem gasto (pelo menos por enquanto 😅)

[@marcus-pereira]

Meu amigo, faz um vídeo ensinando com treinar o modelo GPT-3.5 turbo. Já revirei o KZbin e não achei um vídeo em Português

[@igorcrow]

Com certeza amigo! Já estou preparando esse conteudo para trazer aqui 😀

[@CharlesMendes1985]

Showwwww quero ver esse conteúdo

[@ajjmoura]

Uma pergunta, sabe dizer se os dados do meu modelo são utilizados para treinar outros modelos ou compartilhados? Obrigado

[@igorcrow]

Segundo a documentação da openAI nós damos autorização para isso, mas não necessariamente é utilizado. Mas sim, tecnicamente eles podem 😊

[@flasan2]

Igor, assumindo que eu tenho dados sensíveis da minha empresa existe uma forma mais segura de gerar as perguntas e respostas de forma que eu não disponibilize essas informações no ChatGPT?

[@igorcrow]

Só se você construir a própria LLM, para a OpenAi, pela política deles eles mantém os dados seguros, mas ainda serão controladores, então tecnicamente terão acessos a todos os dados transitados nas APIs

[@williamfraga3221]

Consigo fazer em c#

[@RoberioCavalcante]

Daria pra eu usar um modelo de machine learning aí? Subir uma planilha com dados e ele treinar um modelo e depois enviar os dados e ele me retornar a resposta?

[@igorcrow]

Se subir no formato de prompt-completion é possível sim! É o mesmo processo 😉

[@kerocompraronline]

fale amigo, uma pergunta, eu fiz tudo isso, porem as respostas ainda estao muito ruins, o que devo fazer exatamente com o "treinar" o bot, eu devo alterar a planilha e fazer o processo de subir de novo no VS CODE? e quando atualizar la, vou ser cobrado de novo ?

[@igorcrow]

Boa! É isso, aumentar a base de conhecimento dele subindo modelos com mais linhas de prompt e completion! Ou usar o modelo 3.5 que a OpenAI lançou! Logo menos vou falar sobre ele aqui no canal 😉

[@DeyversonCaiado]

Oi Victor, eu consigo fazer esse modelo fazer consulta na minha própria base de dados? Ou seja, o user vai perguntar, quais produtos mais vendidos, aí esse modelo vai consultar no banco de dados e exibir a resposta

[@igorcrow]

Nao Denvenson, ele apenas consulta a api da OpenAi, você precisaria subir seus dados pra lá antes de consumir essas rotas 😉

[@matheusnunes3827]

Fala amigo! Ótimo vídeo, fiz aqui o passo a passo e deu tudo certo! Porém na parte do playground as respostas que recebi não foram iguais as da planilha. Porém eu só coloquei 3 linhas de planilha para testar se ele ia me dar uma resposta parecida (Para ver se ia dar certo primeiro, o procedimento, para depois investir mais nos dados da planilha) será que foi isso que causou o problema amigo? Desde já agradeço, fico no aguardo da sua resposta!

[@matheusnunes3827]

Eu peguei a pergunta exatamente como estava na planilha, mas como disse, só tinha 3 linhas de dados. Devo colocar mais linhas de dados para ter as respostas né?

[@igorcrow]

Fala Matheus! Sim, precisa de centenas de linhas para começar a entender os contextos 😉

[@GestorDeProcessos]

igor me dá um help, como os caras tão fazendo para o chatbot entender a voz e responder por voz também ?

[@igorcrow]

Para entender os audios, há uma API da OpenAI de fala para texto, e as APIs do ElevenLabs fazem fala para texto e texto para fala. É um processo mais complexo mas futuramente pretendo trazer aqui no canal 😉

[@arthurzanottitoniato6918]

cheguei até a parte do openai api fine_tunes.create -t "meu arquivo.jsonl" -m davinci , porém ao dar enter apareceu erro , tentei varias vezes , pesquisei em diversos lugares , usei tokens de acesso diferentes , mas não funcionou . Você teria alguma sugestão de como solucionar esse erro?

[@igorcrow]

Amigo, este método foi substituído a alguns meses, está no comentário fixado, dá uma olhada que anova versão é mais fácil ainda de fazer e já tem memória incluída! kzbin.info/www/bejne/mnaqkICtaLyEZ5Y

[@antoniodegaspsicologia]

Vc faz esse serviço de Fine Tuning?

[@igorcrow]

Podemos fazer juntos na Mentoria! O link está nas descrições!

[@FabioMoraisTJ]

Puxa, o video é TOP, mas a documentação hoje (Fevereiro/2024) na OpenIA está totalmente diferente. Não achei nada desses links de instalação de dependências.

[@igorcrow]

Sim Fabio! O processo foi atualizado e já tem vídeos no canal mostrando a nova API de assistants 😉

[@Mr.Xrayss]

o comando: Openai tools fine_tunes.prepare_data -f foi descontinuado? houve alguma atualização para um comando similar a esse?

[@AliceSilva-gj4cx]

oiii! estou com o mesmo problema, vc achou uma solução?

[@igorcrow]

Sim, a API foi atualizada, você consegue achar os comandos na documentação nova, no entanto você também pode pegar um exemplo do formato esperado e pedir pro próprio GPT-4 converter qualquer planilha que você subir pra ele para o formato necessário

[@matheusnunes3827]

É possível treinar por meio desse método de finetunning para criar um chatbot de gestão de empresas, para colocar ele em um app? E ele se adaptar a cada empresa diferente? Seria meio como se ele fosse um assistente de gestão para o dono da empresa (com dados de vendas, estoque, lucro e etc). Ai eu meio que treinaria ele com todas funções que ele vai precisar ter, mas a minha duvida é se ele vai conseguir sozinho se adaptar a cada empresa que adquirir ao app...

[@igorcrow]

Não, ele não vai se adpatar a cada empresa, o correto é usar a API de assistants (tem um vídeo sobre ela aqui no canal) e criar um assitant para cada empresa com os dados do contexto de cada uma isoladamente 😉

[@matheusnunes3827]

@@igorcrow Entendi, obrigado, vou dar uma olhada nesse vídeo também! Você conhece algum método(ou algo que possa ajudar) que consiga fazer que o chatbot se adapte sozinho a cada empresa, sem que eu precise ficar "configurando" ele para cada uma em específico? To começando a achar que a OPENAI não vai conseguir me ajudar com isso. Desde já agradeço!

[@igorcrow]

@@matheusnunes3827 com a API de assistants é até possível fazer isso, mas a complexidade esta em dar os dados de contexto de cada empresa para seu respectivo assistant durante o processo de "setup". Dá pra fazer automaticamente sim, mas não seria direto com a API da OpenAi, você precisa tratar isso antes com uma api própria pra levantar o contexto de cada empresa e replicar os assistants com requisições para a openAI a cada novo cliente (empresa) 🤔

[@matheusnunes3827]

@@igorcrow Ok, muito obrigado! Acabei de ver o vídeo do assistants e de como criar os prompts, realmente bem interessante! Eu vi que você também dá mentoria. Se eu ver que é necessário, é possível agendar uma com você para você me dar umas ideias em relação a esse tipo de chatbot que eu tenho em mente?

[@igorcrow]

É sim Matheus! Na mentoria podemos conversar sobre o que você quer fazer e eu te apontar os caminhos que eu conheço de como chegar lá, as ferramentas utilizadas, custos de operação e todo escopo do negócio!

[@muelekedoido226]

Existe alguma forma de testar sem envolver custos?

[@igorcrow]

Infelizmente pra subir um modelo sempre tem custo, se você estiver em período de testes eles te dão um saldo, mas sempre tem custo na hora de subir o modelo para treinamento 😅

[@ID0ntSl33p]

essa forma foi depreciada se importaria em fazer um video atualizado?

[@igorcrow]

Com certeza! Já estou em processo de criação, mas ainda é bem complexa (principalmente para ensinar de forma "rápida" pelo youtube 😂), mas a nova api de assistants, (lançada em novembro de 23) já cobre exatamente essa funcionalidade de criação de contexto a partir de arquivos, e muito mais, de forma bem mais facilitada, com memória e barata que o finetuning, então se tiver interesse dá uma olhada no vídeo de assistants aqui do canal que com certeza você vai gostar! 😉

[@ubiranicarvalhojunior1335]

Eu achei o vídeo fantástico, com conteúdo muito interessante e muito didático. Mas eu parei num erro hora de subir o FineTuning: Error: Billing hard limit has been reached (HTTP status code: 400). Eu tenho U$5,00 disponíveis na conta. Consegue me ajudar?

[@igorcrow]

Valeu pelo feedback! Vai na conta da OpenAi, na parte de Rate Limits e vê o limite de gastos configurado na conta 😉

[@ubiranicarvalhojunior1335]

@@igorcrow Deu certo. Eu tinha US$5.00, mas eles haviam expirado. Adicionei mais créditos e foi certinho. Já estou até usando a nova integração direta do ManyChat com o ChatGPT. Muito obrigado!!!

[@RoberioCavalcante]

o cmando do "$env:..." não está mais funcionando???

[@igorcrow]

Funciona sim Roberio 🤔 você confirmou se está escrito corretamente? Qual mensagem ele retorna?

[@mateusedesio3774]

O meu está dando erro na hora de criar o modelo. erro: openai api [-h] {chat.completions.create,images.generate,images.edit,images.create_variation,audio.transcriptions.create,audio.translations.create,files.create,files.retrieve,files.delete,files.list,models.list,models.retrieve,models.delete,completions.create} ... openai api: error: argument {chat.completions.create,images.generate,images.edit,images.create_variation,audio.transcriptions.create,audio.translations.create,files.create,files.retrieve,files.delete,files.list,models.list,models.retrieve,models.delete,completions.create}: invalid choice: 'fine_tunes.create' (choose from 'chat.completions.create', 'images.generate', 'images.edit', 'images.create_variation', 'audio.transcriptions.create', 'audio.translations.create', 'files.create', 'files.retrieve', 'files.delete', 'files.list', 'models.list', 'models.retrieve', 'models.delete', 'completions.create')

[@igorcrow]

Este processo foi descontinuado a um tempo, mas você consegue fazer direto pelo Playground dentro de platform.openai, ficou mais fácil agora e não precisa mais de linha de comando

[@thiagorubin7775]

Fala Igor, sabe como resolver o erro: openai api: error: argument, não consegui encontrar o motivo e ninguem que tenha resolvido. Valeu e Parabéns!!!

[@igorcrow]

Fala Thiago! Normalmente em argument missing ele dá mais informações sobre o que exatamente está faltando, cola pra gente o erro completo pra poder ajudar 😉

[@thiagorubin7775]

@@igorcrowAcho que consegui, deu um downgrade. Na sua mentoria pode ser voltada mais para utilização da API do chatgpt?

[@leochavesdev3759]

tenho 5 dolares free la, mas aparece no terminal que ele nao conseguiu checar o balanço(nao que o saldo esta indisponível), testei fazer um modelo com 50 linhas e msm assim ele da erro ao checar, sabe como resolver ??

[@igorcrow]

Fala Leo! Confirma se os créditos promocionais não expiraram lá na OpenAi > Manage Account > Usage

[@leochavesdev3759]

pior que so expira em dezembro igor, ja tentei procurar uma solução mas n encontrei nada@@igorcrow

[@heitornegromonte8299]

@@leochavesdev3759 conseguiu resolver?

[@Algoritmus_ai]

Aqui pra mim o " instalação" foi removido da pagina de documentação. Pra mais alguem também?

[@igorcrow]

A api de FineTuning do vídeo foi atualizada, essa forma foi descontinuada, mas já trouxe a nova forma de treinar seus modelos no mej vídeo sobre o Assistants API, dá uma olhada que ficou bem mais fácil! 😉

[@onetopereira]

Já perdi no começo kkkk. O primeiro comando já não funcionou, o do python

[@igorcrow]

Poxa irmão que pena! Qual erro você está enfrentando?

[@tiagozaro2133]

PQ já não falou pra ele gerar no formato? kkkk copiou e colou tudo...

[@osegredodoourooficial]

top irmão obrigado to tendo uma dificultade esta dando este erro quando eu digito o comando: openai api fine_tunes.create -t "Finetune_prepared.jsonl" -m davinci openai api: error: argument {chat.completions.create,images.generate,images.edit,images.create_variation,audio.transcriptions.create,audio.translations.create,files.create,files.retrieve,files.delete,files.list,models.list,models.retrieve,models.delete,completions.create}: invalid choice: 'fine_tunes.create' (choose from 'chat.completions.create', 'images.generate', 'images.edit', 'images.create_variation', 'audio.transcriptions.create', 'audio.translations.create', 'files.create', 'files.retrieve', 'files.delete', 'files.list', 'models.list', 'models.retrieve', 'models.delete', 'completions.create') PS C:\Users\PC\fini> como posso fazer?

[@igorcrow]

Esse erro está acontecendo pois a OpenAI desabilitou a API Legacy do FineTuning que eu abordo nesse vídeo junto com o lançamento da Assistants API na semana passada. Que por sua vez é mais fácil de operar e treinar que essa do vídeo. Mas fica de olho que esse é o próximo vídeo que vou lançar aqui no canal 😉

[@osegredodoourooficial]

Obrigado pela resposta , vou aguardar o vídeo então muito obrigado

[@igorcrow]

Saiu! kzbin.info/www/bejne/pJfZqWyffrOShKssi=cgdLplgQO7U54iUx 😉

[@edustore.online]

Muito bom! Parabéns!

[@igorcrow]

Muito obrigado 😁