Como Fazer Fine Tunning Do GPT Pela OpenAI

Aprenda Inteligência Artificial! Seja Membro do canal:
www.youtube.co...
Site: www.inteligenciamilgrau.com
Instagram: @inteligenciamilgrau
facebook: / inteligenciamilgrau
GitHub: github.com/int...

[@prof.joaopaulocecato_1]

Muito bom! Ate mesmo para quem não é da área!

[@inteligenciamilgrau]

Valeuuuu professor João!! Fico feliz em ler seu comentário!! Obrigadão!!

[@ElaraArale]

Esta uma sequencia de videos bons, parabens

[@inteligenciamilgrau]

Uhuuuuu, valeuuuu

[@viniciuselias007]

nossa isso e otimo mano da pra criar uma coisa bem especifica com isso eu tava pensando em focar se ( eu não tivesse com meu projeto de robotica em andamento ) uma i.a especifica para ajudar as criacas de 5 anos pra cima a estudar mais , tipo uma i.a coleguinha, mais que estimularia a crianca a desenhar escrever historias e brincar , mais brincadeiras que ia ensinando ela a aprender mais , pois criancas de 5 anos em diante são mais facil de lidar e tambem respeitar mais e estao em fase de aprender...

[@ElaraArale]

Inspirador.

[@inteligenciamilgrau]

Faaaaaaala Vinicius!! Muito bom!! A criançada hoje quando nasce já vem com iPhone e USB! Certeza que esse é o tipo de projeto bom para estimular o aprendizado desses pequenos!! O jeito mais simples de fazer algo desse tipo é criando um GPT! E eu acredito que quando a OpenAI liberar o app novo, praticamente vai fazer isso naturalmente!! Vc já testou a conversação pelo app?

[@viniciuselias007]

Sim a do 3.5 minha filha gosto de falar com ela. Vamos ver a 4.0 vai ser top d mais...Tmjj vlw

[@inteligenciamilgrau]

A Google lançou umas ferramentas de educação agora na terça no Google IO!!! Isso logo logo vai ser nativo das plataformas!! Uhuuuuuu

[@jonathanmkt]

Amigo... sou programador Nocode, faço aplicativos e sistemas sem código, uso o Bubble para isso. Será que consigo gerar essas planilhas para o ajuste fino e integrar esse novo modelo afinado às minhas aplicações via chamada API? Mesmo sem saber Phyton?

[@inteligenciamilgrau]

Fala Jonathan!! Consegue sim!! Vai ser preciso configurar uma API! Acredito que alguém já deva ter feito algum componente desses pro Bubble!! Dá uma conferida!!! Você só vai passar o nome do modelo treinado ao invés de passar o nome do modelo da OpenAI!! Valeuuuuuuuuuu

[@CarlosRedoanroberto]

Que top parabéns pelo conteúdo, qual a diferença do Fine tunning e RAG, não seria a mesma coisa? Só diferencia que um vc da o conteúdo através de arquivo e outro você cria um modelo treinado através de arquivos? Seria top também se pegasse esse dados através de uma API e pudesse agendar o treinamento com aquilo que atualizou tipo uma vez por semana.

[@inteligenciamilgrau]

No Fine Tunning você modifica o modelo e isso modifica a geração de texto! No RAG você faz uma busca semântica por similaridade de trechos!! Ou seja, ele pega um documento, quebra em partes e vê a semelhança entre o que vc digitou e aqueles trechos!! O Rag não gera o texto, depois que ele encontra o texto semelhante, ele envia o texto para o modelo que gera uma resposta!! Uhuuuuu, valeuuuuu!

[@CarlosRedoanroberto]

👋

[@emerson5500]

Olá, quando que eu usaria Fine Tunning e quando usaria RAG?

[@inteligenciamilgrau]

Faaaala Emerson!! Pensa o RAG como um dicionário! E o Fine Tunning como melhorar a geração de texto! Se você quer consultar um documento, procurando trechos, você precisa de um dicionário! Se você quer contextualizar as respostas melhor, faz fine tunning!! No geral dá para fazer RAG e engenharia de prompt e resolver 99% dos problemas!! Eu só faria Fine Tunning nos casos que a quantidade de texto for grande e o custo por tokens estiver se tornando inviável!! Aí vc gera os dados e faz o treinamento!! E em alguns casos o Fine Tunning pode ser mais adequado quando falta alguma informação ou forma de responder do modelo! Começa resolvendo seu problema com RAG e engenharia de prompt! Se não resolver, avalie se é o caso do Fine Tunning! Ele é a solução mais custosa, então só use quando realmente entender que faz sentido!! Valeuuuuuuuuuuuu

[@ricardorohling-pessoal6261]

O meu Json falha ao importar, oque pode ser? teria algum video explicando como fazer e importar?

[@inteligenciamilgrau]

Faaaala Ricardo, tem que ser um jsonl, no próprio site diz onde está o erro! Pede pro chatgpt revisar! Valeuuuu

[@joaosoares7962]

VIDEO MUITO TOP AMIGO!! PARABENSS tenho apenas uma duvida, poderia me ajudar? Eu queria usar o fine-tunning para treinar um modelo apenas para ter uma personalidade especifica e uma forma de comunicação, mas, não queria que o modelo atribuísse informações além disso, como posso fazer isso na preparação de dados do Fine-tunning?

[@ElaraArale]

Depende do metódo, e de como você estaria fazendo isso, por exemplo para um chat gpt, ou aplicativos de chatbot, sim poderia sim, com um fine tuning, intruções, que fale de uma determinada forma e jeito, ou seja, moldar ao seu querer, da pra fazer isso com o chat gpt sim, na versão paga do chat gpt, você tem a capacisade de fazer seus proprios bots, com suas intruções, logo do jeito que você quer, com seu fine-tuning, em paralelo, existe modelos gratis, com a mesma função mas de graça, como o PERCHANCE, um site de modelos de i.a de graça e voce pode ver seus modelos de chat bot, que oferecem de graça e fazer seu fine-tune

[@joaosoares7962]

@@ElaraArale é que eu iria fazer uma mistura de metodos, usaria RAG entregar ao modelos as informações que eu quero que ele tenha, mas queria moldar a personalidade do bot sem precisar colocar isso em prompt, ai queria saber se é possivel atravez do fine-tunning moldar APENAS a personalidade sem dar informações para o bot

[@ElaraArale]

​@@joaosoares7962 Sim sim desse jeito que tu diz, da pra fazer sim, nao sera perfeito, mas entendo tipo um bot, pra cada personagens e fazer eles interagirem entre si, e por ventura tambem ter um mestre e jogo, como Rpg e fazer cada um, um bot individual ne?

[@ElaraArale]

​@@joaosoares7962porque se for o que eu disse no meu comentario anterior, eu ja utilizo pra jogas rpg por texto, onde tem os personagens com suas personalidades próprias, enquanto tem o narrador, e até minha escolhas moldam a historia, se for isso que tu queres, confirma.

[@inteligenciamilgrau]

Faaaaala João!! Se você quiser treinar uma personalidade do assistente, porém não quer treinar junto o conteúdo, treina o estilo do seu assistente sem usar o conteúdo que vc gostaria!! Por exemplo, se quer que ele dê sempre respostas secas e curtas em um contexto de um atendente da padaria, treina ele dando respostas secas e curtas em todos os contextos menos os de padaria!! Porque aí quando vc fizer o prompt com o conteúdo que deseja, ele pega o estilo, mas não tem as respostas e vai usar do prompt!! Veja se é isso!! Valeuuuuuuuuuuuuuu

[@Carlos-jv8qr]

Como eu conecto isso com meu Assistant agora?

[@inteligenciamilgrau]

Faaaaala Carlos, você precisa passar o nome do modelo para o Assistant!! Se for via Python, é só passar o parâmetro model com o nome do modelo! E se for via platform dentro da OpenAI, você consegue escolher lá no final da lista aparecem os modelos "FINE TUNES"!! Valeuuuuuuuuuuuu Aqui tem a documentacao dos assistants: platform.openai.com/docs/api-reference/assistants