CUSTOMIZAMOS O LLAMA3 E AGORA ELE É UM ASSISTENTE PARA PROGRAMAÇÃO

[@sergiocosta505]

Estou aguardando ansiosamente o vídeo treinar a ia com os próprios dados

[@Leanst.]

Eu tenho uma RTX 4060 8GB e rodo todos os modelos acelerando até 8B de parâmetros. Acima disso a placa não aguenta, e modelos acima via CPU fica inviável, as palavras vem em saltinhos na tela. kkkk Adoro o Llama3, mas me surpreendi bastante com a Phi3 também. E tem umas llms pra programação dedicadas que são fantásticas, acertam tudo que vc precisa.

[@bceg3961]

Phi3 é bem leve, o Llama pesa muito em gpu, na minha é uma hora pra responder coisas simples.

[@Leanst.]

​@@bceg3961 o llama3 roda muito bem na 4060, mas o Phi3 roda na CPU, é leve, e pelos meus testes tá quase a par com o llama3 que é muito maior. Phi3 dá pra embutir em nossas aplicações!!!

[@diehgo_sp]

qual model de programacao voce testou?

[@muelekedoido226]

Quais modelos para programação vc usa?

[@Leanst.]

@@diehgo_sp pouca coisa, estou usando o vianch/codewriter via Ollama que achei surpreendente e o próprio Copilot que está muito muito bom. baixei o dolphincoder mas não consegui testar tbem...

[@ruimarcosjoao]

Podem trazer um conteúdo ensinando a treinar um modelo com os nossos próprios dados? e depois fazendo requisições em forma de api no nosso modelo? tudo isso localmente?brigado, vocês são um máximo

[@DevDeividMoura]

o ollama disponibiliza uma api para que voce possa fazer requisições ao modelo, ela se parece muito com a api da openai, se nao me engano você consegue ate usar o sdk da openai apontando a base_url para o servidor do ollama

[@mathered]

não servem para treinamento, eu busca esse uso no Ollama. Mas o prompt do SYSTEM é bem limitado, você consegue ditar alguns jeitos de ser e somente isso! ainda em busca de uma forma prática para treinar LLM.

[@jflaviojf3]

#TreinarMeuModelo Excelente conteúdo como sempre! Parabéns

[@Hiiiiii_Guys]

#TreinarMeuModelo

[@Leiggo]

Obrigado por me apresentar essa ferramenta. Ainda estou tendo dificuldades para implementar, mas acredito que vou conseguir. Também vi, pelos comentários, muita gente falando de outras ferramentas, mais leves ou melhores, e isso é empolgante. Vou tentar documentar meu aprendizado no meu canal e incluir as referências a este vídeo, rs. Muito bom o conteúdo de vocês.

[@MrSaitam]

Gostei que fizeram um vídeo na prática com a sugestão que havia comentado no vídeo de "IA Generativa no seu Computador, sem internet e DE GRAÇA!" sobre a ferramenta gráfica Open WebUI com interface similar ao chatGPT. A análise sobre essa ferramenta mostrou-se bastante positiva, especialmente pela facilidade de uso e pela eficiência em rodar modelos de linguagem avançados sem a necessidade de uma conexão com a internet.

[@FelipeOliveir4]

Eu nem sonho com isso, já tô chorando pra fazer um upgrade humilde no PC. Nem sonho rodar IA...

[@91648611]

Que valioso é esse conteúdo, meus parabéns.

[@nicolasaigner8564]

#TreinarMeuModelo Gostei muito da ideia! Isso para gerar uma IA com as documentações e padrões de uma empresa seria incrível!

[@HENRIQUECANDINHO]

Com certeza treinar nosso modelo! Ainda mais com que entende! Muito bom.

[@teksyseletronica-o9k]

#Treinar_meu_modelo Galera fantastico ! O video anterior foi excelente, mas esse superou muito; Parabens !!!

[@codigofontetv]

Muito obrigado! 🫶

[@Maclaudbr]

Realmente muito legal, fiz o teste em um note bem fraquinho aqui e rodou bem. #TreinarMeuModelo

[@TheKnightvlo]

#TreinarMeuModelo Que conteúdo top galera! Você estão de parabéns, sempre agregando conhecimento. Obrigado por isso!

[@RicardoPrediger]

#treinarmeumodelo Depois do primeiro vídeo de vocês comecei a rodar vários modelos localmente e adorei. Inclusive já adquiri mais memória RAM pra poder testar modelo maiores. No aguardo. I7 7700k 16 GB e gtx 1080 rodam bem o llama3 7b

[@PauloHenrique-ie3fn]

ótimo video Erico Borgo, valeu!

[@DevDeividMoura]

#TreinarMeuModelo Estou aguardando ansiosamente pelo vídeo demonstrando o treinamento! Já li alguns artigos e códigos em competições do Kaggle (como treinando o Gemma do Google), mas ainda não entendi completamente como funciona o treinamento de modelos pré-treinados, os requisitos, formato de dados, etc. Tenho uma ideia para aprimorar um modelo para ajudar no atendimento de Helpdesk, tornando-o mais humanizado. A ideia é usar históricos de atendimentos de qualidade, convenções internas, boas praticas e cases de problemas e soluções. O modelo servirá para aumentar a eficiência do atendimento, encontrando soluções para problemas com base em registros anteriores. Isso aumentará muito a experiência tanto do atendente quanto do cliente. A didática fantástica de vocês é o que falta para eu entender melhor o processo! Parabéns pelo trabalho incrivel! Abraços.

[@fabioabrand]

#TreinarMeuModelo Sempre trazendo novidades!! Parabéns.

[@DiogoMoreira0610]

Muitooo bomm! Parabens. Ainda nao consegui fazer rodar aqui, o modelo nao aparece no webUI, mas creio que seja alguma configuracao que fiz errado.

[@jeanbonatto175]

#TreinarMeuModelo Adorei a ideia, ansioso pelo vídeo. Parabéns pelo conteúdo.

[@manoelcavenati]

#TreinarMeuModelo Video top demais! Aguardando o próximo!

[@urielbelo1666]

#TreinarMeuModelo vai ser muito útil para aplicar o conhecimento dentro da minha empresa

[@TheRafaeljoia]

#TreinarMeuModelo Vocês são muito simpáticos, é maneiro demais assisti-los.

[@andersonpavani1982]

Poderia ensinar a como usar o llama3 rodando localmente integrado ao VSCode como uma alternativa "custo zero" em substituição ao GitHub Copilot

[@mundoculturapop4707]

Aí sim em eu apoio

[@caduguimaraes]

Addin codegpt

[@rodrigolobenwein]

Com certeza é o complemento perfeito do outro vídeo! Esperando o próximo! #treinarmeumodelo

[@AlexandreXavierG]

Muito bom, avise por favor quando será esse novo vídeo. #TreinarMeuModelo

[@jotamantys]

Parabens, exelente conteudo, era tudo que eu precisava saber

[@silc6179]

#treinarmeumodelo Já estou aguardando o video 👍

[@midlandscoder]

funcionou no meu pc pelo processador, sem placa de vídeo offboard, incrível

[@teksyseletronica-o9k]

Da like povao !! Eles merecem muito !!

[@joutro]

Gostei!!! Ancioso pelo próximo video!!!

[@MrValdemirjs]

Olá tudo bem? primeiramente obrigado pelo otimo conteudo, uma sugestão é como treinar um modelo, para atender usuários, existindo um banco de dados com as conversas entre o time de suporte e os usuários como treinar para que a IA possa responder perguntas especificas de acordo com a base de dados ?

[@andregoncales2054]

#TreinarMeuModelo Excelente!!!

[@cleverdemoraes7639]

#treinarMeuModelo, heheehhe, boa idéia, vamos laaaa :)

[@tinocobart]

Aguardo o vídeo de treinamento de modelo

[@MARCOS0811]

#treinarmeumodelo Ótima ideia.... Melhor casal dev do mundo.

[@arturviana8070]

Aproveitando o assunto, estou trabalhando em um projeto para implementar um modelo que responde perguntas através de dados tabulares, estou utilizando o modelo TAPAS, porém ele quebra a execução com tabelas maiores que 50x30. Alguém sabe se existe um modelo que faça esta tarefa em tabelas com escalas maiores ou até mesmo como utilizar este mesmo modelo do jeito certo?

[@noriller]

Treinar? Que tal #Compilar? E depois desse episódio, talvez um de RAG, que dai não precisa treinar, só ensinar a buscar alguns dados pra injetar. E depois, da pra usar algo tipo o Continue dev (extensão do vscode) pra usar esse modelasso como alternativa ao github copilot.

[@andersonpavani1982]

tbm sugeri essa extenção do vscode "Continue dev"

[@danieldias2693]

já tem esse vídeo de como treinar um modelo com dados próprios? de preferencia com dados de um banco tipo postgresql.

[@AlanOliveira-jh3ix]

Eu gostei muito da ideia, mas será que não judia muito do pc? no hardware?

[@vjoliveira100]

#TreinarMeuModelo ansioso

[@luizhenriquemaria]

Tô dentro!

[@LucianoTonet]

Uma pergunta: o parâmetro SYSTEM alterado no modelfile seria o mesmo system prompt que podemos configurar em settings, concatenado em tempo de execução?

[@vitorjpr]

Aguardando o próximo vídeo sobre #TreinarMeuModelo 😅

[@tiagoc9754]

O OllamaUI tem uma interface bem amigável também e você pode baixar os modelos pela UI

[@arleygoleiro22]

#treinarmeumodelo - Vai me ajudar demais quando os players sobre o assunto online estiverem fora do ar

[@juliusprojeto]

Sem dúvida alguma será a cereja do bolo.

[@impirotec5786]

o meu n ta funcionando a enterface web com o ollama. O que pode ser?

[@Alex-Sistema]

A Llama 3 consegue gerar imagens ou só Textos ? obg !

[@DhenysonJhean]

Quero ver o dia que começar a surgir IAs com integração total ao projeto, ao ponto de consegui simular processos em memorias e entregar resultados ainda mais precisos, uma integracao tao perfeita que a IA consegue saber os dados do .env, consultar o banco por ele mesmo e retornar algo como "Seu codigo nao esta errado, o problema é que na tabela X a coluna Y ta sem valor, por isso nao esta sendo exibido no log". Certeza que vai chegar nesse ponto, a questao é... quando? (ignore questoes de segurança, privacidade e etc, foi apenas um exemplo kkkk)

[@BrunoCodeman]

Não vai chegar nesse ponto, infelizmente.

[@vendasimports7227]

Cursor Aí, já tá quase. Fincão contexto. Você joga todos os arquivos, ele vê o contexto e corrige

[@rafapcarvalho1]

Fala casal! Tudo bem? Teriam alguma dica para fazer algo do tipo, tendo documentos PDF, word e até vídeos como base para fazer perguntas sobre estes dados? Como armazenar esses dados? Não precisa ensinar, mas pelo menos informar onde posso estudar para fazer algo do tipo.

[@rafapcarvalho1]

Quando perguntei, ainda não havia chegado ao final. Já responderam minha pergunta hehehe. Esperando ansiosamente pelo próximo vídeo

[@AdaZoul]

Pessoal, eu gostaria de sugerir usarem o LM Studio para verem até onde dá para avançar e customizar com ele.

[@tiagoc9754]

Quanto será que custa criar uma VM pra rodar LLMs?

[@GuilhermeForte-o5y]

#TreinarMeuModelo 🥳

[@fmorschel]

#TreinarMeuModelo Ótimo conteúdo!

[@tr4kin4s]

#TreinarMeuModelo Ps: Meu TCC depende disso kkkk Valeu pelo ótimo conteúdo sempre.

[@fabionunes974]

Boa.. muito bom

[@aldolammel]

Uhul!

[@MyFriendDev]

será que tem alguma forma de usar ele num plugin do vscode e do intellij para fazer igual ao copilot chat do github faz? talvez com o modelo codellama

[@mundoculturapop4707]

Queremos em

[@MyFriendDev]

@@mundoculturapop4707 FINALMENTE CONSEGUI com um plugin no intellij github/devoxx/DevoxxGenieIDEAPlugin rodar o modelo customizado num chat direto da IDE

[@WalleM0312]

Será que roda bem no Raspberry pi 5?

[@ivoa.calanga5425]

Eu sei que lá no site o llama3 tem 3 versões 2B, 7B e 70B… esse comando baixa qual das versões??

[@MatheusMelloDev]

Sabe dizer se é possivel treinar a IA com meu código fonte legado para ela tornar meu copiloto durante o meu desenvolvimento ?

[@FranklinJSilva]

Gostaria de saber como conectar o assistente à uma base de dados de produção, de forma que ele responda a perguntas relacionadas, sumarize dados, forneça insights #TreinarMeuModelo

[@emersonarruda7657]

Será que funciona na minha maquina? intel pentium 2.4gh placa de video 601 embutida

[@harrisonhakinensouza]

#treinarMeuModelo Boraaaaaaaaaaaaaaaaaaaaaaaaaaaaaa

[@joaocalixtodaschagas8630]

Faz um pra code review

[@languages_inc]

Mais videos por favor

[@sinvalfelisberto]

Lá vou eu... Quero saber como treinar meu modelo... #treinarmeumodelo Vou fazer e posto por aqui o resultado!😊

[@diehgo_sp]

prepare o bolso

[@fabriciocarneiro8532]

#treinarmeumodelo #treinarmeumodelo #treinarmeumodelo ❤❤❤❤❤❤❤

[@felipe-riobranco]

#treinarmeumodelo Estou cada vez mais interessado no tema!

[@O_SENHOR_e_o_meu_pastor...s23]

🤩🤩🤩

[@darrkzzzy714]

E nada me faltará🙏🙌

[@VandersonArruda]

#TreinarMeuModelo 😀

[@marceloguimaraes796]

nao apareceram os modelos pra mim

[@nevermind.99]

#treinarmeumodelo pelo amor! Tragam esse conteúdo!!

[@marceloguimaraes796]

#TreinarMeuModelo amanha cedo hahauaha

[@johnlucas2]

#TreinarMeuModelo ❤

[@nerdcodingalfa]

Pessoal sera que no meu i3 3770 32 RAM GTX 490 pode suportar??😅😊

[@andersonjunior264]

#treinarmeumodelo seria interessante treinar um modelo de linguagem com uma linguagem de programação diferente, por exemplo pascal, ou frameworks nao disponíveis na internet (privados)

[@AnthonyDev]

#treinarmeumodelo pra ficar igual o NotebookLM 😉😉

[@GuilhermeGirardiCutovoi]

#TreinarMeuModelo Neste modo de uso do llama3 teríamos as informações sensíveis passadas a ele seguras?

[@KeeperOfTheBest]

"Sei lá, #TreinarMeuModelo!" 😜

[@Hiiiiii_Guys]

há 2 dias atrás, isto aqui é verdade ? Critical RCE Vulnerability Discovered in Ollama AI Infrastructure Tool

[@Hiiiiii_Guys]

CVE-2024-37032 2024 06 critical rce vulnerability discovered

[@danielcjunqueira]

Eu quero colocar dados!! 😊 Já fizeram? Proximo passo 🚶‍♂️

[@impirotec5786]

treinar meu modelo.

[@ivoa.calanga5425]

#FineTuningModel ✌️

[@maniacoblindado]

#TreinarMeuModelo com meus codigos afim de auxilar heimmm!!! seria magico ele contextualizando com meus codigo.

[@nerdcodingalfa]

#TreinarMeuModelo ❤❤❤❤❤

[@guilhermealecrim1135]

Estava pesquisando sobre isso ontem kkkk. Estaria o Código fonte usando inteligência artificial para prever interesse do inscritos? Kkkk #treinarmeumodelo

[@darkinduck]

Ai precisaria de um vidente amigo. Inteligência artificial funciona com passado. O que a ia pode fazer é baseado no que tu já fez dizer o que é mais comum e tem mais audiência.

[@Joaopedro-ik2dc]

Eu tenho rx 550 e tô rodando um modelo de boa aqui haha.

[@rmarquesricardo9728]

# Treinar meu modelo...

[@donatojones]

# Treinar meu modelo

Treinar meu modelo

[@FrostbearDarwen]

o conteudo #TreinarMeuModelo

[@hackdaniels4151]

#treinarmeumodelo 🤓🧠🤖🫶

[@jeffersongo]

Top! #TreinarMeuModelo

[@pauloricardoferreira3142]

#TreinarMeuModelo Conteeuudo de primeira

[@leonardogsperin]

Se eu tiver filhos um dia o pia vai ser Baldney e a minina Baldneia

[@bceg3961]

#TreinarMeuModelo Pls, só tem conteúdo gringo disso.

[@wjrgol83t]

#treinar meu modelo

[@joseinacio6955]

melhor ainda estou tentando treinar um modelo faz tempo com base meu projeto l2j Emulador de Lineage 2 par apoder me ajuda no meu projeto. #TreinarMeuModelo

[@marceloamorim6932]

#TreinarMeuModelo Gostaria justamente de treinar meu modelo na interpretação de PDF's para extrair dados de determinadas legendas e também para mapeamento de onde este dado está dentro do PDF para exibição. A qualidade dos vídeos está bem legal hein!!! Se o meu pedido for atendido, vamos comemorar com um café por minha conta no Shopping Colinas. ;)

[@darkinduck]

Usa um serviço de modelos de linguagem do Azure. Tu conseguirá implementar seu case. Treinando um modelo para extrair as entidades definidas por ti. Tudo a partir de um documento.

[@WeltonVaz]

#TreinarMeuModelo