Como Rodar Seus Modelos de IA de Graça Na Hugging Face | Incrivelmente Simples

[@SecundariaHenri]

o cara é o BRKS EDU da IA , parabéns pelo seu conteúdo amigo. Thank yoy

[@inteligenciamilgrau]

Uhuuuuuuuuu, boaaaaaaa!! Obrigadão!! Valeu demaissssss!!!

[@jorunessa]

Comecei meus estudos de IA ontem, e cai nas boas mãos di😢Bob, estou aprendendo muito, obrigado.

[@inteligenciamilgrau]

Valeuuuuuuuuu JorUge!!! Mandaver nos estudos!!

[@LuizTiagoWilcke]

Fiz algumas disciplinas de IA no curso de estatistica e já venho ver os videos do Bob. Esse canal é muito bom !!!!

[@inteligenciamilgrau]

Valeuuuuuuuuu Luizzzzzzz!! Muito bom!! Gostei de ver e saber!! Obrigadão!!!

[@marcelocosta2612]

Sensacional, Bob! Eu estava também querendo aprender mais sobre o Hugging Face. Obrigado pela excelente aula!

[@inteligenciamilgrau]

Valeuuuuuuuuu!! Eu também já tinha usado muito lá e não sabia direito o que fazer ali dentro!! Esses Spaces tem vários interessantes de outros usuários!! Vale muito buscar umas IAs ali e testar!!

[@marcelocosta2612]

@@inteligenciamilgrau que show, Mestre!! Eu nunca tinha levado muito em consideração o Hugging Face. Eu recentemente tenho usado uma plataforma chamada Segmind AI por conta de ser possível fazer muitas interações lá com o Claude 3.5, mas a plataforma parece ser mais voltada para a geração de imagens e a interface acaba parecendo complicada para os modelos de texto. Porém, lá há muitos modelos de texto e tem sido legal usar. No entanto, o Hugging Face deve ser o melhor lugar para se testar modelos open source. Realmente é o Github das IAs, e sem dúvida vale a pena aprender como o site funciona. Valeu Mestre!

[@marcelocosta2612]

@@inteligenciamilgrau é verdade, Mestre! É um site que realmente vale a pena entender sobre! Dizem que é o Github das IAs, e nesse sentido é até importante estudá-lo.

[@marcelocosta2612]

@@inteligenciamilgrau é verdade, Bob! Obrigado pela aula!

[@joaokurumada5377]

Obrigado amigo sou leigo e queria usar uma ferramenta do huggenfave de text to speeach pois demora MUITO pra gerar. Sua aula me ajudou a entender um pouco mais.

[@inteligenciamilgrau]

Valeuuuuuuu João!! Que bom que deu certo!! Obrigadão!!

[@rodrigomata2084]

Fala Bob, já que você tá por aí no HF, dá uma olhada no autotrain também, é uma ferramenta da própria HF. Da pra fazer fine-tunning de forma gráfica direto na plataforma (não são todos os modelos que suportam mas a maioria sim) e ainda subir seu espaço com ele kk.

[@inteligenciamilgrau]

Demaissssssss!! Não conhecia!! Já estou testando!! Valeuuuuuuuuuuuuuuu

[@MersyleS7]

Bom dia, Bob!

[@inteligenciamilgrau]

diaaaaaaa

[@gabrielcampeao841]

Trabalho bom demais, sensacional!! Parabens continue assim que está ajudando muitas pessoas. Acabei de chegar no seu canal e quero aprender o maximo possivel sobre machine learning, AI e fine tunning, vi que tem diversas playlists de conteúdos desse tipo, queria saber na sua opinião, por qual das playlists seria melhor começar?Considerando que sou programador, mas tenho pouquissima experiencia na area e nenhuma experiencia com ML, IA ou FT. Obrigado pelos conteúdos e pela atenção. Abraço

[@inteligenciamilgrau]

Dá uma olhada nesse do Claude que eu comento sobre programação usando IA: kzbin.info/www/bejne/ZmGXk2WLZatlqJI Olha esse do Continue pra testar uma versão free de Copilot de programação: kzbin.info/www/bejne/fKbUfqChZbh_lcU Dá uma olhada em agentes com IA: kzbin.info/www/bejne/bWnZoGBjZr2ib7M E esse de RAG: kzbin.info/www/bejne/p4XTqmuIrZVlY6M Vendo esses 4 depois ce decide o que faz

[@gabrielcampeao841]

@@inteligenciamilgrau Boaa, obrigado!! Ta ajudando demais!!

[@MaxJM74]

Muito bom esse conteúdo, parabéns.

[@inteligenciamilgrau]

Valeuuuuuuuu Jonatas!!!!

[@drillzer4]

é mt trampo para colocar llama! valeu pelo vídeo.

[@inteligenciamilgrau]

Valeuuuuuuuuuuuu!!

[@aleffelperibeirovilalba]

Eu fiquei refletindo sobre a ideia de testar hipóteses, especialmente em relação à capacidade da LLaMA 3.2 em lidar com matemática avançada e ciências, além de compreender o senso de humor e cenas visuais cotidianas. Isso me leva a pensar nas tarefas mais desafiadoras, como aquelas encontradas em olimpíadas de matemática e na criação de código em Python IMO e codeforce respectivamente

[@inteligenciamilgrau]

No meu ponto de vista, a compreensão ainda é só no nível linguístico!! A IA atual manipula texto e simula a inteligência!! Então o humor ela percebe, mas não sente! Vai dar respostas de acordo com o que ela leu! Porém se em algum momento ela tiver sentimentos, e através dos sentimentos puder ser recompensada, vai começar a "pensar no que diz" para ir em direção da recompensa! Porque lógica ela já tem! Algo assim!!

[@aleffelperibeirovilalba]

@@inteligenciamilgrau era só limitar questão texto como perguntar se consegue entender duplo conceitual objetivo áreas específico " Me explica modo claro piada duplo sentido no contexto específico biológico " Vou compartilhar meu software com aquém" No geral necessário ter compressão baseado genética "" Não vê necessário sentir sim explicar modo claro se entendeu perfeitamente ser tanto conceito de algoritmo e reprodução sexuada sucedido, mistura os códigos genética tantos pai e mãe, diferentemente reprodução assexuada ser cópia perfeitamente, Entendeu se conseguir entender perfeitamente algo básico sem necessidade ter sentimentos está bom tamanho

[@aleffelperibeirovilalba]

@@inteligenciamilgrau pelo minha convicções próprio além experiência própria, surge as pessoas menores as habilidades cognição não consegue entender nem básico os significados os motivos por traz, nem adianta explicar modo claro, entretanto as coisas muito inteligente consegue entender até humor irônico e sarcasmo, mesmo conto romântica William Shakespeare, pelo fato não negar uso humor negro explica modo claro essência da pessoas,

[@RogerTB]

Like na confianca!

[@inteligenciamilgrau]

Uhuuuuuuu, valeuuuuuuuuuuuu!!

[@danielreso4405]

Boa tarde da puxar api hanguim face para automatizar criação tipo automatizar crew ai .E se plano pago hanguim face faz diferença.

[@inteligenciamilgrau]

Faaaala Daniel!! Se eu fosse automatizar o CrewAI, usaria Google Cloud Run ou AWS!! Porque lá tem mais recursos e opções para subir um sistema mais complexo!! Valeuuuuuuuuu

[@RodrigoSilva-mh4dk]

Galera >> fiquem espertos nas licenças ofertadas nos modelos caso forem publicar seus trabalhos de forma comercial ou explorar alguns players de mercado para a divulgação do seu job.

[@inteligenciamilgrau]

Exatamente!! Tem sempre que ler os termos! Valeuuuuuuuuuu

[@raphaelbonillo2192]

Quero fazerr um atela de chat com Streamlit ou Gradio, onde vou fazer upload de um PDF gigante pra fazer perguntas sobre o PDF. Porem o PDF esta em ingles e eu preciso eprguntar em portugues e receber a resposta em portugues também. Qual seria o melhro modelo e abordagem? Se o PDF não vai mudar de conteudo, poderia ser um RAG? Nedessita fine tuning?

[@inteligenciamilgrau]

Faaaaala Raphael, você pode perguntar em português mesmo com o documento em inglês que a IA converte dentro da cabeça dela e já te responde em português!! Se ela responder em inglês, é só pedir para responder em português que ela já se adapta!! É bem simples!! Valeuuuuuuuuuuuuu

[@raphaelbonillo2192]

@@inteligenciamilgrau Reponde mais uma? Vou colocar ela pra responder perguntas de um PDF gigante, mas o conteúdo do PDF nunca vai mudar. Vou de RAG ou Fine Tuning?

[@inteligenciamilgrau]

@@raphaelbonillo2192 Tenta primeiro com RAG! Se der certo, vai nele! Porque no RAG vc vai gastar tempo acertando o tamanho e o método dos trechos e uma vez que acertou e como ranquear e uma vez que acertou está perfeito!! O fine tuning é mais trabalhoso, e tem que ficar retreinando, criando base de dados de teste, de treinamento, o que vale mais a pena caso o RAG não tenha funcionado! Mas nos dois casos você vai precisar olhar com atenção os dados e ir analisando porque está dando o resuiltado, bom ou ruim, que está!! Valeuuuu

[@raphaelbonillo2192]

@@inteligenciamilgrau Vou fazer o seguinte na tela do Stramlit. Quando a resposta for correta, vou colocar um botão de OK, e essa pergunta e resposta vou guardar em um banco, quando uma nova pergunta vier e for a mesma ou parecida, ele fornece a resposta do banco, se o analista não concordar, ele volta a olhar parano PDF inteiro

[@raphaelbonillo2192]

@@inteligenciamilgrau Obrigado

[@thiagolucas2291]

Eu to tentando usar o GPT2 para treinar meu próprio modelo em PT br generativo, porém não acho muito dataset bom em pt-br. Tem alguma dica ? Ou já existe algum modelo generativo bom em pt br gratuito ?

[@inteligenciamilgrau]

Faaala Thiago!! Tem o Maritalk que é em Pt e é gratuito!! Dá uma testada lá!!

[@thiagolucas2291]

Mano, por favor, me ajuda kkkk eu to tentando treinar um modelo meu para responder em pt-br. Você tem o juninho, qual modelo pre-treinado você usou e onde conseguiu um bom dataset ? por favor me ajuda kkkk eu não tenho dinheiro

[@inteligenciamilgrau]

Faaaala Thiago!! Os modelos todos praticamente falam português e tem versões gratuitas!! Eu não treinei o Juninho, usei os modelos disponíveis como GPT-4o mini!! Valeuuuuuuu

[@thiagolucas2291]

@@inteligenciamilgrau mas você diz utilizar esse modelo diretamente no chat ou baixar mesmo o modelo para trabalhar uma aplicação própria sua ?

[@inteligenciamilgrau]

@@thiagolucas2291 Os modelos da OpenAI não tem como baixar!! Você usa via API!! Que é a forma de criar um chat usando programação!! Para API gratuita, usa o Groq!! Tem alguns videos no canal que eu ensino usar a API do ChatGpt e Gemini que também é gratuito!! kzbin.info/www/bejne/mIncnp2XmNeeos0

[@thiagolucas2291]

@@inteligenciamilgrau Entendo. Eu quero o modelo mesmo, vi seu video até o final e vai me ajudar muito. a ideia é fazer minha própria api, e pelo que eu vi ai no video da para usar vários modelos e testar (como vc faz com o lama) eu posso usar esses modelos pré-treinados de forma facil em vez de ter que fazer um FT do zero, muito obrigado, esse conteúdo de IA é bem escasso na internet dessa forma.

[@walney2008]

jah tentei baixar uns 3 modelos e nada no LM Studio, qual modelo basico e bom para eu testar ? fica dando este erro, fiz download de uns 2GB e não faz load do model sera porque ? ( No LM Runtime found for model format 'gguf'! ) pode dar uma ajuda ?

[@inteligenciamilgrau]

Faaaa Walney, tenta baixar os modelos direto do LM Studio!! Procura o modelo que você achou na hugging dentro da busca do LM!! Ou copiar o link to modelo do hugging no LM!! Aí vai dar certo!! Valeuuuuuuuu

[@ThiagoC.F.]

Tenho que criar um Space para testar as LLMs?

[@inteligenciamilgrau]

Faaaala Thiago! Primeiro veja se a LLM não está on-line em algum site externo!! Depois veja se não tem um Space feito por outra pessoa com a LLM que vc quer! Se não tiver, aí veja se a LLM é compatível com o Spaces e se sim, é só fazer!! Uhuuuuuu, valeuuuu!!!!

[@ThiagoC.F.]

@inteligenciamilgrau Valeu Bob Mil Grau! Achei vários Spaces, mas imagino que sejam personalizados pelas pessoas que criaram, então acredito que possam ser um pouco diferente do original. Talvez o ideal é criar um Space, conforme você ensinou.

[@jonatasnascimento6584]

Eu queria uma IA que escreve textos com fosse eu. Eu fiz 30 redações escritas por mim, eu iria usar elas para treinar o LLAMA para copiar meu estilo, meu propósito é enganar o detector de IA dos meus professores da facul, que ultimamente a faculdade está me matando é muita resenha para cada disciplina. Enfim quando eu vou treinar o LLAMA e testar , ele me responde com as redações escritas, quando no prompt eu escrevo que faça uma resenha desse texto com essas especificações? O que devo fazer para resolver esse problema? É problema devido aos parâmetros ou de data base? Que treino devo utilizar eu continuo com Fine Tunner ou RAG?

[@jonatasnascimento6584]

Gente isso deve ser ante ético. Porém ninguém conhece a situação. Quem trabalha e faz faculdade tenho pouco tempo. Se estivesse mais tempo eu faria. Eu assisto esses vídeos para aprender mais sobre esse mundo de IA. Criar uma ia para mimhas tarefas séria na minha opinião legal pois tem muitos ferramentas que utilizamos que otimizam o nosso tempo

[@inteligenciamilgrau]

Faaaaaala Jonatas!! A sua necessidade de automatizar os trabalhos vai dizer o quanto realmente precisa!! rsrs Essa tarefa não tenho como te auxiliar pela ética mesmo! Mas o desafio é bom!! Se você conseguir resolver, já tem uma solução que já tem até público alvo!! Valeuuuuuuuuuu

[@viniciusmello6359]

Também não consegui usar ontem o llama 3.2, tá bugado lá hf.

[@inteligenciamilgrau]

Faaaala Vinicius!! É que o plano gratuito usa computação compartilhada, aí é o assim instável mesmo!! Mas dependendo do caso pode ser uma opção! Valeuuuuuuuu

[@capitivaloko7864]

Boa noite essas ia gera imagen ?

[@inteligenciamilgrau]

O Llama apenas interpreta imagens!! Valeuuuuuuuuuuuuuuuu

[@adrianocoelho9322]

top

[@inteligenciamilgrau]

Valeuuuuuuuu Adriano!! Obrigadão

[@zecafeliz6715]

respira ..... esse cara aí é uma IA

[@inteligenciamilgrau]

kkkkkkkkkkkkkkkk

[@jacksonferreira8392]

Da pra usar a API também?

[@inteligenciamilgrau]

Dá sim Jackson!! Todos os modelos hospedados lá a huggingface tem a opção de transformar em API!! No vídeo eu dou uma passada rápida na hora que mostro o modelo, na aba deploy em 3:42 tem um "inference API (serverless)"!!! É ali que você usa!!!! Dá uma olhada!!