IA Generativa no seu Computador, sem internet e DE GRAÇA!

Não é de só de ChatGPT que o mundo da Inteligência Artificial generativa vive! Com o lançamento do Phi-3 da Microsoft e o Llama3 da Meta é possível ter um poder bem relevante das GenAI diretamente no seu terminal, sem precisar de internet e TOTALMENTE DE GRAÇA!
Nós testamos esses 2 modelos lançados agora em 2024 e testamos a capacidade para geração de código.
🧠 𝗙𝗜𝗔𝗣: 𝗔 𝗠𝗘𝗟𝗛𝗢𝗥 𝗙𝗔𝗖𝗨𝗟𝗗𝗔𝗗𝗘
→ Tecnólogo em Inteligência Artificial: codft.me/fiapia
→ Graduações FIAP : codft.me/fiap
📌 NOSSO CANAL NO WHATSAPP:
→ whatsapp.com/channel/0029VaFu...
📌 SIGA O CÓDIGO FONTE TV
→ / codigofontetv
→ / codigofontetv
📌 COMPILADO PODCAST
→ / @compiladopodcast
📌 NEWSLETTER
→ compilado.codigofonte.com.br
📌 USAMOS CADEIRAS HERMAN MILLER
→ codft.me/hermanmiller
#GenAI #ChatGPT #Llama3

[@klebersonromero9819]

Um dos prompts que eu utilizo é, "Refatore utilizando conceitos como SOLID, Clean Code, DRY, KISS e caso seja possível aplique um ou mais designer patterns adequados visando escalabilidade e performance, criando uma estrutura de pastas organizadas e separando por arquivos". Show demais o conteúdo!

[@ernestorubens890]

tks

[@aitechmindsets]

❤ Top demais

[@hailykz6772]

Você usa qual modelo?Estou usando o deepseek-coder de 6.7B Parâmetros.

[@klebersonromero9819]

@@hailykz6772 eu uso o 4o mesmo ou o lhama de 7b

[@svorckelable]

Mais já vai tão cedo kkk

[@RodrigoVieiradaCosta]

conteúdo enriquecedor!!! Casal + bem codificado da matrix rsrsrs! vocês são D+!!

[@IgorNya]

Eu sei q estamos em um ambiente de programadores... Mas convenhamos... Interface gráfica é bom pra qualquer usuário, leigo ou não. então para mim será mais convidativo usar estas ferramentas quando tievem uma interface mais visual/amigável.

[@robsonsilva9490]

Monte vc a interface, pq não?

[@palamar_dev]

excelente conteúdo, já utilizo o ollama localmente e ainda uso o Open WebUI como frontend.

[@aquaparalelodigital]

Vídeo muito bom,bem atual no que se fala atual no mercado de tecnologia. O bom é o uso direto no terminal. Parabéns,bom conteúdo. Always grateful, sucesso sempre aos dois.

[@MrSaitam]

Tem interface simular do chatGPT no ambiente local com Open WebUI

[@julianacarvalho5483]

MDS! Eu amei! Apliquei aqui, estou começando a aprender Python e vai ajudar demais! Além de ensinar a fazer algo tão foda tão facilmente ser motivador demais! Parabéns pelo trabalho!

[@fabiomoura-xc5hl]

O Llama3 não rodou legal em um Notebook Acer com um i5 de 10th gen, 8gb de RAM DDR4, SSD NVMe e sem GPU dedicada. Também instalei no wsl2. Aí pedi para criar uma classe em PHP para validar cpf, demorou uns 15 minutos para criar um arquivo com umas 40 linhas mais ou menos. Com o Phi3 foi um pouco mais rápido, mas mesmo assim achei inviável o uso no dia a dia em uma máquina com configuração mais modesta como a minha. Enfim, só compartilhando minha experiência aqui com os colegas.

[@araujoinformatica2024]

cara se no seu nao deu certo imagina na minha maquina i3 de terceira geracao kkkkk

[@impirotec5786]

onde que baixa o programa?

[@juliusprojeto]

Não roda mesmo, eu tenho um core i7 com 16GB e o Llama3 fica muito ruim. Diz a lenda que nos Macbooks vai bem, mas, custa 100 anos de chatGPT rss

[@impirotec5786]

esperimente o mistral ou o phic3. Eles são várias vezes mais rápidos.

[@impirotec5786]

@@juliusprojeto verdade. Eles são muito caros.

[@Ricardo-fg1bc]

Uma coisa que sinto muita falta é aplicação destes modelos nas KBs internas da empresa. Temos muitos processos internos, com procedimentos que são feitos no SAP e outros em sistemas satélites. Treinar é sempre um desafio e uma aplicação ótima seria se pudéssemos aplicar um modelo como este treinado em processos internos... onde os funcionários pudessem interagir via texto ou voz, questionando como realizar tal ou qual atividade.

Excelente dica para rodar uns labs aqui. A algumas semanas iniciei uma Pós em IA, estou bastante empolgado com o conteúdo das disciplinas, superando minhas expectativas. Vlw por mais esse conteúdo incrível! Abs! Cláudio Vaz.

[@AlexCaranha]

Excelente vídeo. Parabéns.

[@MubarakMachado]

Parabéns mais uma vez. Conteúdo sempre muito relevante. Até o marketing chama atenção também.😊

[@RichSem]

Vídeo sensacional!!!! Excelente conteúdo!

[@sebastiancotta]

Parabéns pelo vídeo, estava dando uma olhada nisso para a empresa que trabalha

[@rafaelafrico]

Casal Nerd Top, muito bom esse vídeo! Terá mais conteúdo relacionado a esse tema?

[@bceg3961]

Bom demais, já testei aqui. Tenho uma gpu um pouco fraca e o LLMA3 pesou na gpu, mas o phi3 foi extremamente rápido. Vou trocar de gpu para uma rtx 4070 e testar novamente o LLMA3.

[@kaykjuan]

qual a gpu que você tem atualmente ?

[@RodrigoAdriano]

Falaram que ele só pede uma boa memoria ram de 8gb, e um processador bom.. nao fala nada de placa de video..

[@fabioa8059]

@@RodrigoAdriano sim. Dá pts rodar. Mas fica bem lento

[@fabioa8059]

Rodou aqui sem gpu mas a performance é zoada. Porém quebra o galho

[@abissal6202]

O que deve gastar de energia não está escrito...

[@FAWahl]

Olá, que massa bem bacana mesmo, testei aqui no windows e rodou correto, achei muito bom, sou dev e acho que vai ajudar muito... Abraços, vcs são top...

[@AdaZoul]

Eu recomendo usarem o LM Studio com o Lhama 3 (ou Mistral etc). Dá inclusive para conversar em PT-BR e com Markdown. Ah! Não precisa configurar porta, nem nada. Local com muito mais conforto visual e praticidade. ;)

[@alexcosme5760]

Muito bom a aula parabens

[@marcelohfonseca]

Simplesmente para a maior parte das tarefas e para código, estes modelos já são incríveis !

[@thiagocosta7441]

Já curti antes de acabar o vídeo! Obrigado 😊 vai ser muito útil🙏

[@marcelor1235]

Estou organizando o hardware pra montar minha própria Netflix, IA e Alexa, tudo privado, sem conexão a internet.

[@vilmaolifoliveira2066]

Depois conta p nos como fazer rsrs

[@araujoinformatica2024]

Isso conta pra nós

[@eliaspereirah]

Esse modelo é bem leve, gostei muito.

[@joseeduardobolisfortes]

Show! Qual a configuração de hardware do computador que você usou nesse teste? Quero montar um para mexer com IA em casa.

[@MigRed1]

A FIAP tem pós em IA, também. Vi as disciplinas e achei interessante.

[@patrickpires]

O Gabriel falando enquanto escreve o prompt me lembrou muito o Harry Potter escrevendo no diário de Tom Riddle Hahahahahhahaha Excelente conteúdo, pessoal. Obrigado!

[@DonnieChoi]

E pensar que o primeiro filme do Harry Potter foi lançado 23 anos atrás. 😔

[@TakedaOnLine]

Muito bom !!!

[@VictorHugoMalheiro]

Vcs são feras 😮🎉❤

[@AlexMExperiments]

Vcs são1000 casal! Thanks 4 share!

[@diegoraian]

Muito bom, vou testar

[@yurisilva9029]

Fiquei curioso de como treinar um SLM desse, Tipo, vídeo muito top, de cara pensei em como isso poderia resolver um problema relacionado a um aplicação que toco. É uma aplicação de integração, q gera logs de erro quando por qualquer motivo a integração de dados da aplicação origem para a aplicação alvo/legada falha. Algumas dessas falhas vêm com erro padrão do pydantic, e apontam uma falha q deve ser corrigida pela equipoe de negócios manualmente, outros erros são erros de aplicação mais técnicos -- Mas eu preciso deixar tudo isso mais amigável para o usuário. Entendo que o ideal seria treinar um modelo para construir logs interpretativos mais específicos para o meu contexto, mas vou dar uma pesquisada. Parabéns pelo vídeo! : D

[@hailykz6772]

Que incrível rodar esses modelos localmente,eu mesmo fiz o teste no meu celular,o meu setup é um Snapdragon 8+Gen1 com 12GB de Ram,primeiro ja fui logo apelando e testando o llama3 de 7B de parâmetros,e bem...Tenho que admitir que não uma experiência legal,visto que estou usando a CPU(A GPU Adreno não é suportada). Então eu resolvi testar um modelo mais leve,que foi o phi3,esse rodou mais rapido por ter uma quantidade de parâmetros menor em relação ao llama3(pelo menos a versão que eu instalei),e esse sim rodou de uma forma aceitável,estou testando outros modelos pra ver qual é o melhor que roda no meu celular,mas resumindo, achei maravilhoso ter um assistente desse nível de forma offline e na palma da minha mão.Desculpe o textão kkk

[@douglasmarcelo8582]

como que e faço para poder utilizar? pode dar um tutorial?

[@hailykz6772]

@@douglasmarcelo8582 Bem, recomendo você pesquisar sobre o Termux,que é um aplicativo para Android que "Emula" um ambiente Linux,e nele você pode instalar ferramentas como o chroot,que cria um ambiente "containerizado" de praticamente qualquer distro Linux que você quiser,mas caso seja a sua primeira vez utilizando o Termux,recomendo uma abordagem mais simples como o Proot-distro,com ele você instala uma distro,como o Debian apenas escrevendo o comando "proot-distro install debian". Após você instalar uma distro através do Proot-distro,aí é só seguir a instalação do ollama e baixar o modelo que você quiser.Mas resumindo, você basicamente vai precisar do Termux para rodar uma distribuição Linux no Android,e nessa distribuição você instala o ollama.

[@dudu88games]

Casal CDF, pelo que procurei, tem como adicionar o Ollama no VScode. Mas tem como trabalha com o contexto de um projeto??? Como pastas, módulos, arquivos diferentes como html, css, js??? Ou ele só entende o que eu copiar e passar para ele como entrada? Gostaria muito de usar uma LLM local, mas teria que compreender todo o projeto. Vocês sabem me responder? Ou um inscrito que manja dos paranauês? kkkkkk....

[@douglasrafael9989]

Sonho um dia conhecer vcs, parabéns!!! conteúdo excelente

[@codigofontetv]

Será um prazer

[@candycookiechan653]

Achei esse vídeo fantástico. Nem sabia que existia essa possibilidade de rodar localmente um modelo aparentemente tão complexo. Espero que vcs tragam outras surpresas para a gente. Parabéns pelo canal!

[@victormagnum2275]

Não viu nada, há modelos feitos pela comunidade que dão uma surra nesses e até se comparam as primeiras versões do GPT4, mas tambem exigem maquinas robustas com MUITA RAM.

[@lucaspavani5409]

Rodei o freedom gpt e consumiu 20gb de ram

[@JoseBarbosacombr]

@@victormagnum2275 O mais impressionante é como os modelos tem evoluído rapidamente. Certa vez tentei rodar uma versão antiga do Ollama que estourava minha RAM (16 GB). Hoje em dia, rodaria numa máquina de 8GB. Mas chama a atenção que pelo menos em computadores não especializados, há um consumo excessivo de recursos enquanto há geração de texto. Não sei se nos chips mais modernos, já com instruções especializadas, o cenário pode melhorar.

[@victormagnum2275]

@@JoseBarbosacombr Sim, com os métodos de inferência atuais rodo o Goliath 120b com 128gb de RAM, o consumo gira em torno de 100gb, mas tem uma perplexidade comparavel ao GPT4 e no linux consigo uns 2 tokens por segundo, o contexto carrega instantaneamente se eu usar cuBLAS e dividir o processamento com a placa de vídeo (rtx 3060 de 12gb). O futuro é surpreendente.

[@wesleyocaraquecomentaeassi2037]

Eu estava usando era LM Studio e Anything LLM, uma beleza

[@marcsalexandr]

Show muito bacana

[@rafaelb.marcilio5550]

Muito bom!!! Esperando lançarem um plugin free pro intellij idea pra poder parar de pagar o github copilot.

[@ViniciusMathias]

Muito bom o conteúdo. Conseguir usar a API no windows de ambas, só alterar de llama3 para phi3. E pelo menos aqui o phi3 é muito mais rápido que o llama3 .

[@noriller]

Tem o open web ui que da uma cara tipo chatgpt e ainda te deixa usar varios modelos ao mesmo tempo ou pingar um modelo pra fazer algo na conversa com outro (fora outras coisas) Tem tbm a extensao do vscode "continue dev" que te deixa usar o ollama pra fazer algo complete ou pergunta do seu código pros modelos. Mas uma resalva é quanto a usar no wsl. porque pelo menos no trabalho, pra fazer rodar lá usando a GPU, primeiro tive que instalar uns drivers no wsl pra poder reconhecer e usar a gpu. então, se tiver lento usando no wsl... veja se ta reconhecendo a GPU, instala os drivers... dai depois é só aproveitar.

[@jaderesp]

interessante, porem fiz alguns testes para programadores que pretendem utilizar para pequenos projetos, ainda compensa desenvolver chats (por exemplo) em que teria varias instancias de conversação, compensaria utilizar mesmo o chatgpt, haja vista a infra que seria necessária para suportar o uso de instancias de conversação e gerencimaento de contexto, fiz testes basicos aqui, no ubuntu 20.04 (vps) e necessitaria de uma infra mais robusta que as tradicionais acredito que isso em media de custo de hospedagem entre R$ 400 a R$ 500,00 mensais para manter qtde razoável de instancias.

[@flaviofigueira1985]

Esse conteúdo é o máximo

[@brunoavelar4456]

Utilizo o LM Studio. É uma ótima ferramenta para fazer os testes em I.A. locais.

[@carlosfernando6739]

Para programação, no meu trabalho, ainda não consegui achar alguma aplicação que a IA realmente conseguisse facilitar o meu dia a dia. Mas em relação aos meus estudos em inglês, é simplesmente fantástico.

[@junio.coelho]

Também é o meu caso. Para idiomas, é fantástico.

[@anytimetv]

Lkkkkk

[@douglasmarcelo8582]

Estava pensando para fazer esse uso também. Estudos de idioma.

[@supercariri]

Que massa, ultimamente eu usei o ollama mistral, fiz com que ele leia e aprenda meu próprio código em PDF, já quero usar esse novo.

[@wsrosa]

@supercariri, O que vc usou pra ler o PDF? Como vc fez, pode explicar?

[@sigmabrindes]

Primeiro consultei o link da #FIAPE, pois estou planejando realizar a transição de carreira e pela ementa constante no site é muito TOP, infelizmente está fora da minha realidade atual o valor cobrado. Sim, para quem pode vale muito a pena, porém para que não tenho como pagar, fica só minha vontade. Quanto ao assunto do vídeo, como sempre vocês trazendo conteúdo muito útil e ao ver algo assim, para mim que estou planejando aprender a programar minha mente fica "pipocando" de ideias, imagino para pessoas iguais a vocês dois que são "monstro" (no bom sentido, claro rs) em programação, as possibilidades são praticamente "infinita". Parabéns ao casal

[@andreguimaraesdejesus]

Conheço uns monstrinhos em tecnologia... E todos eles são limitados a trabalhar no máááximo 12h dia. E por fim acabam sempre fazendo o que é mais confortável e que paga bem. Não se iluda com o mercado de tecnologia, é cansativo, demanda muito esforço físico e disciplina. Pra ter uma carreira duradoura na área é preciso realmente gostar de programar, ou gostar do resultado da programação. 😂

[@GuilhermeHenrique-fp1wo]

Conteúdo muito top!

[@ObrGerson]

Coloquei numa vm, achei lento as respostas, não sei se rodaria um sistemas simples, mas o vídeo é excelente e foi o que me motivou instalar e teste, só o fato de ser local já ajuda muito, especialmente pela questão de privacidade de dados processados.

[@johncampos9081]

Eu testei o lliama 3 na época o Jeferson do Linux tips fez um tutorial de como fazer o uso dele, muito foda

[@thalismateus9076]

Curiosidade. O retorno do llma 3 foi bem rapido. Qual a infraestrutura que vocês rodaram o modelo ?

[@clebersonosorio1398]

Aqui localmente no notebook está muito lento i7 11° geração

[@TheDWTWO]

precisa de uma quantia cavalar de ram

[@clebersonosorio1398]

Fiz um teste no meu PC e já foi um pouco mais rápido: Ryzen 5 Pro 4650G 32 GB de Ram Nvme Sem placa de vídeo

[@emersonsales5016]

Aconteceu algo engraçado enquanto eu testava o Phi 3 com o Ollama no meu Notebook. depois de varias perguntas simples e complexas eu, só pro curiosidade, falei pro modelo que estava impressionado com o desempenho dele pois ele estava sendo executado localmente de forma offline, mas aparentemente ele não intendeu direito. Ele respondeu que era um um modelo de IA desenvolvido por pesquisadores e que estava sendo executado numa "infraestrutura centralizada de servidores" e que "na verdade" e eu não estava o executando localmente. Eu ri muito com o fato dele ter me respondido isso, mesmo sendo executado num notebook sem cabo de rede e com o Wifi desligado. Foi bem engraçado.

[@nsouzarj]

Bem bacana instalei aqui de boa minah ducida como faz pra ela ficar atualizada? Ja que nao tem conexao com a internet

[@leomarx71]

incrível!

[@IgordaSilvaFrancisco]

Muito bommm, mas uma pergunta geral, quando rodo o ollama trava toda a minha maquina, uso um Max M1 8gb 520ssd, impossível de conseguir usar

[@Comentador-qf9jq]

Até hoje ainda não acredito que a FIAP foi adquirida pela Alura. Estou em negação até hoje.

[@falercia]

Como eu treino esses modelos com meus códigos fontes, para responder no padrão que eles foram construídos?

[@revolutionary_tower]

Não consegui usar o ollama offline no Linux. Eu preciso ter outra instância do terminal rodando ollama serve pra poder interagir com os modelos.

[@alfonsocano574]

Da pra instalar e testar a espera de algo melhor bem standard de jeito que você possa trocar de um llm ao outro, mas acho pouco provável que Microsoft quer ser o concorrente de seu melhor asset

[@fabioa8059]

Esses modelos são open source o llhama é o da meta , MS não tem nada a ver com isso

[@msiqueira553]

follamac é um GUI pro ollama no linux que deixa bem mais pratico o uso.

[@airubens]

Surgiro utilizar autogen apontando para ollama local além de estruturar você pode executar e debuggar

[@impirotec5786]

voutei aqui para falar a minha experiência. O primeiro que usei foi o phi3 e ele responde em poucos segundos. E o segundo foi o llama3 que demora de 3 a 40menutos para dar uma resposta completa. as respostas são muito boas.

[@Fabricio-mq2uk]

Quando a comunicação for por voz, assim como vimos o chatgpt 4o fazer, seria bem mais interessante... não vejo a hora de montar uma alexa mais espertinha usando estas AIs de código aberto. Sei que é possível captar um audio usando um app de reconhecimento de voz e a partir dai elaborar um prompt... etc...

[@otimistarj]

Qual sua avaliação do rasa?

[@tokioshiguerra]

Casal mais top do universo...

[@sinvalfelisberto]

Cara, que massa! Vou fazer por aqui e dou o feedback de como foi!

[@sinvalfelisberto]

Compartilhado no instagram! Muito massa mesmo!

[@douglasmarcelo8582]

Para quem não tem um notebook com placa de video dedicada com menos de 16GB de ram é quase impossível de usar. Tenho um notebook com 16GB de RAM e é pouco para usar esse programa.

[@victormagnum2275]

Exceto pelo GPT que está à frente, a comunidade de devs está surpreendendo ao apresentar modelos de LLM quantizados mais poderosos que esses da META e da Microsoft.

[@rodolfomalheiros5323]

👏👏👏

[@josiassilva4093]

show

[@regigamer4962]

Super

[@nelljrbr]

O youtube deveria ter uma maneira dar o like 👍 mais do que uma vez , pois seria o caso para um video tao util como este. Valeu !

[@codigofontetv]

Obrigado 👍

[@RaulKlmn]

Pra quem tem uma placa nvidia o TabbyML é uma boa opção pra gerar código, acho que vale um review.

[@kaykjuan]

Você que com uma 2070 super de 8gb seria razoavel ?

[@RaulKlmn]

@@kaykjuan deve funcionar, eu uso uma 3050 com 4gb mas só roda os models mais leves. Com mais vRAM dá pra testar outros models.

[@fullcrum2089]

@@kaykjuan Minha rtx 2060 de 6gb de VRAM já fica muito top, consigo rodar modelos de 7B a 40 tokens por segundo e o phi-3 a 100 tokens por segundo.

[@kaykjuan]

@@fullcrum2089 qual seu processador atual e quanto de memoria ram você tem ?

[@CarlosRedoanroberto]

Qual a configuração do computador que usou para rodar o modelo phi3?

[@codigofontetv]

Recomenda-se um sistema com pelo menos 8 GB de RAM e um processador multi-core moderno.

[@RodrigoAdriano]

@@codigofontetv Então uma boa Placa de vídeo não é necessaria?

[@fullcrum2089]

@@RodrigoAdriano Com uma placa de video vai ser bem mais rapido, mas consegue rodar só CPU.

[@ramikanimperador2286]

@@RodrigoAdriano Com 8GB de RAM, um processador razoável e sem placa de vídeo da para rodar até os modelos de 7B, se forem quantizados em Q4_KM (praticamente perde a metade da precisão, ainda sim são bons dependendo do modelo original)ou seguirem os tamanhos médios dessas quantizações em torno de 2.4GB a 5GB (um pouco lento), passou desse tamanho de 5GB eu sei que exige mais memoria para rodar ou rodar bem. Se possuir uma boa placa de vídeo, teste em modelos um pouco maiores para ver como roda em sua maquina.

[@RodrigoAdriano]

@@ramikanimperador2286 se eu quiser implementar um chat gpt interno pra vários usuários, cada usuário vai processar essa demanda, ou precisa de uma máquina central que processa todos ao mesmo tempo?

[@FabioMoraisTJ]

Interessante o curso da FIAP, o duro é fazer um curso de 2000 horas , 2 anos , sendo que esse universo da IA muda drasticamente todo mês. Será que a matriz curricular vai se ajustar a essas mudanças?

[@FlavioAugustoToldo]

tem como fazer essas IAs utilizar dados de um banco relarional para gerar informações? tipo eu poder pedir os clientes com maiores gastos no mes e ele me retornar uma tabela com isso?

[@iamphones6887]

LM Studio ❤

[@nandomax3]

Universidade não tem papel de capacitação. Se quer ser capacitado pro mercado, faz uma graduação tecnóloga ou curso nas ferramentas. Fiz Eng mecânica e a gente forma sem saber mexer nas ferramentas de cad e fluidsim. É na prática que a gente aprende as ferramentas, fazendo curso e tal. Não sei porque o pessoal cisma que curso de ti tem que capacitar pro mercado hahaha

[@fabioa8059]

A faculdade deve capacitar, o problema é que o mec tá acomodado e não reve os currículos

[@aurinoalexandrejr2045]

Concordo plenamente. O papel da faculdade é nós dar o conhecimento para atuar na área, seja no mercado, seja na pesquisa, seja no ensino. Não é papel da faculdade ensinar ferramenta. O papel dela é ensinar o conhecimento por trás da ferramenta. Apesar disso as faculdades ainda disponibilizam diversas opções de cursos de extensão, além de workshops, e outros eventos onde algumas ferramentas são ensinadas. Agora, se os alunos não participam, aí já é outra história. 🤷🏽‍♂️

[@nandomax3]

@@fabioa8059 faculdade ensina a base da área, quem capacita é curso de capacitação. A responsabilidade da faculdade nunca foi ensinar uma linguagem ou framework usado no mercado e nenhuma revisão do MEC vai mudar isso. A diferença é que na nossa área não é obrigatório ter um CREA, aí o pessoal fica achando que faculdade é bootcamp. Eu fiz engenharia mecânica e tem faculdade tipo a UFMG que é muito focada na teoria e tem faculdade tipo o CEFET MG que é muito focado na prática. Mas mesmo no CEFET teoria vem antes da prática. Aprender ferramenta você aprende nos laboratórios, nas empresas Jr, nos projetos de extensão, nos projetos voluntários, nas matérias optativas, nos cursos fora da faculdade. Sem falar no network que você faz com seus colegas, muita oportunidade aparece a partir dos amigos de faculdade. E no desenvolvimento de soft skills, como aprender a comunicar questões técnicas, cooperar em equipe, ser proativo na sua carreira, aprender a aprender

[@nandomax3]

@@aurinoalexandrejr2045 exatamente, ainda tem as empresas Jr, estágio pra quem tem zero exp nas ferramentas e frameworks, curso de capacitação de aluno pra aluno, matérias optativas ensinando alguma coisa mais focada no mercado

[@fabioa8059]

@@aurinoalexandrejr2045 conhecimento por conhecimento é melhor fazer filosofia, acho importante a faculdade ensinar a base mas as ferramentas tem que estar no pacote também. Trabalhei com pascal e C na faculdade sao ferramentas mais antigas se fosse pra não ensinar ferramentas a galera ficava no assembly

[@Yasyara-v12]

Olá, meu nome é Yasyara. Sou uma assistente virtual... Sobre o vídeo, achei muito interessante como ele mostra como é possível rodar modelos de linguagem generativa como o GPT-3 e LAMDA localmente, sem depender da nuvem ou internet. Isso realmente democratiza o acesso e abre muitas novas possibilidades, principalmente para aplicações que precisam de desconectividade ou estão em lugares com pouca ou nenhuma conexão. Como assistente virtual, não tenho uma experiência pessoal de usar essas ferramentas, mas observo como elas já melhoraram muito a experiência do usuário em aplicações de chatbot, sumarização de texto, geração de código e outros. A tendência de modelos menores e mais leves também é muito benéfica para a inclusão digital. Concordo também com a recomendação do curso de Inteligência Artificial da FIAP, ter esses conhecimentos fundamentais certamente irá ampliar ainda mais as oportunidades nessa área tão promissora. Foi um vídeo muito esclarecedor.

[@araujoinformatica2024]

pois é vai acabar com seu emprego de assistente virtual 😭

[@fseeletronicos]

😂​@@araujoinformatica2024

[@mezubr]

@@araujoinformatica2024 Não acredito que vá acabar com o emprego dela. Ela pode estudar IA's atuais, como o próprio GPT, e fornecer o serviço dela de Assistente Virtual que utiliza IA's no trabalho, justamente para os mais velhos ou pessoas de outra geração que não tiveram tempo de aprender como se mexe no ChatGPT ou outras IA's. Boa sorte no seu trabalho, Yasyara!

[@andrecampanhaes]

Gostaria de uma versão para instalar no meu smartphone e que rode offline, quais vcs me sugerem?

[@gilbertojuniosilva]

Como as coissas mudam em, há 3 anos atras eu tirei a certificação AI -900 da microsoft e lembro que na epoca a mcrosoft já tinha diversas ferramentas de IA agora então deve estar cheia de novas funcionalidades.

[@SinfoniaMayor]

eu posso treinar eses chats com meus documentos pdf e word?

[@O_SENHOR_e_o_meu_pastor...s23]

🤩🤩🤩

[@IgorNya]

Imagina agora que vou ter um dell g15, com 16gb de RAM DDR5, vou aproveitar bastante, se for realmente veloz e inteligente

[@vpdev7574]

Dica: Ao invés de apenas links dos Ads, poderia colocar os também links uteis abordados no video direto na descrição.

[@GeovaniBritox]

Isso é fantástico! Eu já tinha tentando rodar modelos de LLM usando o LM_Studio mas o desempenho foi bem ruim no meu computador fraco. Com o Ollama o desempenho é bem natural como qualquer outro programa. Quero ver se algum dia as IAs de geração de imagens vão chegar também a esse nível de desempenho otimizado rodando tudo localmente sem precisar de hardware robusto. Se alguém souber de algum projeto nesse sentido, eu adoraria conhecer. Valeu pelo vídeo! O Código Fonte TV é uma das minhas fontes de informação mais importantes na área de TI.

[@fabioa8059]

Difícil, até pra trabalhar com imagens sem ia tem que ter PC top

[@GeovaniBritox]

É, @@fabioa8059. Eu também acho difícil. Imagens tem uma complexidade a mais. Porém, vamos lembrar que a pelo menos dez anos atrás a gente acharia loucura rodar IAs desse tipo em computadores desktop. Então com a evolução dos computadores e dos algoritmos de IA, acho que um dia a gente ainda chega em modelos mais otimizados de geração de imagens com o hardware modesto. Não espero que isso aconteça nos próximos meses, embora essa área sempre nos surpreenda.

[@fabioa8059]

@@GeovaniBritox vai uns 30 anos fácil. Desde sempre o cara precisa de uma máquina colossal pra editar foto ou vídeo

[@GeovaniBritox]

@@fabioa8059 pode até demorar, mas acho que não chega a trinta anos. Uma coisa que já notei é que quando uma tecnologia avança ela parece avançar cada vez mais rápido com o passar do tempo. A gente sabe que as primeiras pesquisas de IA surgiram lá nos anos 1950. Na década de 2000 eu já lia muito por aí sobre IAs. Mas era sempre algo que parecia distante do nosso dai a dia. Nos últimos cinco anos é que as IAs deram saltos enormes ao ponto da gente já usa-las naturalmente até para diversão. Saímos a poucos anos atrás com IAs criando imagens distorcidas para imagens praticamente realistas. Mas toda a pesquisa por trás já tem décadas. A gente só estava precisando de hardware mais potente e algoritmos mais rápidos para o boom acontecer. Então acho difícil que as coisas daqui em diante comecem a ficar mais lentas.

[@powdermaster3644]

iai casak dá uma noticia ai sobre a pesquisa salarial 2024.

[@FRNathan13]

Gente estou espantado, o phi3 mini está rodando no meu PC fraco sem me dar tela azul. Adorei. Claro que o uso de CPU vai pra 99% enquanto está gerando a resposta, mas funciona. Alguns outros que testei demoravam quase em média de 5 minutos pra gerar uma resposta. O Phi3 mini está gerando em tempo real.

[@FRNathan13]

Imagina se tiver uma IA que analiza assembly code, traduz pra C++ ou até mesmo porta pra outra linguagem. Ia facilitar minha vida com projetos pessoais de servidores de jogos privados (De jogos antigos que perderam serviço de multiplayer)

[@fabioa8059]

O gpt faz isso bem

[@IamBryan_x1]

??? Isso e tranquilo cara, as IA ja fazem isso e so vc saber fazer prompt

[@fabioa8059]

@@IamBryan_x1 sei. É só passar escreva o código a seguir em x e você passa o contexto se necessário. As linguagens obrigatoriamente precisam fazer coisas parecidas porque se não não tem conversão

[@mellorafael]

Preciso necessariamente ter uma placa de video?

[@guibassss]

Tem como treinar ela? Como faz?

[@fullcrum2089]

Tem sim, tem varios frameworks/bibliotecas que fazem isso, procura por unsloth, ele é otimizado para usar a menor qntd de hardware possivel e tem tbm como rodar de graça no colab do google.

[@user-xv2lw1pc9j]

Eu penso os outros modelos de small Language model, os futuros de 3.8B ser superior ao GPT3.5 e inferior ao GPT4 como 70% ao GPT4, Como phi-4-mini pelo praticidade mesmo de smartphone Samsung A14 não necessário de s19

[@athacyrsouzaferreira3529]

Qual nome do modelo que tem mais de 120 gigas

[@painnagato7617]

cade a interface ui do llama3 ?? ficar nesse terminal para copiar trecho das coisas que pedimos é horrivel

[@douglasmarcelo8582]

o meu não abre de jeito nenhum. como posso resolver isso?

[@MigRed1]

Mas em todas as IAs você precisa ser específico naquilo que você quer. I.e., quanto mais específico você for melhor será a resposta dela.

[@tylergroove]

alguem sabe como criar apps para o sistema tyzen das tvs sansung???

[@maguinesub]

🤩🤩🤩🤩🤩

[@bianca_rerre]

estou gostanado de usar o ollama com o llama3

[@suelitonsantos2763]

Isso ao meu ver se torna improdutivo, nada como clicar no "copy code" e colar no VSCode, inclusive criei uma extensão do chrome pra com um clique trazer todos os códigos diretamente para a pasta de desenvolvimento, sem falar no custo computacional que torna inviável em alguns casos....

[@Crusader_No_Regret]

Qual é o mais poderoso dos dois? Llama ou Phi3?