Ho provato i migliori software AI Open Source

[@morrolinux]

👉Docker Per Comuni Mortali: corsolinux.com/docker PS: Quello che si vede a 28:00 è OpenWebUI, una interfaccia web per Ollama, avevo dimenticato di menzionarlo!

[@cryptoscopics]

i tuoi video sono sempre spettacolari, tuttavia Il problema di cui parli della rappresentazione delle mani è stato affrontato e risolto in diversi modelli di intelligenza artificiale. Inoltre nella versione GPT-4.o1 Preview, ChatGPT ha superato le difficoltà legate al conteggio delle lettere e ad altri aspetti del ragionamento logico. Poiché il tuo video è stato pubblicato solo 7 ore fa, mentre queste problematiche sono state risolte da mesi, ti suggerirei di aggiornarti alle ultime novità.

[@mattiamartinelli3838]

Grazie Morro, stavo impazzendo per il web ahahah

[@Chayou-qz3wt]

Morro per favore fai un corso per il self hosting della propria ai, addestrabile con i propri dati e raggiungibile dall'esterno tramite internet! Mettete like per farglielo vedere?

[@simonezampini]

+1

[@8001010]

Addestrarla e' impossibile, puoi estendere una gia' addestrata con i tuoi dati pero'.

[@Stefanune]

-1

[@mprone]

Hai 10000 GPU A100 o equivalenti? Se non le hai, non ti serve questo corso.

[@Jeffardio]

Pure il caffè vuoi?

[@leonardochiruzzi7642]

Questa episodio è stato eccezionale. Tutta roba che mi serviva. Purtroppo con gli LLM sono "a mollo" perché ho solo 2GB, ma per il resto devo assolutamente studiarci sopra. Congratulazioni per i tuoi 100.000 iscritti!!!

[@asianhalfshark316]

In realtà ci sono anche piccole LLM che stanno sotto i due giga, non sono decisamente granché, però se vuoi provare l'esperienza si trovano anche LLMs su HuggingFace!

[@Spiderjin]

Ragazzi, questo video è tipo il manuale definitivo per nerd d'assalto! Gatti in HD, sottotitoli magici e ora pure Shell GPT... mi hai rovinato il sonno, sappilo. Top come sempre, continua a sfornare chicche!

[@stukutra75]

Mai visti video più interessanti di questo professionista. Complimenti e grazie per la tua divulgazione.

[@Setola]

Grazie per aver portato a galla il 10%!

[@morrolinux]

Probabilmente ho coperto al massimo il 5%, ci sono ancora tanti progetti interessanti che vorrei approfondire!

[@Setola]

@@morrolinux beh bene! attendiamo fiduciosi i nuovi videi!

[@Luca-rq7uo]

Grazie per questo lavoro mastodontico! P.s i capelli i del vecchio video su ChatGPT erano top 😁

[@burghy86]

complimenti per i 100k!!❤❤

[@95af]

Quanta qualità in questi video. Le chicca finale in bash top

[@riccardocos94]

Auguri per i 100.000 iscritti Morro!!!!

[@bybias68]

Come sempre eccezionale. Argomenti interessanti e ben descritti. Sarebbe bello se tu potessi postare i tuoi script da qualche parte. Grazie ancora per il tuo lavoro 💚

[@LuckyFrank428]

Grazie, con questo video mi hai fatto scoprire sia whisper che il fatto di aggiungere script personalizzati nel menù di Nautilus. Utilissimo. Sarebbe interessante un video su altri modelli da hostare in locale specifici per altre funzioni e che possibilmente girano su CPU

[@Resopmirepus]

beh a tutto dire, anche il mio ex collega inventava cosa non sapeva, non conosceva la matematica, e parlava in Milanese con i clienti Francesi... sarà anche lui un LLM?

[@morrolinux]

🤣🤣🤣

[@lostinthefaq]

AHAHAHHAH

[@amadvance]

Un'analogia più accurata è che il numero di parametri di un modello LLM corrisponde al numero di sinapsi nel cervello, ovvero al numero di connessioni tra i neuroni, piuttosto che al numero di neuroni stessi. Questo perché i parametri rappresentano i pesi che definiscono le connessioni tra le unità nel modello, analogamente a come le sinapsi modulano la comunicazione tra neuroni nel cervello

[@lorebodo]

ho appena smanettato con whisper.cpp (versione cpp di whisper, duh), ci ho sbattuto dentro 300 ore di audio ed è veramente incredibile quanto poco ci abbia messo relativamente (5 orette in totale), e il risultato: semplicemente perfetto (podcast in cui parlano in italiano/inglese, spesso mixati). tutto in locale runnato sulla mia modesta gpu (rtx 2060).

[@shrekkkkkkkkkkkkkkkk]

Se hai almeno 4giga di vram, ti consiglio di dare un occhio a insanely-fast-whisper usando il dataset large-v2 (più accurato sebbene poco più lento del v3).

[@matteomenichetti4032]

Ma whisper è utilizzabile anche tramite cpu?

[@emanueleauriemma2274]

Si, ma estremamente più lento.

[@peaolo]

Whisper l'ho utilizzato per crearmi un file .srt edibile da VLC per un anime per il quale non trovavo i sottotitoli ❤

[@mirkoscotti9022]

​@@shrekkkkkkkkkkkkkkkk grazie non lo sapevo

[@cctvinstaller1996]

Sempre aggiornato grande comunque le soluzioni open source fanno miracoli a volte

[@domenicoragosta2690]

Ma che dire Morro sei il numero 1. Video pazzesco

[@fabriziosimeone8297]

Cercavo giusto giusto i giocattoli per il prossimo weekend, grazie Morro

[@ivanleuci8570]

Complimenti, sei sempre professionale 💪

[@serminbregu3858]

Ciao morro, Puoi fare un video dove utilizzi stregatto o altri agenti collegato a LLM migliori per la generazione di codice. In questa maniera l’agente confronta l’output da diversi LLM e magari fornisce un output più completo e esaustivo.

[@alessandrocuo]

Auguri per i 100mila iscritti morro

[@DavidJamesRosso]

Davvero complimenti per il video!

[@AlessandroModica]

Eila, godibilissimo video! 40 minuti veramente fighi! Whisper è cio che cercavo per estrarre da alcuni video di amicimiei le battute della supercazzola😂! Se fai video approfonditi su whisper sarò in prima linea, nel frattempo lo usero per estrarre il testo da questo tuo video e segnarmi tutte le dritte che hai detto! Shellgpt invece è stato il primo tool che provai qualche mese dopo che uscii chatgpt 3, e tutt'ora lo uso proprio per ricordarmi alcuni comandi linux 😅! Poi ciliegina sulla torta l'astensione su vscode mooolto tattica. Un video pregno di dritte e spunti! Rock on 🤙

[@worrasp]

Ciao Morro il qwen che hai usato è il generico non il verticale sul codice. Quello è qwen-coder

[@eziolinux]

Ciao @Morrolinux. Complimenti per il bellissimo video, sarebbe fantastico se potessi fare un video per commentare l'app open-source flatpak Alpaca (una sorta di interfaccia grafica per LLMs installabile direttamente dal software manager), oppure un video dimostrativo di come aggiungere un interfaccia grafica per Ollama usando Docker. Continua così e ancora complimenti per l'ottimo lavoro.

[@giuliolibrando]

I Gazebo Penguins random su un video di morrolinux, bellissimo. Molto utili i tool, ne sto provando qualcuno, grazie mille!

[@MsAttila1992]

I video che ti stravolgono la giornata 😅

[@EnricoAnsaloni]

Ottimo video... Ti suggerirei di provare anche Open Interpreter: in pratica e' un sysadmin gestito dall'AI: puoi configurarlo con la API di ChatGPT o con qualunque API compatible OpenAI quindi anche con Ollama, e ti fa roba tipo installare software, analizzare i logs per problemi, ottimizzare i parametri del kernel e tanta altra roba ancora... Non e' perfetto perche' ogni tanto si incanta e se lo usi disabilitando le conferme manuali quando ti tocca il sistema puo' essere pericoloso pero' e' fantastico, quantomeno da provare...

[@filippobaudo8701]

Bellissimo video..hai attraversato quasi tutti gli utilizzi delle Ai in locale e soprattutto trattato tanta roba con un linguaggio sempre abbordabile...Grazie !!PS ..sono un curioso con preparazione scientifica (laurea ingegneria)che si vuole approcciare a questo interessantissimo mondo ..ma quando parli di GPU ..intendi quello della scheda video del PC che adoperi? e quanto costano per avere delle perfomance medie ?

[@Sgummol]

Con UVR ti consiglio di usare Ensemble mode Vocals/Instrumental selezionando i modelli 1_HP-UVR e UVR-MDX-NET Inst HQ 4. Dovrebbe dare un miglior risultato perché unisce i risultati dei due modelli

[@ifaber68]

Grande Moreno, video strepitoso! grazie ;-)

[@gnacct]

mi hai fatto esplodere il cervello di idee! finalmente ho trovato l'utilizzo per la quadro che abbiamo nel thinkpad aziendale 😂

[@riccardocigola4540]

Bel video con argomenti interessanti !!

[@FabioGemesio]

Video utilissimo, complimenti

[@davidemiani]

Gran video! Grande Morro

[@AlbertoNao]

ottimo video, io uso spesso llama nella versione più light perchè gira abbastanza bene anche su CPU con buoni risultati. vorrei che provassi con lo stesso esempio Claude, per la programmazione è il migliore che io abbia provato (anche se so bene che è il più costoso sul mercato)

[@harinarzu2193]

WOW grazie , mi hai aperto un mondo

[@fab_spaceinvaders]

suggerisco di installare langflow o 8n8 e fare un prompt tuner che filtra la richiesta, passa il prompt migliorato rispettando le direttive a un pool di agenti coders (magari modelli diversi), un ultimo filtro raccoglie cio' che hanno generato i coders e le valuta e formatta ad hoc una risposta accurata e precisa. Anche con modelli piu piccoli (io uso 2xcpu e 128gb ram ddr4..insomma niente di che) escono fuori i numeri veri :) si puo' usar anche lo stesso modello come coder ma con temperature diverse per vedere approcci piu' o meno "creativi".

[@LuigiTRAINING]

Hai parlato pure poco, sarei stato ancora delle ore a vedere e capire quello che conosci ❤

[@filippolanza1935]

Ciao ottimi video, quando puoi faresti un video sullo Stregatto il progetto di agent per AI tutto italiano?

[@pietrobastas9303]

6:41 gran pezzo 👌

[@paolostefanucci3644]

Un video approfondito per ogni ai open source

[@domenicoacquaviva3901]

Grande lavoro 🙏

[@sifaohd8854]

Per quanto riguarda la matematica e gli LLM, ho visto che ora chiedendo un calcolo a ChatGPT crea uno script python per calcolare il risultato e lo esegue, azzeccandoci al 99% e lasciandoti lo script per controllare. Però non so se sceglie python perchè io le chiedo spesso script python o perchè è hard-coded come linguaggio.

[@SalvoLupoIT]

Bellissimo! Grazie mille ❤

[@NicolaTomassoni]

Un tool fighettoso utile per convertire pdf in formati "machine readable" è MinerU, l'output lo puoi dare poi in pasto per training o sintesi o quel che ti pare

[@Pelice]

video molto interessante e ben fatto!

[@davideguidotti8010]

Mixtral (e molti altri modelli LLM) sarebbero impossibili da eseguire in gou consumer per motivi di spazio nella loro versione "base" (in genere FP16), ma in realtà si trovano facilmente delle versioni "quantized", che hanno performance leggermente inferiori ma occupano molto meno spazio. La versione 8x7b può arrivare anche a 15gb nella variante q2k, ad esempio. In genere il formato utilizzato è GGUF, e i modelli si possono usare con llama.cpp e derivati. (Tecnicamente anche Ollama) Sempre llama.cpp è poi in grado di eseguire un offlloading "misto" sfruttando il più possibile la vram, ma tenendo comunque parte del modello nella memoria ram di sistema. È un approccio ovviamente molto più lento, ma consente comunque di eseguire modelli grandi con performance ancora tuttosommato ragionevoli in contesti dove non sarebbe altrimenti possibile.

[@SimoneScanzoni]

Anche Ollama (che usa llama.cpp) può eseguire modelli distribuendo i layers tra GPU e CPU

[@davideguidotti8010]

@@SimoneScanzoni Vero, anche se ollama al momento non usa ancora tutte le features offerte da llama.cpp, ad esempio non mi pare che venga utilizzata Vulkan, almeno per ora. È anche vero però che buona parte delle gpu moderne sono comunque già supportate attraverso cuda e hip

[@brigo1972]

Grande come sempre. Vorrei consigliarti di recensire come solo tu sai fare un software di nome cursor che praticamente è un fork di VScode con integrata l'AI e non solo.....pazzesco. Ciao

[@asianhalfshark316]

Ciao Morro! potresti anche fare un video sulla differenziazione di qwen:2.5, qwen:2.5-math, qwen:2.5-coder e qwen:2.5-instruct? (tutti 7b o come ti va meglio insomma)

[@monzi444]

Upscayl io lo uso sul mio laptop senza nessuna grafica dedicata, quindi penso proprio che funzioni anche in cpu, Ovviamente ci mette molto più tempo di quello che si vede nel tuo video.

[@stefanomigliari9492]

Sono un programmatore. Se credevi di spaventarmi... ci sei riuscito.

[@PuroSangue91]

Fantastico ! Video Incredibilmente utile, ma posso usare ollama o Llama CPP con apple Silicon ? Mi interessa molto per VSCode

[@rco6088]

6:16 quindi con Ultimate Vocal Remover UVR adesso posso da una qualsiasi canzone separare voce da strumentale, mettere la strumentale a 432HZ o meglio 431.8588, rimettere la voce, e non avere più quell'effetto "vocetta" se metto tutto a 432? Correct? Bellizzimo anche Whisper

[@Dpassaggio-x3d]

wow, c'è tanta carne al fuoco in questo video, tanti strumenti utili da provare e da integrare; personalmente l'ultimo dell'integrazione di una IA nella shell non la proverei per ora, non per niente ma basta pochissimo un click in più su una richiesta non ben compresa e si rischia di dover formattare ahahahah

[@bdnsnsndndbdjdnvbjf1201]

37:53 ma brave non era chromium based? Per usare brave allora tanto vale usare opera (con l’integrazione a lato di chat gpt) o edge (con l’integrazione di copilot) che per l’utilizzo di ai nei browser non penso siano molto diversi da quelli open source

[@corevil]

gran video, sarebbe bello se ne facessi una rubrica periodica

[@Marty-snt]

Sarebbe molto interessante un approfondimento su whisper e su come utilizzare le sue API x integrarlo in un gestionale da me prodotto. Molto bene comunque

[@LimonArts]

Video assurdo ed utilissimo!

[@videobiri361]

Sei un pozzo di informazioni

[@nunzio_clippy]

Io personalmente uso (non in locale) Perplexity per cose abbastanza banali, e usavo Claude per creare un programmino che "contasse" i km (in realtà pixel) fatti dal cursore del mouse con degli occhi che si muovevano al muoversi del cursore stesso. Sono arrivato a una soluzione decente ma che non mi aveva soddisfatto pienamente. Ci proverò di nuovo con qwen 2.5

[@NunzioRaciti]

Video meraviglioso, grazie

[@EMILIANOPEPA-vq3fq]

Quando parli di "experts" ( caso Mixtral ad esempio) vuol dire che sono integrati engine specifici di calcolo o inferenziali che la I.A generalista pilota? Es. Per il calcolo ...Tipo una I.A che pilota MATLAB per dire?

[@RaffaelePioshinTomeo]

Peccato non fosse possibile testare Claude 3.5, secondo me è una bomba anche per il coding se la cava alla grande. (poi ovviamente come hai detto c'è di meglio)

[@sparvy681]

bellissimo video con il codice mi trovo bene anche con claude (meglio di gpt-o). quel che mi manca è un'AI da poter utilizzare come NotebookLM: ho un milione di pdf, odt, doc etc locali e devo proprio trovare un sistema per creare un motore di ricerca limitato ai files. fino ad oggi ho utilizzato elasticsearch che è bello performante ma ormai gli utenti vogliono chattare con LLM 😥

[@turipgn1598]

e l'utilizzo dei RAG? al momento mi sembra abbastanza interessante come possibilità

[@morrolinux]

Coming soon!

[@PaoloLaitempergher-dy1io]

grande, sarebbe interessante un approfondimento su whisper..

[@VincenzoGianfelice]

Ciao morro. Bel video, ma non ho potuto far a meno di notare il tuo browser. Che browser è questo?

[@dogedoge7501]

Con whisper ci sbobino tutte le lezioni universitarie

[@alessandrovitali7104]

che cosa useresti per scrivere un programma strutturato e composto di piu moduli che possono essere scritti ogniuno in un linguaggio differente (C. C++. Rust,, etc) e che richieda che l'AI abbia una ottima conoscenza di leggi matematiche e fisiche ?

[@ZioMarietto]

Cosa si puo' usare x tradurre video in lingua inglese direttamente in lingua italiana. Oppure per creare sottotitoli in italiano di video parlati in inglese ?

[@simonedisalvatore6832]

Whisper

[@ZioMarietto]

@@simonedisalvatore6832 : ci avevo provato qualche anno fa,ma mi ero accorto che la qualita' della traduzione non era un granche'...

[@simonedisalvatore6832]

@@ZioMarietto dipende da che modello usi ( di default usa quello piccolo) , io usavo quello medio ed andava bene

[@ZioMarietto]

@@simonedisalvatore6832 : io ho una RTX 2080 ti con 12 GB di memoria...che modello posso prendere ?

[@simonedisalvatore6832]

@@ZioMarietto a me girava su un ryzen 5 5600x, quindi vai tranquillo. Penso che puoi far girare qualsiasi modello

[@ericnotts1140]

Ciao Morro, quale IA o LLM consiglieresti per attività di Project Management a 360 gradi? Ho sperimentato sia ChatGpt che Claude ma non sono soddisfatto dei risultati di output e spesso devo reiterare le risposte. Grazie!

[@gekid83]

Gran video!!!

[@edoardobarolo4680]

Conosci Anything LLM ? È un tool che integra anche un database vettoriale al suo interno. Ieri ho parlato con un PDF !!

[@antoniosalvatore-s3e]

ho scaricato Qwen 2.5, lo installato, clicco sull'icona ma non si apre, mi puoi risolvere per favore?

[@bdnsnsndndbdjdnvbjf1201]

Scusate come fa nell’ultima parte del video a eseguire il llm in localhost con OLLAMA e testare in contemporanea il server web sempre in localhost? Sta utilizzando porte diverse o utilizza alternativamente il server e il llm o non dovrebbero esserci dei problemi?

[@morrolinux]

Porte diverse chiaramente :)

[@bdnsnsndndbdjdnvbjf1201]

Chiaro grazie mille, non pensavo si potesse fare

[@DRmirva]

qualcosa per fare ocr di tabelle? cmq complimenti per il video davvero interessante

[@MannaggiaAlDemonio]

Trovo molto interessante Anything LLM. Embedda e fornisce delle api general purpose niente male. Si integra quasi con tutto.

[@exedes185]

Ti sei perso ComfyUI o stable diffusion

[@peke5116]

Top video 🎉

[@Bawsermatt]

Cosa cambia tra LM Studio e Ollama? Quale dei due è migliore?

[@gabrieleautelitano5750]

La vera chicca del video sono i Gazebo Penguins

[@francobabici7184]

Ottimo video grazie

[@LucaCanali]

Tu sai, non te lo sto neanche a dire 😂 .... molto interessante sia come video che come tecnologia, l'unico problema che potrei sollevare, non di certo la paura per il posto di lavoro ma l'effetto invornito nel senso che ad usare troppo pesantemente questo genere di tecnologia si rischia di perdere la conoscenza base sulla cosa che si sta usando/facendo e/o anche il saper trovare una soluzione con le proprie forze, es. chi sa piu parcheggiare una macchina che non abbia almeno 20 sensori !?!, ed in ultimo che fioriscano come funghi i programmatori dell'ultima ora !!!

[@morrolinux]

Totalmente d'accordo

[@bat84car]

Ciao Morrolinux, O1-preview ha superato abbastanza bene il problema di saper contare i caratteri. Difficilmente sbaglia. Es. Da quanti caratteri è formata questa frase? ChatGPT Thought per 9 secondi La frase "Da quanti caratteri è formata questa frase?" è composta da: 43 caratteri contando gli spazi. 37 caratteri escludendo gli spazi.

[@AndreaMarioPiovesana]

è multi agent

[@iacolemon]

Iscrizione effettuata

[@RenatoT66]

Super interessante. MI piacerebbe evitare copilot su Vs code e Visual Studio che uso praticamente solo come autocomplete e per qualche metodino semplice da scrivere al volo. Cosa suggerisci? Ho installato Ollama ma mi funziona tutto da shell (Windows) Come abilito quell'interfaccia web con tutti i modelli scaricati? Grazie ;)

[@morrolinux]

OpenWebUI :)

[@RenatoT66]

@@morrolinux grazie. Ho provato QWEN 14b e mi sembra ostico e poco propenso a generare codice. Secondo te qual'è il modello (max 16gb) da usare per la programmazione?

[@trexlm]

Video top !

[@Tonyt346]

Ciao, io sono molto ignorante e mi ha affascinato molto la prima parte in cui la foto diventava più nitida, è possibile fare la stessa cosa con dei video?

[@junkgab]

sei una miniera di softwares interessanti, sono i video trovo piu utili

[@DeepBlueEyes0]

Puoi approfondire il discorso di Whisper? Grazie

[@gianfrancogelati5447]

Sarebbe interessante spiegare come creare gli script che trasformano il file di testo in file per sottotitoli e lo script batch per automatizzare le operazioni

[@diegoquara6727]

Io per esempio studiando fisica all'uni, faccio un sacco di domande a chatGPT, quello pagato, tendenzialmente sul mio corso di studi. Sapete se c'è qualche LM verticale sul campo accademico scientifico, o direttamente sulla fisica?

[@matteo7092]

Prova a fare RAG. Fai una prova con NotebookLM dandogli in input il materiale di studio. Se funziona forse ti conviene puntare in quella direzione.

[@pippopluto8004]

Gli LLM hanno ancora difficoltà con compiti simbolici, come contare il numero di occorrenze di una lettera in una parola, perché non comprendono direttamente il significato intrinseco di parole o frasi, operando invece su rappresentazioni basate su token. Questo approccio riduce la complessità del vocabolario e ottimizza la gestione dello spazio latente, ma può introdurre limitazioni nel preservare alcune relazioni semantiche o logiche specifiche

[@xanScale]

penso sia molto interessante anche la parte precedente, come installare il software per farlo girare su cpu/gpu/npu (npu non ho idea se sia gia possiible) e la compatibilita con il vario hardware intel, amd e nvidia. siamo la parte piu sistemistica

[@gregluv6493]

Ciao Morro. Per favore, potresti fare una guida su come istallare UVR su linux? Ho seguito la guida su github ma non c'è stato verso di istallarlo. Tutte le volte mi tocca avviare win per utilizzarlo . Grazie!

[@ME-dg5np]

Shell gpt fantastico 🎉

[@SimoneScanzoni]

Qwen 2.5 è un modello generalista, Qwen 2.5 Coder è quello specifico per il codice. Quindi hai dimostrato che modelli generalisti open source piccoli a volte possono fare meglio di ChatGPT 💣

[@lucafonino]

Nooooo sei venuto a Dozza haahahah io ci abito se ripassi fammi un fischio che ti offro volentieri un caffè 😊

[@fradev713]

Cursor >> continue