Ho provato i migliori software AI Open Source

[@morrolinux]

👉Docker Per Comuni Mortali: corsolinux.com/docker PS: Quello che si vede a 28:00 è OpenWebUI, una interfaccia web per Ollama, avevo dimenticato di menzionarlo!

[@cryptoscopics]

i tuoi video sono sempre spettacolari, tuttavia Il problema di cui parli della rappresentazione delle mani è stato affrontato e risolto in diversi modelli di intelligenza artificiale. Inoltre nella versione GPT-4.o1 Preview, ChatGPT ha superato le difficoltà legate al conteggio delle lettere e ad altri aspetti del ragionamento logico. Poiché il tuo video è stato pubblicato solo 7 ore fa, mentre queste problematiche sono state risolte da mesi, ti suggerirei di aggiornarti alle ultime novità.

[@mattiamartinelli3838]

Grazie Morro, stavo impazzendo per il web ahahah

[@leonardochiruzzi7642]

Questa episodio è stato eccezionale. Tutta roba che mi serviva. Purtroppo con gli LLM sono "a mollo" perché ho solo 2GB, ma per il resto devo assolutamente studiarci sopra. Congratulazioni per i tuoi 100.000 iscritti!!!

[@asianhalfshark316]

In realtà ci sono anche piccole LLM che stanno sotto i due giga, non sono decisamente granché, però se vuoi provare l'esperienza si trovano anche LLMs su HuggingFace!

[@Spiderjin]

Ragazzi, questo video è tipo il manuale definitivo per nerd d'assalto! Gatti in HD, sottotitoli magici e ora pure Shell GPT... mi hai rovinato il sonno, sappilo. Top come sempre, continua a sfornare chicche!

[@stukutra75]

Mai visti video più interessanti di questo professionista. Complimenti e grazie per la tua divulgazione.

[@Setola]

Grazie per aver portato a galla il 10%!

[@morrolinux]

Probabilmente ho coperto al massimo il 5%, ci sono ancora tanti progetti interessanti che vorrei approfondire!

[@Setola]

@@morrolinux beh bene! attendiamo fiduciosi i nuovi videi!

[@Chayou-qz3wt]

Morro per favore fai un corso per il self hosting della propria ai, addestrabile con i propri dati e raggiungibile dall'esterno tramite internet! Mettete like per farglielo vedere?

[@simonezampini]

+1

[@8001010]

Addestrarla e' impossibile, puoi estendere una gia' addestrata con i tuoi dati pero'.

[@Stefanune]

-1

[@mprone]

Hai 10000 GPU A100 o equivalenti? Se non le hai, non ti serve questo corso.

[@Jeffardio]

Pure il caffè vuoi?

[@burghy86]

complimenti per i 100k!!❤❤

[@worrasp]

Ciao Morro il qwen che hai usato è il generico non il verticale sul codice. Quello è qwen-coder

[@95af]

Quanta qualità in questi video. Le chicca finale in bash top

[@Luca-rq7uo]

Grazie per questo lavoro mastodontico! P.s i capelli i del vecchio video su ChatGPT erano top 😁

[@serminbregu3858]

Ciao morro, Puoi fare un video dove utilizzi stregatto o altri agenti collegato a LLM migliori per la generazione di codice. In questa maniera l’agente confronta l’output da diversi LLM e magari fornisce un output più completo e esaustivo.

[@pietrobastas9303]

6:41 gran pezzo 👌

[@bybias68]

Come sempre eccezionale. Argomenti interessanti e ben descritti. Sarebbe bello se tu potessi postare i tuoi script da qualche parte. Grazie ancora per il tuo lavoro 💚

[@LuckyFrank428]

Grazie, con questo video mi hai fatto scoprire sia whisper che il fatto di aggiungere script personalizzati nel menù di Nautilus. Utilissimo. Sarebbe interessante un video su altri modelli da hostare in locale specifici per altre funzioni e che possibilmente girano su CPU

[@lorebodo]

ho appena smanettato con whisper.cpp (versione cpp di whisper, duh), ci ho sbattuto dentro 300 ore di audio ed è veramente incredibile quanto poco ci abbia messo relativamente (5 orette in totale), e il risultato: semplicemente perfetto (podcast in cui parlano in italiano/inglese, spesso mixati). tutto in locale runnato sulla mia modesta gpu (rtx 2060).

[@shrekkkkkkkkkkkkkkkk]

Se hai almeno 4giga di vram, ti consiglio di dare un occhio a insanely-fast-whisper usando il dataset large-v2 (più accurato sebbene poco più lento del v3).

[@matteomenichetti4032]

Ma whisper è utilizzabile anche tramite cpu?

[@emanueleauriemma2274]

Si, ma estremamente più lento.

[@peaolo]

Whisper l'ho utilizzato per crearmi un file .srt edibile da VLC per un anime per il quale non trovavo i sottotitoli ❤

[@mirkoscotti9022]

​@@shrekkkkkkkkkkkkkkkk grazie non lo sapevo

[@amadvance]

Un'analogia più accurata è che il numero di parametri di un modello LLM corrisponde al numero di sinapsi nel cervello, ovvero al numero di connessioni tra i neuroni, piuttosto che al numero di neuroni stessi. Questo perché i parametri rappresentano i pesi che definiscono le connessioni tra le unità nel modello, analogamente a come le sinapsi modulano la comunicazione tra neuroni nel cervello

[@cctvinstaller1996]

Sempre aggiornato grande comunque le soluzioni open source fanno miracoli a volte

[@Resopmirepus]

beh a tutto dire, anche il mio ex collega inventava cosa non sapeva, non conosceva la matematica, e parlava in Milanese con i clienti Francesi... sarà anche lui un LLM?

[@morrolinux]

🤣🤣🤣

[@lostinthefaq]

AHAHAHHAH

[@riccardocos94]

Auguri per i 100.000 iscritti Morro!!!!

[@AlessandroModica]

Eila, godibilissimo video! 40 minuti veramente fighi! Whisper è cio che cercavo per estrarre da alcuni video di amicimiei le battute della supercazzola😂! Se fai video approfonditi su whisper sarò in prima linea, nel frattempo lo usero per estrarre il testo da questo tuo video e segnarmi tutte le dritte che hai detto! Shellgpt invece è stato il primo tool che provai qualche mese dopo che uscii chatgpt 3, e tutt'ora lo uso proprio per ricordarmi alcuni comandi linux 😅! Poi ciliegina sulla torta l'astensione su vscode mooolto tattica. Un video pregno di dritte e spunti! Rock on 🤙

[@DavidJamesRosso]

Davvero complimenti per il video!

[@Sgummol]

Con UVR ti consiglio di usare Ensemble mode Vocals/Instrumental selezionando i modelli 1_HP-UVR e UVR-MDX-NET Inst HQ 4. Dovrebbe dare un miglior risultato perché unisce i risultati dei due modelli

[@domenicoragosta2690]

Ma che dire Morro sei il numero 1. Video pazzesco

[@ivanleuci8570]

Complimenti, sei sempre professionale 💪

[@domenicoacquaviva3901]

Grande lavoro 🙏

[@MsAttila1992]

I video che ti stravolgono la giornata 😅

[@eziolinux]

Ciao @Morrolinux. Complimenti per il bellissimo video, sarebbe fantastico se potessi fare un video per commentare l'app open-source flatpak Alpaca (una sorta di interfaccia grafica per LLMs installabile direttamente dal software manager), oppure un video dimostrativo di come aggiungere un interfaccia grafica per Ollama usando Docker. Continua così e ancora complimenti per l'ottimo lavoro.

[@riccardocigola4540]

Bel video con argomenti interessanti !!

[@fabriziosimeone8297]

Cercavo giusto giusto i giocattoli per il prossimo weekend, grazie Morro

[@FabioGemesio]

Video utilissimo, complimenti

[@davidemiani]

Gran video! Grande Morro

[@filippobaudo8701]

Bellissimo video..hai attraversato quasi tutti gli utilizzi delle Ai in locale e soprattutto trattato tanta roba con un linguaggio sempre abbordabile...Grazie !!PS ..sono un curioso con preparazione scientifica (laurea ingegneria)che si vuole approcciare a questo interessantissimo mondo ..ma quando parli di GPU ..intendi quello della scheda video del PC che adoperi? e quanto costano per avere delle perfomance medie ?

[@giuliolibrando]

I Gazebo Penguins random su un video di morrolinux, bellissimo. Molto utili i tool, ne sto provando qualcuno, grazie mille!

[@EnricoAnsaloni]

Ottimo video... Ti suggerirei di provare anche Open Interpreter: in pratica e' un sysadmin gestito dall'AI: puoi configurarlo con la API di ChatGPT o con qualunque API compatible OpenAI quindi anche con Ollama, e ti fa roba tipo installare software, analizzare i logs per problemi, ottimizzare i parametri del kernel e tanta altra roba ancora... Non e' perfetto perche' ogni tanto si incanta e se lo usi disabilitando le conferme manuali quando ti tocca il sistema puo' essere pericoloso pero' e' fantastico, quantomeno da provare...

[@alessandrocuo]

Auguri per i 100mila iscritti morro

[@SalvoLupoIT]

Bellissimo! Grazie mille ❤

[@gnacct]

mi hai fatto esplodere il cervello di idee! finalmente ho trovato l'utilizzo per la quadro che abbiamo nel thinkpad aziendale 😂

[@LuigiTRAINING]

Hai parlato pure poco, sarei stato ancora delle ore a vedere e capire quello che conosci ❤

[@sifaohd8854]

Per quanto riguarda la matematica e gli LLM, ho visto che ora chiedendo un calcolo a ChatGPT crea uno script python per calcolare il risultato e lo esegue, azzeccandoci al 99% e lasciandoti lo script per controllare. Però non so se sceglie python perchè io le chiedo spesso script python o perchè è hard-coded come linguaggio.

[@ifaber68]

Grande Moreno, video strepitoso! grazie ;-)

[@NicolaTomassoni]

Un tool fighettoso utile per convertire pdf in formati "machine readable" è MinerU, l'output lo puoi dare poi in pasto per training o sintesi o quel che ti pare

[@brigo1972]

Grande come sempre. Vorrei consigliarti di recensire come solo tu sai fare un software di nome cursor che praticamente è un fork di VScode con integrata l'AI e non solo.....pazzesco. Ciao

[@filippolanza1935]

Ciao ottimi video, quando puoi faresti un video sullo Stregatto il progetto di agent per AI tutto italiano?

[@fab_spaceinvaders]

suggerisco di installare langflow o 8n8 e fare un prompt tuner che filtra la richiesta, passa il prompt migliorato rispettando le direttive a un pool di agenti coders (magari modelli diversi), un ultimo filtro raccoglie cio' che hanno generato i coders e le valuta e formatta ad hoc una risposta accurata e precisa. Anche con modelli piu piccoli (io uso 2xcpu e 128gb ram ddr4..insomma niente di che) escono fuori i numeri veri :) si puo' usar anche lo stesso modello come coder ma con temperature diverse per vedere approcci piu' o meno "creativi".

[@davideguidotti8010]

Mixtral (e molti altri modelli LLM) sarebbero impossibili da eseguire in gou consumer per motivi di spazio nella loro versione "base" (in genere FP16), ma in realtà si trovano facilmente delle versioni "quantized", che hanno performance leggermente inferiori ma occupano molto meno spazio. La versione 8x7b può arrivare anche a 15gb nella variante q2k, ad esempio. In genere il formato utilizzato è GGUF, e i modelli si possono usare con llama.cpp e derivati. (Tecnicamente anche Ollama) Sempre llama.cpp è poi in grado di eseguire un offlloading "misto" sfruttando il più possibile la vram, ma tenendo comunque parte del modello nella memoria ram di sistema. È un approccio ovviamente molto più lento, ma consente comunque di eseguire modelli grandi con performance ancora tuttosommato ragionevoli in contesti dove non sarebbe altrimenti possibile.

[@SimoneScanzoni]

Anche Ollama (che usa llama.cpp) può eseguire modelli distribuendo i layers tra GPU e CPU

[@davideguidotti8010]

@@SimoneScanzoni Vero, anche se ollama al momento non usa ancora tutte le features offerte da llama.cpp, ad esempio non mi pare che venga utilizzata Vulkan, almeno per ora. È anche vero però che buona parte delle gpu moderne sono comunque già supportate attraverso cuda e hip

[@harinarzu2193]

WOW grazie , mi hai aperto un mondo

[@AlbertoNao]

ottimo video, io uso spesso llama nella versione più light perchè gira abbastanza bene anche su CPU con buoni risultati. vorrei che provassi con lo stesso esempio Claude, per la programmazione è il migliore che io abbia provato (anche se so bene che è il più costoso sul mercato)

[@NunzioRaciti]

Video meraviglioso, grazie

[@gekid83]

Gran video!!!

[@Pelice]

video molto interessante e ben fatto!

[@asianhalfshark316]

Ciao Morro! potresti anche fare un video sulla differenziazione di qwen:2.5, qwen:2.5-math, qwen:2.5-coder e qwen:2.5-instruct? (tutti 7b o come ti va meglio insomma)

[@paolostefanucci3644]

Un video approfondito per ogni ai open source

[@videobiri361]

Sei un pozzo di informazioni

[@LimonArts]

Video assurdo ed utilissimo!

[@rco6088]

6:16 quindi con Ultimate Vocal Remover UVR adesso posso da una qualsiasi canzone separare voce da strumentale, mettere la strumentale a 432HZ o meglio 431.8588, rimettere la voce, e non avere più quell'effetto "vocetta" se metto tutto a 432? Correct? Bellizzimo anche Whisper

[@monzi444]

Upscayl io lo uso sul mio laptop senza nessuna grafica dedicata, quindi penso proprio che funzioni anche in cpu, Ovviamente ci mette molto più tempo di quello che si vede nel tuo video.

[@peke5116]

Top video 🎉

[@PuroSangue91]

Fantastico ! Video Incredibilmente utile, ma posso usare ollama o Llama CPP con apple Silicon ? Mi interessa molto per VSCode

[@Dpassaggio-x3d]

wow, c'è tanta carne al fuoco in questo video, tanti strumenti utili da provare e da integrare; personalmente l'ultimo dell'integrazione di una IA nella shell non la proverei per ora, non per niente ma basta pochissimo un click in più su una richiesta non ben compresa e si rischia di dover formattare ahahahah

[@trexlm]

Video top !

[@francobabici7184]

Ottimo video grazie

[@bdnsnsndndbdjdnvbjf1201]

37:53 ma brave non era chromium based? Per usare brave allora tanto vale usare opera (con l’integrazione a lato di chat gpt) o edge (con l’integrazione di copilot) che per l’utilizzo di ai nei browser non penso siano molto diversi da quelli open source

[@corevil]

gran video, sarebbe bello se ne facessi una rubrica periodica

[@nunzio_clippy]

Io personalmente uso (non in locale) Perplexity per cose abbastanza banali, e usavo Claude per creare un programmino che "contasse" i km (in realtà pixel) fatti dal cursore del mouse con degli occhi che si muovevano al muoversi del cursore stesso. Sono arrivato a una soluzione decente ma che non mi aveva soddisfatto pienamente. Ci proverò di nuovo con qwen 2.5

[@sparvy681]

bellissimo video con il codice mi trovo bene anche con claude (meglio di gpt-o). quel che mi manca è un'AI da poter utilizzare come NotebookLM: ho un milione di pdf, odt, doc etc locali e devo proprio trovare un sistema per creare un motore di ricerca limitato ai files. fino ad oggi ho utilizzato elasticsearch che è bello performante ma ormai gli utenti vogliono chattare con LLM 😥

[@EMILIANOPEPA-vq3fq]

Quando parli di "experts" ( caso Mixtral ad esempio) vuol dire che sono integrati engine specifici di calcolo o inferenziali che la I.A generalista pilota? Es. Per il calcolo ...Tipo una I.A che pilota MATLAB per dire?

[@PaoloLaitempergher-dy1io]

grande, sarebbe interessante un approfondimento su whisper..

[@RaffaelePioshinTomeo]

Peccato non fosse possibile testare Claude 3.5, secondo me è una bomba anche per il coding se la cava alla grande. (poi ovviamente come hai detto c'è di meglio)

[@DRmirva]

qualcosa per fare ocr di tabelle? cmq complimenti per il video davvero interessante

[@Marty-snt]

Sarebbe molto interessante un approfondimento su whisper e su come utilizzare le sue API x integrarlo in un gestionale da me prodotto. Molto bene comunque

[@MannaggiaAlDemonio]

Trovo molto interessante Anything LLM. Embedda e fornisce delle api general purpose niente male. Si integra quasi con tutto.

[@edoardobarolo4680]

Conosci Anything LLM ? È un tool che integra anche un database vettoriale al suo interno. Ieri ho parlato con un PDF !!

[@VincenzoGianfelice]

Ciao morro. Bel video, ma non ho potuto far a meno di notare il tuo browser. Che browser è questo?

[@turipgn1598]

e l'utilizzo dei RAG? al momento mi sembra abbastanza interessante come possibilità

[@morrolinux]

Coming soon!

[@bat84car]

Ciao Morrolinux, O1-preview ha superato abbastanza bene il problema di saper contare i caratteri. Difficilmente sbaglia. Es. Da quanti caratteri è formata questa frase? ChatGPT Thought per 9 secondi La frase "Da quanti caratteri è formata questa frase?" è composta da: 43 caratteri contando gli spazi. 37 caratteri escludendo gli spazi.

[@AndreaMarioPiovesana]

è multi agent

[@DeepBlueEyes0]

Puoi approfondire il discorso di Whisper? Grazie

[@ME-dg5np]

Shell gpt fantastico 🎉

[@alessandrovitali7104]

che cosa useresti per scrivere un programma strutturato e composto di piu moduli che possono essere scritti ogniuno in un linguaggio differente (C. C++. Rust,, etc) e che richieda che l'AI abbia una ottima conoscenza di leggi matematiche e fisiche ?

[@ericnotts1140]

Ciao Morro, quale IA o LLM consiglieresti per attività di Project Management a 360 gradi? Ho sperimentato sia ChatGpt che Claude ma non sono soddisfatto dei risultati di output e spesso devo reiterare le risposte. Grazie!

[@Bawsermatt]

Cosa cambia tra LM Studio e Ollama? Quale dei due è migliore?

[@SimoneScanzoni]

Qwen 2.5 è un modello generalista, Qwen 2.5 Coder è quello specifico per il codice. Quindi hai dimostrato che modelli generalisti open source piccoli a volte possono fare meglio di ChatGPT 💣

[@ProjectValis]

Grazie

[@LucaCanali]

Tu sai, non te lo sto neanche a dire 😂 .... molto interessante sia come video che come tecnologia, l'unico problema che potrei sollevare, non di certo la paura per il posto di lavoro ma l'effetto invornito nel senso che ad usare troppo pesantemente questo genere di tecnologia si rischia di perdere la conoscenza base sulla cosa che si sta usando/facendo e/o anche il saper trovare una soluzione con le proprie forze, es. chi sa piu parcheggiare una macchina che non abbia almeno 20 sensori !?!, ed in ultimo che fioriscano come funghi i programmatori dell'ultima ora !!!

[@morrolinux]

Totalmente d'accordo

[@exedes185]

Ti sei perso ComfyUI o stable diffusion

[@pippopluto8004]

Gli LLM hanno ancora difficoltà con compiti simbolici, come contare il numero di occorrenze di una lettera in una parola, perché non comprendono direttamente il significato intrinseco di parole o frasi, operando invece su rappresentazioni basate su token. Questo approccio riduce la complessità del vocabolario e ottimizza la gestione dello spazio latente, ma può introdurre limitazioni nel preservare alcune relazioni semantiche o logiche specifiche

[@xanScale]

penso sia molto interessante anche la parte precedente, come installare il software per farlo girare su cpu/gpu/npu (npu non ho idea se sia gia possiible) e la compatibilita con il vario hardware intel, amd e nvidia. siamo la parte piu sistemistica

[@gianfrancogelati5447]

Sarebbe interessante spiegare come creare gli script che trasformano il file di testo in file per sottotitoli e lo script batch per automatizzare le operazioni

[@Techonsapevole]

ollama e qwen2.5 top

[@fradev713]

Cursor >> continue

[@Emm3B1]

Super!

[@raffaelegagliardi9385]

1:13 fortunatamente funziona anche su Intel Iris Xe. Ormai questo programma mi è indispensabile 😅

[@matteovillani8983]

Morro@100k🎉

[@antoniosalvatore-s3e]

ho scaricato Qwen 2.5, lo installato, clicco sull'icona ma non si apre, mi puoi risolvere per favore?

[@TimelessX974]

Omg io Mistral lo ho abbandonato lo provato quando lo hanno pubblicato e altre volte , l’ultima volta il mese scorso e mi ci sono trovato male. Mi ha generato una quantità di errori su richieste su Python e C e sembra che ogni tanto prenda in considerazioni il linguaggio di Python 2.0 , mi da delle risposte come se non avesse i dati delle ultime versioni di python. Sono arrivato al punto che ho preferito usare Perplexity

[@ZioMarietto]

Cosa si puo' usare x tradurre video in lingua inglese direttamente in lingua italiana. Oppure per creare sottotitoli in italiano di video parlati in inglese ?

[@simonedisalvatore6832]

Whisper

[@ZioMarietto]

@@simonedisalvatore6832 : ci avevo provato qualche anno fa,ma mi ero accorto che la qualita' della traduzione non era un granche'...

[@simonedisalvatore6832]

@@ZioMarietto dipende da che modello usi ( di default usa quello piccolo) , io usavo quello medio ed andava bene

[@ZioMarietto]

@@simonedisalvatore6832 : io ho una RTX 2080 ti con 12 GB di memoria...che modello posso prendere ?

[@simonedisalvatore6832]

@@ZioMarietto a me girava su un ryzen 5 5600x, quindi vai tranquillo. Penso che puoi far girare qualsiasi modello

[@lucafonino]

Nooooo sei venuto a Dozza haahahah io ci abito se ripassi fammi un fischio che ti offro volentieri un caffè 😊

[@dogedoge7501]

Con whisper ci sbobino tutte le lezioni universitarie

[@Tonyt346]

Ciao, io sono molto ignorante e mi ha affascinato molto la prima parte in cui la foto diventava più nitida, è possibile fare la stessa cosa con dei video?

[@marconwps]

intel Arc A770 per il prezzo che ha e' una scheda su cui fare un po di test sarebbe bello vedere cosa si riesce a tirar fuori da una scheda da 300€ !!

[@Gabibs-x4i]

Bravo