Własny ChatGPT na swoim PC!

Karty graficzne NVIDIA: bit.ly/4brq7cc
Dziś omówimy sobie Ai i modele sieci neuronowych, które możecie uruchomić u siebie. Poruszymy temat generowania obrazów oraz dużych modeli językowych.
NMKD Stable Diffusion: nmkd.itch.io/t2i-gui
Stability Matrix: github.com/LykosAI/StabilityM...
KoboldCpp: github.com/LostRuins/koboldcp...
Model solar dla KoboldCpp: huggingface.co/TheBloke/SOLAR...
Model darvox dla KoboldCpp: huggingface.co/TheBloke/DareV...
Chat with RTX: www.nvidia.com/en-us/ai-on-rt...
Whisper GUI: grisk.itch.io/whisper-gui
Materiał sponsorowany przez NVIDIA. Opinie przedstawione w filmie należą do autora.
0:00 - Wstęp
1:45 - Po co odpalać Ai lokalnie?
3:28 - Jaki hardware wybrać?
6:20 - Generowanie obrazów - NMKD Stable Diffusion
9:56 - Generowanie obrazów - Stability Matrix
11:51 - Model językowy - KoboldCpp
14:34 - Generowanie napisów - Whisper GUI
16:25 - Przyszłość
#ZMASLO #NVIDIA #morele
👍🏽 Facebook: www. zmaslo
💻 Discord: / discord
📷 Instagram: / zmaslo_official
📫 Strona WWW: zmaslo.pl
📧 Kontakt: [e-mail]
Jeśli chcesz użyć fragmentu tego filmu byłoby mi miło gdybyś w opisie swojego filmu umieścił link do mojego 😀

[@Nienormalny]

O panie, dobry materiał. Chętnie się pobawię lokalnymi AI.

[@trioz1819]

TYLKO NIE zmieniaj historii

[@ziolo7138]

Zmaslo kiedy ten windows vista?

[@ZMASLO]

Do dwóch tygodni temat powinien być zamknięty - czekam jeszcze na dogrywki od innych twórców i jeszcze kilka testów zostało 😀

[@ziolo7138]

@@ZMASLO Powodzenia :D

[@polski_snieg5342]

W końcu ​@@ZMASLO

[@AdrianKiel]

Zmaslo kiedy E8400?

[@Artutitu]

​@@AdrianKiel było i lepiej nie przypominać o tym temacie....

[@kondzio2003]

Ale sztos. Zaczęło się w zasadzie rok temu od publicznego chata gpt a do dzisiaj tyle tego powstało 😊😊😊😊😊

[@brugerkingcrownguy2573]

Łukasz, więcej takich filmów o AI!!! Ogromnie szanuje za tego AI benchmarka. Wydaje mi się że nikt takiego testu na yt nie zrobił.

[@Majber]

Odswiezalbym ten film co pół roku, mega ciekawy temat. Pewnie dużo nowych narzędzi powstanie.

[@z1ter]

Przetestuje, dzięki za wspaniały materiał, zmaślok :D

[@Pogramy74]

Bardzo bardzo bardzo bardzo fajny odcinek ❤❤❤❤

[@yasioo]

Super materiał! Dzięki! :)

[@Mariousz1]

WIęcej, więcej, więcej tego contentu!

[@kubek41]

Wypowiem się na temat Stable Diffusion na karcie AMD (rx 6650xt 8GB) z wykorzystaniem Automatic1111. Windows kompletnie odpada jeżeli ktoś planuje się tym bawić, testowałem rozwiązania takie jak wtyczka directml do bazowej wersji Automatic1111 i działało to przeciętnie - 1.2it/s przy obrazku 512x512. Maksimum przy którym nie wywalało błędu o braku VRAMu to było jakieś 640x768, a dodatkowym zastrzeżeniem było tutaj trzymanie się danego wymiaru, który musiał być podzielny przez 64 bo inaczej się wysypywało, więc odpadał jakikolwiek niestandardowy refine obrazka, a w dodatku prompt musiał być ograniczony do rozmiaru 75 bo takie ograniczenia zostały nałożone i nie było szans tego ominąć. Warto tu także wymienić to że upscaling obrazka odbywał się nie z wykorzystaniem GPU, a obliczenia przenoszone były na CPU i trwało to czasem nawet kilka minut. Było też inne rozwiązanie do niedawna promowane na blogu AMD, czyli pobranie pewnej wersji A1111 ze wsparciem dla ONNX w połączeniu z DirectML ale działało to trochę inaczej i zdecydowanie gorzej niż directml jako extension do bazowego A1111. Oba te rozwiązania wymagały transformacji modelu na format ONNX. Pierwszy z nich operuje na unet a drugi bodajże na modelu w formacie ONNX z rozszerzeniem .ckpt. Więc dochodzi jeszcze odpowiednia umiejętność konwersji między formatami, optymalizacji tego itd... Generalnie sporo zabawy żeby to w ogóle zaczęło działać i nie jest to tego warte na Windows. Stwierdziłem w pewnym momencie że nie ma możliwości żebym się tak męczył, więc wydzieliłem odpowiedni rozmiar dysku na partycję z Ubuntu, pobrałem rocm według zaleceń AMD i po odpowiednich drobnych modyfikacjach (podmiana identyfikatora karty na wspierany przez rocm - rx 6800 xt oraz wyłączenie secure boota, który blokował wykorzystanie sterowników w systemie) wszystko działa jak marzenie - 3.6it/s przy obrazku 512x512, 4x upscaling w dosłownie kilka sekund. Różnica jest kolosalna, a w dodatku można korzystać z pełnej palety funkcjonalności A1111, a wykorzystanie VRAM nawet przy generowaniu obrazka 1024x1024 nie przekroczyło 6.2GB i ani razu nie miałem problemu ze stabilnością tego wszystkiego.

[@ephionis]

Powiem szczerze że nigdy nie miałem takich problemów chociaż mam karte NV i to może robić różnice, próbowałeś dodać parametry startowe ? jak --api --lowvram --always-batch-cond-uncond --xformers --no-half-vae ? Fakt że na windowsie demonem szybkości może to nie jest ale 1m 30sec average 7.52s/it 1024x768 i 1024x1024 z refinerem i esgran x4 Hires (na karcie 1050TI 8GB 4+4shared) dla SD 1.5 / 2 Dla SDXL polecam Fooocus, działa na 4GB ram pod windowsem więc pod linuxem powinno jeszcze szybciej, czas podobny jak dla SD 1.5 przy 2048x2048.

[@kubek41]

Tak, testowałem wiele parametrów startowych, które były polecane na wielu subredditach właśnie dla osób wykorzystujących te metody uruchamiania tego konkretnego narzędzia (A1111) na kartach AMD. Najważniejszym problemem tutaj jest niestety brak obsługi CUDA dla kart od czerwonych (ich technologia pozwalająca obsłużyć narzędzia z niej korzystające działa jedynie pod Linuxem) i trzeba próbować obchodzić to naokoło właśnie przez włączenie obsługi zoptymalizowanych modeli pod rozwiązania Microsoftu i zabawę z tym na wielu płaszczyznach żeby to działało tak jak powinno, a i tak mi się to nie udało w pełni i większość zadań była przerzucana z GPU na CPU i dlatego to tak wolno działało w większości przypadków. Być może właśnie są jakieś narzędzia które lepiej sobie z tym radzą, lub mają jakieś rozwiązania które po prostu działają, ale na tamten moment, gdy jeszcze próbowałem z tym działać na Windows, nie byłem w stanie znaleźć niczego sensownego na forach, a po przerzuceniu się na rocm widzę diametralną różnice w prędkości oraz stabilności, więc to jest jedyne rozwiązanie które poleciłbym komuś z układami od AMD. Szczerze mówiąc miałem do niedawna 1050 ti 4GB i kiedyś próbowałem generować za pomocą Stable Diffusion. W porównaniu do AMD karty NV działają od strzała i nic więcej nie trzeba robić, wystarczy mieć tylko narzędzie, model, wystarczająco VRAM i dobre parametry startowe. Nie wiem czy korzystałem z dzielonej pamięci, aby mieć dostęp do generowania czegoś większego, ale raczej nie, bo dość szybko docierałem do limitu pamięci. Zdecydowanie obczaję sobie tego Fooocus-a, ciekawe jakby to mogło działać z rocm. @@ephionis

[@elimssmile]

Miłego wieczoru!

[@LaxyGen]

Witaj. Dzięki za ten film. Czy znasz może "podobne" programy Ai do tworzenia prostych animacji? Pozdrawiam.

[@Patryk414]

Wiecie może, czy istnieje już jakiś program A.I do tłumaczenia z automatu MANG na polski ??

[@fabiankowalski2675]

Super materiał

[@vahistar]

Cześć Zmaslo chciałbym zapytać czy była by możliwość abyś nagrał odcinek lub po prostu sprawdził ile zajmuje czasu generowanie tych obrazków na karcie K80?

[@LittleBoobsLover]

Czesć! a co sądzisz o nowych procesorach od qualcomma snapdragon X elite, które na CES pokazywały, że w kilka sekund generowały lokalnie na lapku treści uzywajac jakiejś standardowej Lamy?

[@juraszka]

1. można połączyć kilka komputerów aby generować na jednym, szybciej i lepiej? 2. Czy są modele pracujące tylko na CPU + j.w. czyli połączenie kilku dla szybszego/lepszego efektu?

[@witherekktv3747]

to jest pierwszy taki typ bez neta wiec tylko na karcie od nvidi

[@marcinkrol6506]

Wspominałeś o pamięci VRAM, że jest tutaj istotna, w takim razie jak rozumiem lepiej jest kupić przy składaniu kompa RTX 3060 zamiast nowszej karty RTX 4060? Czy może RTX 4060 ma jakieś przewagi i finalnie lepiej będzie sobie radził z algorytmami AI? Z góry dzięki za odpowiedź, pozdrawiam! :)

[@Michal_Aniol]

Hej zlaslo zaczalem sie bawic tym programem i probowalem pobrac jakies inne wersje zeby obrazki nie wygladaly tak zle i przy convertowaniu jest blad co to moze powodowac? NMKD stable diffiusion

[@robertn3496]

Ciekawy film. Masz ode mnie suba. 👍

LMstudio też służy do lokalnego uruchamiania LLM i pod czatem wyświetla benchmark w tokenach na sekundę. U mnie aktualnie: od 0,6tok/s na modelu 72B Q5 (największy jaki udało mi się odpalić, zajmuje 56GB RAMu) do 3tok/s przy trochę mniejszych modelach. Wszystko to na GTX1050Ti 4GB, Ryzen 3600, 64GB RAMu, z offloadingiem 1 warstwy do GPU i kontekstem ustawionym zawsze na domyślne 2048.

[@ZMASLO]

Uuuu to już konkretny model odpaliłeś :D

[@tomasztummel]

Dzięki za filmik. Nie wiedziałem, że jest to możliwe, a teraz na pewno skorzystam! 😃

[@marcingoralczyk2122]

super film

[@dominikkowal4654]

Siema zmaslo mam pytanie zrobisz jeszcze film o hackintoshu a konkretnie czy to się opłaca?

[@Gawron..]

Powiadasz, że na starszym kompie idzie pogadać na czasie GPT? U mnie koboldcpp się zamyka gdy ładuję większość modeli. Mam Win 10, procesor Intel Xeon E3-1246 v3, grafikę GF RTX 2060 super. Mógłbyś zrobić jakiś film który szerzej by omawiał ten program? Jest tam trochę do ustawiania i może o czymś istotnym nie wspomniałeś w tym filmie? Zauważyłem np, że część modeli działa ale tylko jak ustawię dla grafiki presety Vulkan w nazwie. Pozostałe presety nie działają a program się zamyka natychmiast po kliknięciu w launch. A może trzeba dobrać odpowiedni model? Jest tych oznaczeń modeli co nie miara i trudno się w tym połapać. Wiem tylko, że im wyższa cyferka przy q tym mocniejszy sprzęt potrzebny. Tylko nie każdy model ma podaną literkę q. Te modele które działają, to akurat nie trafiłem na taki z językiem polskim. Bywa, że zamiast odpowiadać sypią jakimiś tekstami zupełnie haotycznymi, wygląda to czasem jak podsumowanie naszej rozmowy podane w dwóch językach plus znaki specjalne. Albo bot się zapętli i odpowiada niemal to samo tylko w różnych konfiguracjach, choć moje pytania są już inne. Zupełnie inaczej to wygląda jak np. na stronie czatkropkaai.

[@GluXter]

@ZMASLO pytanie jak uważasz ma to sens na rx580?

[@Mariousz1]

Mam rx590 i nie polecam. Zastanawiam się nad 4060 Ti 16GB żeby lepsze modele załadować. Na AMD więcej kombinowania i wydajnościowo kiepsko.

[@GluXter]

@@Mariousz1 no zauważyłem i podobne podejście mam teraz

[@Adrianworks]

Zmaslo ja chce taką koszulkę , skąd masz. Wiesz może jak zrobić dual boot na rog ally asus?😅

Dziękuję za świetny, wartościowy film!

[@nihilistycznyateista]

Ja w pewnym sensie wykorzystuję lokalną sieć neuronową w postaci dodatku o nazwie... kurde nie pamiętam... w każdym razie dodatek do OBSa, współpracujący z osprzetem Elgato, a wchoidzacy w skład sterownika nVidia Studio i działający jedynie na kartach RTX. Co on daje? Otóż teoretycznie jakieś baery z dźwiękiem (ale nie mam mikrofonu od elgato), do czego ja go nie używam, ale przede wszystkim za pomoca algorytmów sieci neuronowych usuwa tło w bardzo skuteczny i dokładny sposób. Ptrymitywna wersja czegoś takiego jest wam pewnie znana z jakiegoś zooma, czy czegoś w tym styuku, ale to nie zawsze działa dobrze, czasami dziwnie ucina kawał głowy, czy podmienia część ubrania - a u mnie działą idelnie tak, jakbym miał green screena za plecami, co znacznie pomaga mi w prowadzeniu streamów, czy nagrywaniu treści na kanał, gdzie potrzebuję wrzucić siebie z czymś w tle. Wymaga jednak dobrego światła, ale nie jakiegoś wybitnego - u mnei to nawet nie jest profesjonalny softbox, a zwykła lapma z IKEI, z tym, ze z dużo mocniejszą żarówką ledową (bodajże 14,5W). Da sie bawić ustawieniami, ale ja jestem laikiem i mam po prostu ustawioną wysoką jakość a reszta domyślnie.

[@marcinnadolski8502]

fajny t-shirt, też chcę :P

[@ironvirgin4863]

Jestem głównym informatykiem w średniej fabryce i gpt dużo mi pomaga. Piszę budżety, odpowiada na e-maile, odpowiada na pytania odnośnie sieci, środowiska serwerowego, itp. Chętnie przetestuję to na swojej lokalnej maszynie :)

[@ulysses1685]

NMKD Stable Diffusion - nie ma już wersji z modelami. Ściągnąłem kilka dni temu, jest 3GB plik, ale modeli brak, inni też ściągali i też nie mają.

[@thereisnone9177]

🤩czyli już wiem, że weekend zleci na próbie uruchomienia tego na VM z VGA passthrough na Linuxie w piwnicy...no Dzięki😅

[@Jacek..]

A co tam trzeba jeszcze ładować do pozostałych pól w programie koboldcpp np. pole lora itd? A jeśli w tym wypadku nic a czasem trzeba to w jakich wypadkach trzeba?

[@MrGrimiReaper]

Jak wrzucić bazę danych do tego Cobolt? Da radę nauczyć go obsługi strony i zarządzanie sklepem?

[@przemysawkuchta7236]

Ciekawa sprawa z tym odczytywaniem plików. Fajnie by było jakby była możłiwość wrzucenia ustaw naszego prawa i zadawać mu pytania i żeby odpowiadał na podstawie tych ustaw ze wskazaniem źródeł :D

[@Granietopasja]

Bawię się w generowanie obrazków - WOW. RTX 4090 można spoko wykorzystać do generowania naprawdę dobrej jakości obrazów i maks co mi zajmuje na obrazek to 23 sekundy

[@arturgogowski8847]

Mega, osiagnales mega fajny poziom, jestem zachwycony, mozesz mi podlinkowac twojego githuba na priv ?

[@manticorepl859]

Pięknie dziękuję. Fajnie objaśniłeś temat dla lajkoników. 👍

[@Sparky112]

Polecacie jakiś model do KoboldCpp przeznaczony do tłumaczenia tekstu z/na angielski?

[@ArturTata]

Czy Stability Matrix wykorzysta kilka kart graficznych, jeśli mamy np. 3x RTX3090 ?

[@asti38]

WhisperGUI świetne, na pewno kiedyś tego użyję jak już będę po remoncie w domu i wezmę się za hobby (yt/stream/gry/tech etc) - mam nadzieję znaleźć też podobny soft ale działający w czasie rzeczywistym. Stability Matrix i NMKD Stable Diffusion świetnie nadadzą się do prostych projektów, w sumie to nawet na steamie używam profilowych zdjęć które generowały AI.

[@karwel8854]

Zobacz program SpeechTranslate1.3.10 oparty też na whisperze i ma funkcję czasu rzeczywistego.

[@tomaszeklolek8134]

U mnie na 9900K z 6700XT NMKD obciąża tylko procesor, karta śpi a generowanie trwa wieki. Jak kliknie AI implementations - for AMD GPUs to nie mogę wtedy wybrać modelname - brak wyboru stablediffusion. Jak ten program ogarnać żeby generowało na 6700xt a nie na procku?

[@raven1439]

Pod Windows na AMD jest w chwili obecnej nie najlepiej, niby jest ten DIrectML od MS ale działa to bardzo słabo. Jak chcesz się pobawić w Stable Difusion na poważnie to polecam Linuksa, tam to działa znacznie lepiej, jego uruchomienie to zaledwie kilka krótkich poleceń. Nawiasem mówiąc polecam ComfyUI, do tworzenia obrazów, masz mnóstwo "workflow" od społeczności, a to znacznie ułatwia start.

[@nihilistycznyateista]

Hmm... warto spróbować. Mam nadzieję, że moja 3060 w wersji 12GB sobie sprawnie poradzi:) Ale mam inne pytanie - czy znasz drogi Łukaszu jaki dodatek do takiego modelu, czy ogólnei jakiś ciekawy program, współpracujący z jakimś asystentem głosowym - tak aby mi takie AI odpowiedziało nei tylko tekstem, ale i odczytało go na głos. Albo ogólnie coś, co po prostu czyta teksty z ekranu na głos.

[@davydgorski5051]

Raczej będzie ciężko

[@nihilistycznyateista]

@@davydgorski5051 nie musi być lekko, byle działało

[@kilosera]

@@nihilistycznyateista oobabooga webgui plus dodatki. whisper do rozpoznawania mowy, elevenlabs do generowania audio (czytania tekstu). Elevenlabs jest płatny, ale są też jakieś darmowe odpowiedniki, szukaj tts (text to speech). Czy ogarniają język polski - nie mam pojęcia.

[@demonicznyneverminder8711]

Super materiał, dzięki!

[@q2rlz]

Skynet powoli przejmuje komputery domowe.

[@kembercik]

Ja od siebie mogę polecić RVC-GUI, który pozwala powiedzieć dowolną rzecz dowolnym głosem (prawie dowolnym głosem bo najpierw ktoś musi zrobić model RVC do tego głosu bo samemu trudno taki zrobić).

[@SaseQ]

Może w przyszłości jakiś materiał o home lab serwerze pod AI?

[@xflashu8075]

Będzie 200k special?

[@nightfire2698]

Czy są jakieś bazy danych którymi uczymi i aktualizujemy to AI?

[@Jacek..]

Co do programu Whisper Gui, to jaki język na wyjściu dostaniesz jeśli ustawisz na wejściu rozpoznawanie auto lub podasz jakiś język a odznaczysz j.angielski na wyjściu? Chodzi mi o to, że nie ma ten program opcji wyboru na jaki język ma być tłumaczony materiał. Tobie stworzył napisy pl przy pokazanym ustawieniu ale to jest transkrypcja a nie tłumaczenie. Z jakiego źródła pobierałeś program? W każdej z wersji na jaką trafiłem virustotal wykrył w pliku exe jakiegoś wirusa lub kilka sztuk. Są to fałszywe alerty? Z tego linka co podałeś w opisie też wykrył wirusy, sztuk 2.

[@TheBlackMaster]

Co myślisz o języku RUST ma to przyszłość?

[@StephieCopper1985]

A NV Tesla K80 24GB VRAM się nada? Mam 3 sztuki w maszynach do Boinc.

[@rekinpzw]

Witam ponieważ nie znam się na komputerach to mam pytanko do ciebie czy płyta główna msi b85 g43 procesor Intel cor i5 4570 plus pamięć RAM ddr3 8gb Nada się do podstawowych gier typu ETS2 Roblox i tym podobnych Pozdrawiam serdecznie

[@Jacek..]

Czy w programie Whisper GUI wygenerowanie napisów pl do filmu z j. angielskim da taki sam efekt, czy lepszy jak napisy generowane na youtube ?

[@sebastianstec]

O niebo lepszy

[@Jacek..]

@@sebastianstec Na win 7 wywala błąd i się nawet nie uruchamia.

[@radzioza]

Nie wiem dlaczego w Stable Diffusion po przełączeniu na Ai Implementation na ONNX dla kart AMD, nie mogę wybrać żadnego z modeli. Próbowałem konwertować modele na różne sposoby, bez żadnego rezultatu. Jakieś pomysły?

[@dawidavrin561]

Mam to samo, rozwiązałeś problem?

[@knick6666]

Używam już od dłuższego czasu stable diffiusion i powiem że mój model "wyuczył się" robić zajebiste cyberpunkowe i kosmiczne obrazy Jedno z takich obrazów nam na profilowym na steam

[@miko192837]

Jest coś takiego do translacji dźwięku?

[@paikoski]

Który model polecisz do tego Kobolda? żeby był jak najbardziej rozbudowany a przy tym praktycznie niczym nie ograniczany

[@exopolity]

Siemka, zainteresuj się burn w RUST, bazują na webgpu które tłumaczy na VULKAN, METAL czy Dirext12 np. Ogólnie biblioteka na razie w fazie alpha ale wiele rzeczy już działa naprawdę świetnie. Jest to co prawda coś na zasadzie PyTorch czyli służy naukowcom czy devom, ale mogę ci coś wyskrobać na testy początkowo pod linux'a a przy większej chęci na Window'a, choć osobiście nie mam tego systemu w domu, korzystam tylko z Linux'a na co dzień do pracy i Mac'a rekreacyjnie.

[@exopolity]

PS GUI przyszłościowo tez była by szansa pod benchmark ogarnąć w Tauri np. A w sumie rozwijając myśl co daje biblioteka burn w porównaniu do pytorch na której to bazuje niemal wszystko to to że zbudowany model od 0 można puścić na CPU, GPU

[@piotrgo9939]

Hej, czy podlinkujesz jakiś guide jak zainstalować na linux któreś z tych usług o których mówi Łukasz w klipie? Używam Minta 21.2.

[@exopolity]

@@piotrgo9939 Niestety linki nie przechodzą albo Łukasz usunął mój komentarz :kekw: Więc nie jestem w stanie ci nic wysłać. Drugi raz komentarza nie chce mi się pisać więc tylko napisze że projekt plus github i na githubie jest zawsze instrukcja co i jak.

[@kajzer-fo6kk]

Witam serdecznie. Mam pytanko. Planuje lekki upgrade komputera mojego syna. Planuje wymiane karty graficznej oraz procesora. Myślę o rx 7600 oraz r5 5600. Czy ograniczyć się do samej karty i np za rok wymienic procesor z plytą główną na am5? platforma r5 3600 rx 5600xt red devil powercolor 32 gb ram B450 GAMING PLUS MAX Pozdrawiam Serdecznie

[@KaZuuo_]

ja bym zostawił jeszcze na dwa lata mniej więcej, posiadam u siebie rtx 4060 z r5 3600 z tą samą płytą i ramem. nie ma co robić upgrade bo jest wszystko perfekcyjnie pod względem bottlenecka a sam komputer odpala wszystkie gierki. Sam planuje za jakieś 2/3 lata wymianę całego komputera, oczywiście nie trzeba wymieniać budy czy zasilacza jeżeli jest w dobrym stanie. (przez dobre 2 lata miałem ten procesor z gtx 670, ale nie narzekałem jakoś bardzo bo głównie minecraft i csgo odpalałem)

[@bubus5637]

Są takie offline aplikacje do generowania muzyki?

[@kszere]

Jaka to dokładnie karta graficzna z nvidia rtx 4070 fe?

[@tomaszstaron1233]

Czy można taki czat szkolić ? Bardzo proszę od odpowiedz .

[@paproteek540]

Pojdzie na laptopie i5-9300h + gtx 1650 4gb vram?

[@Miszmasz_88]

Cześć Łukasz masz może jakas rade na temat kodu 15. Złożyłem pc'ta i cały czas bootuje mi system do kodu 15 a potem działą normalnie ale jest tak za każdym razem :( Już nie wiem co mam robić, niby system chodzi ale długoooo sie odpala :( Mam asusa b650 e e do tego ramy dominator 2x16gb 6000mhz. Profil expo 1 nie pomaga, 2 tez nie w biosie :( Dzięki.

[@ksawerynowocien1885]

Nie mogę się doczekać kiedy będzie retro, komp ze śmietnika czy vista ;)

[@BRX_2137]

Ten chat RTX będzie działać na plikach tekstowych czy tylko na tekście? Bo jeżeli na plikach to czuję potencjał do szybkiego tłumaczenia niektórych gier. Sam próbowałem tłumaczyć grę przy użyciu GPT i faktycznie nieźle szło ale ten non stop przerywał, gubił wątek lub zmieniał język na jakiś inny niezwiązany z tematem. Dodatkowo ilość linijek jakie może przerobić jest ograniczona. A jest model wyspecjalizowany w tłumaczeniu? Może wrócę do tłumaczenia? Niesiesz czy własne AI ma limit znaków do przyjęcia?

[@ZMASLO]

Z tego co rozmawiałem z inżynierami na CES to mówili o plikach tekstowych. Limit długości takiego pliku na pewno będzie bo póki co chyba każde Ai ma problem z bardzo dużą ilością tekstu. Myślę, że jeśli podzielić by teskt na kawałki może się udać taki proces. Trzeba poczekać aż wyjdzie i sprawdzić. Więcej o tym info w opisie!

[@BRX_2137]

@@ZMASLO I tak daje to szansę na wiarę łatwe i szybkie tłumaczenie gier które normalnie by tłumaczenia się nigdy nie doczekały. 👍

[@tomecki88]

​@@BRX_2137Świetna sprawa 😊

[@zj7498]

Jak generujesz napisy używając AI to musisz popracować nad dykcją. Bo potem masz taki kwiatek jak: "usług w murze". W 2:44

[@MrTibnor]

sztos

[@KryskiPL]

@ZMASLO 15:02 folder "płyta z PS5" i "film ps5.mp4" czyżby się szykował nowy odcinek o ps5😏

[@ZMASLO]

Nie, to był stary filmik, dokładnie ten: kzbin.info/www/bejne/fqSof6aBmKtgbLs

[@KryskiPL]

@@ZMASLO a szkoda myślałem że jakiś mini projekcik taki pc mini do gier

[@GuzikPL4]

Jak uruchomić stable diffusion na Debianie? Mam kartę AMD i co nie zrobię to torch się pluje że nie może użyć karty graficznej

[@raven1439]

Jaki masz model karty graficznej?

[@GuzikPL4]

@@raven1439 AMD 7900 XT, ale chyba wiem w czym leżał problem. Próbowałem uruchomić na Pythonie 3.11 a musi być 3.10 żeby Torch działał.

[@MrRGBable]

czemu nie działa konwertowanie innych modeli poza dreamshaper?

[@Cyborg91Ninja]

Chętnie przejrzy historię Twojego przeglądania

[@JohnDoe-nu4wi]

fajną masz pasje, dzięki że sie nią dzielisz, super kanał :)

[@GremlineQPl]

ZMASLO trochę za wcześnie wykonałeś ten filmik, 2 dni temu został wypuszczony na światło dzienne projekt ZLUDA który pozwala uruchomić programy oparte o biblioteki cuda na kartach amd bez modyfikacji programu

[@dragon-ff3jh]

Jest jakieś Ai lokalne które programuje ?

[@MarcinWawrzyniak150]

Czy z gf 230mx 2GB jest sens w to wchodzić?

[@moonfine]

zrobisz taki poradnik ale na macOS ?

[@Polojerolo]

Czy będzie nauka o chacie gpt i innych tego typu programach?😅

[@Servverek256]

Zrobisz pełny film o windows server? 🖥

[@Hal-dq3hz]

Czy da się zainstalować DOS-a na vram?

[@kapiqu2709]

Można liczyć na odcinek o MacOs?

[@Daniellata_live]

a nie powiedziałeś o jan ai i w sumie możesz zrobić odcinek ze storny do szukania modeli ai

[@mateuszkorolow4926]

Jestem czynnym programistą i powiem Wam, że z jednej strony cieszę się na to jak rozwijają się narzędzia oparte o sieci neuronowe, z drugiej strony tempo tego rozwoju trochę mnie przeraża :D

[@HeadHunter-cu7yw]

ja chciałem zostać grafikiem i zacząłem coś robić w tym kierunku, nagle pojawiło się AI. Po prostu skaczę z radości na widok tego, że za kilka lat AI będzie generować lepsze obrazy niż ludzie i będę skazany na pracę w biedronce xD

[@tomaszstaron1233]

@@HeadHunter-cu7yw Taki sam los czeka większość programistów, ale też większość zawodów .

[@HeadHunter-cu7yw]

@@tomaszstaron1233 zajebiście

[@mateuszkorolow4926]

@@tomaszstaron1233 tu się nie zgodzę. To nadal chatboty. Testowałem je wielokrotnie i dalekie są choćby umiejętności mida. Są dobrym narzędziem wspomagającym ale programisty nie zastąpią przez jeszcze parę ładnych lat :)

[@Orkus-autentic]

ja jako użytkownik gtx 1660ti powiem że da się odpalić stable diffusion tylko trzeba wpisać parametr startowy odpowiadający za pominięcie sprawdzania vram ale jaki on jest to nie powiem bo nie pamiętam

[@marcindj3411]

nic nie zmieniałem a na 1060 działa doskonale :)

[@Orkus-autentic]

@@marcindj3411 a bo to różnie bywa ja musiałem pominąć sprawdzanie vram nwm jak na dzisiejszy dzień to wyglada

[@PCgaming-ul7hp]

ja miałem problem z pobraniem bo moja rodzina kradnie mi WI-FI i 3 gb pobierały mi się prawie 3 godziny

[@JulciagachaPL]

a dało by sie na windows xp ?

[@demitri9830]

Ooo, stary. Właśnie ostatnio szukałem czegoś o takiej tematyce.

[@ernestjaroni8195]

bardzo dobry odcinek🙂😉👍

[@vasco3321]

nie działa mi instalacja modeli, przy każdym mam że jest niekompletny

[@lubiepluginy]

A na intel uhd graphics odpali hehe?

[@Davvvi1]

Witaj. A jest jakieś AI które by czytało napisy w filmach ? Lektor AI?

[@przemekbogucki2274]

to juz powstało w 2023

[@Davvvi1]

@@przemekbogucki2274 w filmie o tym nic nie mówi. A ja się nie znam.

[@LordVPL]

A jest coś co tworzy lektor z plików srt?

[@phobos666666]

hm.. Stable Diffusion rozpakowuje się już 3 godzinę a przewidywany czas to 22h :/ coś to dziwne jakieś

[@Bobi._.9]

Hej zmaslo kiedy kolejne gotowanie na karcie graficznej?

[@regav62]

powiedz coś o modelu RVC

[@Gexsi0]

Niezwykle ciekawy materiał, dzięki! Jeśli mogę coś polecić, to nie puszczaj na telewizorze za sobą filmików, bo rozpraszają. Sam kilka razy złapałem się na tym, że przestałem Cię słuchać, bo skupiłem się na driftach z tyłu :) Keep up the good work!

[@Triangullar_]

Ja bym chciał AI działające w tle w Windowsie, monitorujące pracę systemu i wszystkie jego procesy, tak aby wykrywał i monitorował błędy, oraz pomagał lub rozwiązywał by problemy z działaniem systemu i aplikacji. Apka czy gra się wywala to AI informuje nas co to spowodowało i pyta czy rozwiązać problem oraz mówi jak to robi. Coś co pomaga optymalizować system lub może powiedzieć co zmienić w konfiguracji sprzętowej aby wyciągnąć jeszcze więcej z obecnego sprzętu ale żeby znało też granice, że np. RAM-u nie ma sensu więcej ładować albo mocniejsze GPU tu nic nie zmieni itp.

[@Mavczers]

Skoro i tak masz automatic1111 to może możesz dodać tabelkę przy recenzjach dla wybranego przez siebie obrazka w 512x512 i 1024x1024? :)

[@ZMASLO]

Myślę, o tym żeby dodać jakieś benchmarki Ai przy GPU - to jest dziedzina która się rozwija i warto wiedzieć jak te karty wypadają. Czy to będzie A1111 nie zdecydowałem. W idealnym świecie chciałbym, żeby to było coś co zadziała na każdym GPU.