LLaMA - odpowiedź Mety na ChatGPT zadziała nawet na słabym sprzęcie

[@Pawiel.99]

Od kiedy Microsoft zaimplementował AI do Binga, mój ojciec ciągle to testuję i używa do zapytań typu, czy paliwo w Polsce zdrożeje? Czy dysk Sata można połączyć w RAID z HDD, co ma najwięcej potasu xD. I nie trzeba szukać po artykułach samemu tylko taka maszynka sama podaję Ci te informacje + linki według czego tak sądzi.

[@himenatika]

Nikt nie mówi o wykorzystaniu modeli offline. Wszędzie trzeba klucze, ja rozumiem że nie każdy ma sprzęt z 10 GB VRAM i szybki procesor i dużo miejsca na dysku najlepiej M2, ale jeśli ma się infrastrukturę to główny nurt używania LLMów będzie nadal w publicznej chmurze. Denerwuje mnie to.