Chạy Large Language Model trên máy tính local dễ như ăn cháo - Mì AI

[@trongnguyenkim3617]

Thanks and đã cung cấp những thông tin nền tảng cho người mới gia nhập AI!

Yeah. Cảm ơn em. Biết j chia sẻ nấy hihi. Dù dễ hay khó!

[@LinhDinhVan1st]

Hay quá , anh làm video hướng dẫn triển khai với data của mình đi ạ

Có luôn rồi em. Em tìm mấy video về RAG trên KZbin: kzbin.info nhé!

[@haimai8158]

hay quá anh ơi hjhj

Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

[@taivo2272]

thanks a, đúng cái em đang tìm

Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

[@HuyNguyen-xu5ig]

Thả tim...

Thanks bạn hihi

[@nguyenhuyhoangk18hcm37]

định mua laptop chạy Intel Core Ultra thì mới dám chạy được model của LM Studio này, chứ mấy laptop thường thì chịu thua

Yeah. Giờ công nghệ cũng tốn tiền phết,. Thanks bạn!

[@thesoulofmusic7871]

cho em hỏi, để chạy 1 model llm ntn nma trên 1 con server tự build thì cấu hình thấp nhất mà server cần có sẽ ntn nhỉ, em tính build server để serve này, phục vụ học hỏi thui a

Anh nghèo nên chưa build bao giờ. Em post lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé. Nhiều bạn build rồi đó!

[@hathanhson8632]

Hay

Cảm ơn bạn. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

[@epchannelll]

Anh ra video train nó theo data của mình đi ạ

Anh đang bố trí GPU để làm video finetune đây. Thanks em. Cần thêm gì em post lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

[@y-time]

Cảm ơn bạn rất hay , vậy mình muốn chạy ứng dụng ra website thì mình phải chạy máy tính 24/24 phải không bạn?

Đúng rồi bạn.

[@neovh34]

LM Studio không support Mac Intel a a. A có gợi ý phần mềm nào tương tự không a?

Em tìm llama.cpp hoặc ollama nhé

[@nghiatran1509]

Xin hỏi laptop chạy model AI thì card RTX 4090 hay card RTX™ 5000 Ada Generation Laptop GPU 16GB GDDR6 card nào tốt hơn ? Xin cám ơn.

Cái này bạn post lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé. Nhiều bạn đã dùng rồi sẽ cho ý kiến chuẩn nhất!

[@BinhLe-sb7cr]

Anh cho em hỏi cái LM studio có chạy đc trên linux server không ạ? Linux server không có giao diện ạ

Hình như ko em. Em triển trên server theo clip trước clip này nhé! Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

[@drthanhnhikhoa]

làm sao mình đính kèm dữ liệu để cho ngôn ngữ học và có dữ liệu làm cơ sở để xuất dữ liệu tiếp được anh, ví dụ mình đưa những dữ liệu đơn thuốc vào cho ngôn ngữ đó học thì sao anh?

Em tìm kiểm video cho chữ RAG trên kênh nhé. Anh có chia sẻ một chút về vấn đề đó!

[@batboyboy]

cho em hỏi là data khi chat nó ở local hay lại về với sv gốc ạ??

Quả này là ở local hết em nhé!

[@xuanthutrancongtuyet4127]

nãy em dùng thử 1 câu hỏi mà dùng CPU AMD 5800H laptop xong em nghe quạt hú cái em từ bỏ luôn :)))

Haha kiếm cái máy m,ạnh hơn tý vậy=))

[@xuanhoa493]

cái này có đưa file của mình vào để nó train không bác

Em xem lại clip trước của anh nhé. Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

[@codeforfun6444]

Chờ video này của bạn

[@quocanhle6806]

muốn cho nó trả lời được data của mình thì làm sao ạ

Được em. Em expose API ra sau đó code theo clip trước của anh nhé! Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!

[@anhtunguyen2207]

LM studio chỉ support Mac M1 trở lên à mọi người?

Các loại nhé bạn. Cả Windows luôn!

[@minhnc9504]

em chạy nó cứ bị lag anh ạ máy em ram 8gb

LLM cần tài nguyên khá lớn. Em post cụ thể cấu hình lên Nhóm "Hội anh em thích ăn Mì AI" - facebook.com/groups/miaigroup bài toán cụ thể để cả nhà cùng trao đổi cho tiện nhé!

[@tuananhnguyen2380]

Sếp mà dùng mạng chậm thế cũng chịu? bảo hotline 1 câu là dc, không dc thì bảo hotline của NCC khác là được nhá

Haha. Em báo rồi nó bảo do hạ tầng chung cư!