Türkçe LLM ile Sohbet Doktoru Yapma Rehberi | LLM | Fine-tuning | PEFT

Trendyol LLM modelini kullanarak Doktor Asistan uygulaması eğitiyoruz!!!
HuggingFace model adı: oguuzhansahin/trendyol-chat-doctor-4bq
Notebook linki: colab.research...
Lora Paper: arxiv.org/abs/...
QLora Paper: arxiv.org/pdf/...

bunu arıyordum, çok teşekkürler.

[@erenakbuluttt]

Oguzhan hocam cok guzel anlatmissiniz lutfen serinin devami gelsin

[@okanerhan5780]

Çok faydalı bir video olmuş, adım adım kendim de takip ederek birçok şey öğrendim. Çok teşekkürler!

[@barancakr7952]

çok iyi bir anlatım olmuş hocam. Bir inşaat mühendisi olarak merakla izliyorum sizi yeni videolarınızı için çok heyecanlıyım.

[@Metanfetamino-san]

altın madeni

[@ozgurdogan9536]

Çok akıcı ve net bir anlatım olmuş, farklı case'ler için de video bekliyoruz.

[@mustafaisildak]

Teşekkürler. Devamını dilerim.

[@EbubekirTosun-y3q]

Harika bir anlatım olmuş. Devamını bekliyoruz hocam :)

[@farnazzeidi4065]

thank you very much for sharing! it is great :)

[@oguuzhansahin]

thank farnaz! nice to see you in here:)

[@musapeker8070]

Merhabalar, Güzel ve eğitici bir video olmuş. Kaydettiğiniz modelin nasıl kullanılacağı ile ilgili bir video daha yükleyeceğim demişsiniz. Ne zaman için düşünüyorsunuz. Ben çalışmanızı denedim. Ama aşağıdaki hatayı aldım. RuntimeError: Error(s) in loading state_dict for LlamaForCausalLM: size mismatch for model.embed_tokens.weight: copying a param with shape torch.Size([44224, 4096]) from checkpoint, the shape in current model is torch.Size([44222, 4096]). size mismatch for lm_head.weight: copying a param with shape torch.Size([44224, 4096]) from checkpoint, the shape in current model is torch.Size([44222, 4096]). Teşekkürler şimdiden.

[@oguuzhansahin]

hocam, selam. kusura bakmayın geç gördüm biraz. problemi çözebildiniz mi acaba?

[@ZaferCan]

güzel anlatımınız için teşekkürler öncelikle. notebook linkini google colab t4 ile çalıştırmayı denediğimde bf16 ve tf32 için hata almıştım. acaba doğru mu yaptım bilmiyorum ama bf16 değerini fp16=True olarak değiştirdim ve tf32=False yaparak eğitimi başlatabildim.

[@oguuzhansahin]

torch versiyonundan kaynaklı olabilir bu hata, hiç karşılaşmadım öncesinde.