Llama 3.1 Fine Tuning + 저장 후 실행까지!

이 영상은 Llama3.1를 fine tuning하고 저장, 실행까지 하는 방법을 담고 있습니다.
00:00 인트로
00:29 Fine tuning이란?
01:14 구글 colab이란?
02:10 fine tuning 과정
02:56 1. packages 설치하기
07:59 2. Dataset 준비하기
09:40 3. 모델 훈련시키기
11:28 4. 추론하기
12:35 5. 모델 저장하기
15:58 6. 모델 실행하기
19:46 실습 1 (구글 코랩)
23:04 실습 2 (Hugging Face)
24:11 실습 3 (클로드 프로젝트)
25:04 실습 4 (Msty)
27:20 결론
#llama3.1 finetuning #llama3.1 #라마3.1 #라마3.1파인튜닝

[@필로소피]

안녕하세요^^ 구글 colab 링크 주소입니다 : colab.research.google.com/drive/1f6Sl8zxfTy_wfeeVx9vZOeK6M8BpJzPi?usp=sharing 이 영상에 나오는 'Open Source LLM Team Instructions 프롬프트', '이 영상의 PPT를 PDF로 바꾼 파일' 이 두 가지를 받고 싶으신 분들은 이렇게 해주시면 됩니다. 1. 이 영상에 응원 댓글 달기 2. 응원 댓글을 단 본인의 유튜브 핸들 정보를 아래 메일로 보내기 (유튜브 핸들은 댓글을 달면, 옆에 나오는 @ 이후의 문자입니다) 메일 예시) 제목 : Llama 3.1 fine tuning 자료 요청합니다. 내용 : 응원 댓글 달았습니다. 제 유튜브 핸들은 @oooo 입니다 :) [e-mail] *꼭 메일의 제목에 어떤 영상의 자료를 요청하시는지 적어주시면 감사하겠습니다^^

[@sungleader]

너무나도 좋은 강의 감사드립니다!!!

[@bellmake-kl4gt]

매우 유익한 강의에 감사드립니다!

[@cldsnu25]

파인튜닝 영상 찾고 있었는데 감사합니다!!

[@admssdhdhsh]

기다리던 영상입니다 감사합니다

[@junim767]

좋은 강의 감사합니다.

[@bongbongkain]

정말 궁금해했던 내용을 올려주셔서 감사합니다. 앞으로도 좋은 영상 기대하겠습니다.

[@user-or4uy6sf1w]

라마 3.1버전 파인튜닝 찾다가 흘러들어왔어요! 많은 도움 받고 갑니다.

[@sukpyohong6342]

좋은 강의 감사합니다^^

[@MultiSeung]

이번엔 파인튜닝이네요. 여러번 봐야겠습니다.

[@USunyeong]

천천히 따라올 수 있도록 단계적으로 난이도가 올라가서 많은 도움을 받고 있습니다. 늘 감사히 시청하고 있습니다. 고맙습니다.😀

[@필로소피]

@@USunyeong 좋은 말씀 감사합니다 😊

[@JhC-e3m]

좋아요

[@iweddingu]

엄두가 안났던 일인데 이렇게 찬찬히 과정을 풀어주셔서 이해가 쉽게 되었습니다. 감사합니다.

[@peterahn5758]

Fine Tuning 방법에 대해 궁금했지만, 엄두를 내지 못했는데, 필로소피님 덕분에 '핸드폰 분해해서 다시 조립해 볼 수 있는 용기를 얻었습니다. 감사합니다.

[@Joon-ou8jz]

감사합니다. 단계별로 자세히 설명해주시니 귀에 쏙쏙 들어오네요^^

[@user-zy2mi5el6x]

라마 모델 파인튜닝이 궁금했는데 이 영상 보고 많이 배워갑니다. 감사합니다!

[@ilhwankim3190]

안녕하세요. 업무에 꼭 필요한 사항이었는데요. 이렇게 좋은 정보를 제공해 주셔서 너무 감사드립니다.

[@jundik0]

이번에도 너무 좋은 영상 감사드립니다. 잘 배우겠습니다.

[@user-jd6tj1bj9g]

감사합니다. 튜닝 방법을 잘 알게 되었습니다. 고생해서 취득한 지식을 공유해 주셔서 감사합니다. 나만의 AI를 만들고 싶습니다. 전문적인 나만의 AI를 만들어 공유하고 싶네요. 감사합니다.

[@stunnbeatz4113]

좋은 최신 정보 감사합니다. 도움 많이 되었습니다 화이팅입니다

[@3mincareer]

늘 체계적으로 꼼꼼하게 설명해주셔서 넘 유익합니다^^❤❤

[@user-xt6rz4ec2y]

주신 코랩으로 해서 gguf 화일 다운받아 실행을 하니 아래와 같이 나와서요..혹시 허깅페이스로 올리고 받지 않아 그런가요? 감사합니다. D:\Ollama\ollama-model\0816>ollama run ttt_llama3-ko Error: llama runner process has terminated: exit status 0xc0000409 error loading model: done_getting_tensors: wrong number of tensors; expected 292, got 291

[@필로소피]

안녕하세요 :) 지금 이 에러 코드를 보면, wrong number of tensors; expected 292, got 291이라는 부분이 있네요. Tensor가 292개 있어야 하는데, 291개 있다는 뜻인데요. 즉, 모델이 제대로 다운이 받아지지 않은 상태일 수도 있겠습니다. 꼭 허깅페이스로 올리지 않고 내 컴퓨터로 바로 다운 받아도 되기는 할텐데요. 그 과정에서 다운로드가 제대로 되지 않은 거 같습니다. 다시 다운 받아서 해보시거나, 정 안 되시면 Hugging Face에 올려보시고 다시 다운 받아보시는 것도 한 방법이 될 거 같습니다. 감사합니다 :)

[@user-xt6rz4ec2y]

@@필로소피 감사합니다(잘 동작 해요)

[@user-qf3cb8mh9u]

파인튜닝 관심있어서 혼자 씨름 하고 있었는데 정말 감사합니다. 잘활용해보겠습니다.

[@jinsikha4431]

매번 좋은 강의 감사 드립니다.

[@datastudy-s5s]

안녕하세요. 강의보고 데이터 원본 관련하여 한 가지 문의사항 드립니다. 리뷰에 대해 속성 기반 감성 분석을 진행해보고자 하는데요..!! input이 "늘 그렇듯 행사 기간에 착한 가격에 구입했고, 유통기한도 2025년 8월로 긴 제품이 왔네요." 이렇게 들어갈 경우 {Aspect: 가격 SentimentText: 착한 가격에 구입했고, SentimentPolarity: 1}, {Aspect: 제품구성 SentimentText: 유통기한도 2025년 8월로 긴 제품이 왔네요 SentimentPolarity: 1} 이렇게 결과를 출력하고 싶습니다. 이럴 경우 instruction에 늘 그렇듯 행사 기간에 착한 가격에 구입했고, 유통기한도 2025년 8월로 긴 제품이 왔네요. output에 {Aspect: 가격 SentimentText: 착한 가격에 구입했고, SentimentPolarity: 1}, {Aspect: 제품구성 SentimentText: 유통기한도 2025년 8월로 긴 제품이 왔네요 SentimentPolarity: 1} 이런 식으로 데이터를 학습 시켜야 하는지 궁금합니다. 학습 시켜도 결과가 좋게 나오지 않아서요 ㅠㅠ

[@saintgo6762]

좋은강의 감사합니다 ^^

[@gguggufam2]

응원합니다!

[@sungyounlim7827]

유용한 정보 감가합니다

[@blandon308]

관심 있는 분야인데, 감사합니다

[@user-in5pe1tc6r]

응원합니다.

[@user-lz3ed2bs9k]

안녕하세요 혹시 코랩이 아닌 로컬로 할 시 조금 더 시간이 걸리나요?

[@필로소피]

안녕하세요 :) 제 개인적인 생각입니다만, 로컬 PC 사양에 따라 다르지 않을까 싶습니다.

[@paulhahm]

감사합니다. 저도 구글코랩 액세스 에서 막히네요.

[@필로소피]

안녕하세요 :) 이제 액세스 되실 겁니다. 다만, 사본 만들기를 하셔야 코드를 수정 하실 수 있을 겁니다. 고정댓글에 있는 구글 colab 링크에 들어 가시고, [파일]- [Drive에 사본 만들기] 누르시고 사본을 먼저 만드시고 시작하시면 됩니다. 감사합니다! :)

[@user-ld6qj3cz7m]

구글코랩 액세스가 자꾸 거부됬다고 나와요;;

[@필로소피]

안녕하세요 :) 이제 액세스 되실 겁니다. 다만, 사본 만들기를 하셔야 코드를 수정 하실 수 있을 겁니다. 고정댓글에 있는 구글 colab 링크에 들어 가시고, [파일]- [Drive에 사본 만들기] 누르시고 사본을 먼저 만드시고 시작하시면 됩니다. 감사합니다! :)

[@user-ld6qj3cz7m]

@@필로소피 네 감사합니다

[@GM-nv8cq]

오~ 찾고있던 내용이였는데 감사합니다! 응원합니다!!