Пікірлер
@happypainter6203
@happypainter6203 Күн бұрын
레전드 ㄷㄷ..
@mingyukang6592
@mingyukang6592 Күн бұрын
8B도, A100으로 2분 정도 걸리네요. ㅠ.ㅠ
@seungjaeyoon3341
@seungjaeyoon3341 17 күн бұрын
감사히 잘 배우고 있습니다😊
@강정식-l4e
@강정식-l4e Ай бұрын
좋은 강의 감사합니다.
@necromansir6060
@necromansir6060 Ай бұрын
제가 오늘 유입했는데 혹시llama3를 파인튜닝한 유트브 영상도 있으신가요?
@김은연-k3e
@김은연-k3e Ай бұрын
코랩파일은 어디서 공유받을 수 있을까요?
@lvupkim4460
@lvupkim4460 Ай бұрын
늘 좋은 영상 감사합니다. 두가지 질문이 있는데, 시간이 허락하신다면 답변 부탁드립니다. 1. 3.3모델에서 요구하는 gpu의 스펙은 공식홈페이지에도 안보이는데, 어떻게 알 수 있을까요? 2. 만약 스펙에 맞는 gpu를 구해서 회사용으로 구축한다면, 사용자가 늘어날때는 추가적으로 gpu의 vram이 요구 될텐데, 적정 vram을 어떻게 예측할 수 있을까요? 즉 구축후 테스트는 혼자해보고 추후에 실무적용 되서 사용량이 많아지면 느린 아웃풋으로 만족도가 낮아질 수 있을텐데 유즈 케이스가 있을까요?
@lietz4671
@lietz4671 Ай бұрын
14700k cpu, 64GB RAM, 3090 24GB VRAM 본체로 라마 3.3 70B 모델을 돌려봤습니다. 1.93token/s 으로 출력되더군요... 개인이 집에서 쓰는 것은 너무 느려서 불가능할 듯합니다.
@charles78501
@charles78501 Ай бұрын
70b는 90기가 정도는 vram이 필요합니다
@김학규-q2p
@김학규-q2p Ай бұрын
Q4_K_M 양자화된 모델을 선택하면 24GB 그래픽카드 듀얼 사양 (24+24 = 48GB)에서 돌릴 수 있어요. ollama 같은 환경 이용하면 됩니다.
@lvupkim4460
@lvupkim4460 Ай бұрын
모두 답변감사합니다. 제 경우는 회사에서 H100 서버를 하나 지원해줘서 90GB는 확보가 가능한 상황입니다.. 다만 여러명이 동시에 요청했을 때 속도가 엄청나게 느려져버리는건 아닐까 하는 걱정이 있습니다.
@charles78501
@charles78501 Ай бұрын
@@lvupkim4460 레딧 같은 곳에 물어보시면 제대로된 정보 찾을 수 있지 않을까요? 그 쪽은 사용자 커뮤니티가 되게 활성화되어있어서 그쪽 찾아보시는걸 추천드립니다.
@beatlekim
@beatlekim Ай бұрын
와 너무 잘 정리해주셨네요 감사합니다
@necrojim6954
@necrojim6954 2 ай бұрын
정말 감사합니다.
@jongsikahn4093
@jongsikahn4093 2 ай бұрын
소스 GitLab 주소 공유 가능하실까요?
@문영식-y3s
@문영식-y3s 2 ай бұрын
마침 자유 스터디 그룹에서 이번주 목표로 계획했던건데 마침 영상이 올라왔네요! 출처 밝히고 스터디 그룹원들에게 영상 소개하겠습니다
@문영식-y3s
@문영식-y3s 2 ай бұрын
감사히 잘 보겠습니다 ❤
@eraser1350
@eraser1350 2 ай бұрын
구독과~좋아요~ 꾹❤
@LovelyFlamingoBirds-fl2qe
@LovelyFlamingoBirds-fl2qe 2 ай бұрын
좋은 강의 감사합니다.
@오렌지좋아-z4d
@오렌지좋아-z4d 2 ай бұрын
11b 비전 모델도 한국어 추론 능력 성능평가 부탁드립니다.
@와글와글-p8r
@와글와글-p8r 2 ай бұрын
아니면 그록에 얹어있는 라마 3.1을 돌려도 빠르게 정보를 처리할 수 있는 에이전트를 만들 수 있지 않을까 생각했습니다.
@와글와글-p8r
@와글와글-p8r 2 ай бұрын
LLM API에서 비용이 발생된다면 라마를 사용하면 그 부분은 해결할 수 있을거 같고 라마 3.2가 멀티모달 지원도 되니까 이미지 학습까지 가능하지 않을까 생각했는데, 가능할까요?
@와글와글-p8r
@와글와글-p8r 2 ай бұрын
라마3.2로도 개인형 AI 에이전트를 만들 수 있나요?
@blur6254
@blur6254 2 ай бұрын
좋은 내용 감사합니다, 매번 실행할 때마다 예상한 결과가 나올 수 있게 제어할 수 있다면 비즈니스에 적용하기 더욱 좋을텐데요
@kmaai6574
@kmaai6574 2 ай бұрын
감사욘
@문석훈-f1p
@문석훈-f1p 3 ай бұрын
보고 따라했는데 메타 토큰도 허가도 받은거같은데 토큰이 어디있는 지모르겟어요
@사랑결
@사랑결 3 ай бұрын
선생님 질문이 있습니다ㅜ gpt 4o mini는 한달 요금이 800원대 라고 해서 이걸 이용하려는데 아무리 찾아도 상품결제 화면이 안보여서요ㅜ 혹시 Gpt 플러스(20달러짜리..)를 이용해야 4o mini를 이용할 수 있는건가요? 따로 4o mini만 이용할 수 없는건가요?
@ismgroov4094
@ismgroov4094 3 ай бұрын
우찌된게 영상 뭉개지는거는 못잡노; 으잉
@스누피-h2s
@스누피-h2s 3 ай бұрын
안녕하세요. F12에서 API 주소가 안 뜨는데, 이런 경우에는 어떻게 크롤링할 수 있을까요?
@유아구름
@유아구름 3 ай бұрын
메타에 폼 작성해서 승인 요청을 했는데 응답이 없네요. 여러번 시도했는데도 안돼서 어떻게 해야 될지 모르겠습니다. 다른 방법이 있나요?
@pithecusaustralo4452
@pithecusaustralo4452 3 ай бұрын
"기존의 라마 3.2를 개선한 라마 3.2를 출시하였는데요.." -_-;;;
@kgro353
@kgro353 2 ай бұрын
님 귀떼기는 ai만도 못한 멀티모달리티를 가지고 있네요. 누가들어도 문맥상 발음상 3.1이라고 발음했는데 그렇게 들려요? 이비인후과 가보세요
@루루-z4l
@루루-z4l 3 ай бұрын
오 비교 감사합니다. 비전 모델도 한국어 벤치마크가 있었으면 좋겠네요
@몽라공
@몽라공 3 ай бұрын
혹시 PaliGemma 파인튜닝 영상은 언제 올라 올까요 너무 기대 됩니다.
@KSLee-i7t
@KSLee-i7t 3 ай бұрын
좋은 테스트 강의 감사합니다.
@KariKamama-l2t
@KariKamama-l2t 4 ай бұрын
감사합니다! 다음편 무지기대 됩니다~
@mingyukang6592
@mingyukang6592 4 ай бұрын
langgraph로 구현하는 agent도 기존 OpenAI assistant 또는 chat.completions처럼 상세한 prompt를 활용하는게 가능한가요?
@jlive8135
@jlive8135 4 ай бұрын
랭그래프로 생성되는 문장의 분량도 컨트롤이 가능할까요? 단순 프롬프트로는 제대로 안되는거같아요
@4tenlab
@4tenlab 4 ай бұрын
좋은강의 잘 들었습니다 ^^
@laplacia
@laplacia 4 ай бұрын
형 마이크좀 좋은걸로 하나 구하자.
@wjwjwj-gd8ty
@wjwjwj-gd8ty 4 ай бұрын
좋긴 한데요 아나콘다 설치하는 이 과정중에 뜨는 에러들도 알려주셨으면 진짜 사랑에 빠져버릴 것 같아요
@llama10-hj
@llama10-hj 5 ай бұрын
선생님 안녕하세요. 다름이 아니라 max_token이랑 리트리버 반환 문서 개수만 조금 바꿔도 답변 속도가 너무 느려집니다.. 혹시 해결 방법이 있을까요?
@bida-hammer
@bida-hammer 5 ай бұрын
안녕하세요, 인프런 강의 수강하기전에 질문을 남기고 싶은데 인프런에는 남기는 공간이 없어서 여기에 남기는점 양해 부탁드립니다. 문제가 된다면 삭제할게요! 질문 . LLM, RAG를 사용하여 챗봇을 만들어본 경험이 있는데 해당 강의(Part4)를 바로 들어도 될까요? 그게 아니라면 필수로 들어야할 선수강의가 있다면 추천 부탁드립니다. 감사합니다.
@박지환-e8o
@박지환-e8o 5 ай бұрын
라마 3.1 돌리려면 코랩 a100으로 가능한가요?
@zoony82
@zoony82 5 ай бұрын
감사합니다!!
@한국어선생님-v7v
@한국어선생님-v7v 5 ай бұрын
이정도만 해도 대략적인 개념은 알게되었습니다!! 진심으로 감사합니다 !!
@뿌셔뿌셔-w2u
@뿌셔뿌셔-w2u 5 ай бұрын
한국어로 설명해주세요.
@memorygod
@memorygod 5 ай бұрын
회사 내부(100명 정도 사용)에서 라마로 챗봇을 만들어 사용할 계획입니다. 천만원 정도 데스크탑 구매를 생각하고 있습니다. 아래 사양 정도면 사용할 수 있을까요? 조언 부탁 드립니다. RAM 64GB DDR4 GPU 24GV VRAM Storage 1TB SSD
@정경민-z1g
@정경민-z1g 5 ай бұрын
감사합니다. 위영상 실습은 어떻게 해볼수 있을까요?
@jihunyoo7804
@jihunyoo7804 5 ай бұрын
부산이시면 같이 모여서 해보는것도 괜찬을듯합니다
@kgro353
@kgro353 5 ай бұрын
클로바는 진짜 사기인게 다른 llm들 천만원짜리 글카 10만개씩 가지고 학습하는데 지들은 확보도 안해놓고 국산 gpt다 이러고 있음...
@jlive8135
@jlive8135 5 ай бұрын
ㅋㅋㅋㅋ K-AIㅋㅋㅋㅋ
@jesim4273
@jesim4273 5 ай бұрын
클로바x ㅡㅡ
@rbqja333
@rbqja333 5 ай бұрын
업로드를 어디에 해야하나요?
@정경민-z1g
@정경민-z1g 5 ай бұрын
재밌네요 .. 매번 감사드립니다.
@차승창-f2t
@차승창-f2t 6 ай бұрын
안녕하세요. 3.1도 강의 안 해주시나요 ㅎㅎ
@김정환-f8i
@김정환-f8i 6 ай бұрын
자 이제 개발자노트 다 읽었으니 핵심개념을 설명해주세요.
@lietz4671
@lietz4671 6 ай бұрын
중국어를 한국어로 번역시켜 보면 번역 품질이 낮습니다... 그래서 저는 아직 사용하지 않습니다.
@kijungKong
@kijungKong 6 ай бұрын
너무 잘가르치시네요 감사합니다!!