이제 딥시크로 코딩용 로컬 LLM을 만들수 있습니다.
중국이슈가 있는거 감안해서 우선 코딩용으로 쓰실분은
16gb vram GPU만 있으면 어느정도 성능 뽑아줍니다.
그동안 메타 llama는 파라미터수가 너무 커서 일반 PC사양으로 돌릴수도 없었는데
딥시크는 다양한 파라미터모델이 있고
14b 모델도 성능을 괜찮게 내줍니다.
아래 영상 참고하세요!
중국이슈가 있는거 감안해서 우선 코딩용으로 쓰실분은
16gb vram GPU만 있으면 어느정도 성능 뽑아줍니다.
그동안 메타 llama는 파라미터수가 너무 커서 일반 PC사양으로 돌릴수도 없었는데
딥시크는 다양한 파라미터모델이 있고
14b 모델도 성능을 괜찮게 내줍니다.
아래 영상 참고하세요!
댓글을 남기려면 로그인이 필요합니다.
로그인 후 이 페이지로 돌아와 바로 댓글을 남길 수 있습니다.