---
title: "Discussion on \"Deepseek R1 QLoRA 파인튜닝\" | Hashnode"
description: "Discussion on \"Deepseek R1 QLoRA 파인튜닝\". 사용 개념\nDeepseek-R1-Distill-Llama-8B\n이 블로그 글은 Deepseek-R1-Distill-Llama-8B를 4비트 양자화와 LoRA를 활용해 파인튜닝하고 허깅페이스에 모델을 호스팅하는 것까지를 설명한다.\n코드 리뷰를 위해 파인튜닝하였는데, 그 코드를 변형하여 포스팅한다.\nDeepseek-R1-Distill-Llama-8B모델은 딥시크 R1을 경량화한 모델로 8B크기라서 쓸만한 편이다.\n양자화\n모델을 그냥 파인튜닝(FP3..."
url: "https://hashnode.com/posts/deepseek-r1-qlora/679a0fcc6e410734f5d2e425"
---

[Feed](https://hashnode.com/feed) /

Discussion

# [Deepseek R1 QLoRA 파인튜닝](https://maximizemaxwell.com/deepseek-r1-qlora?utm_source=hashnode&utm_medium=feed)

사용 개념 Deepseek-R1-Distill-Llama-8B 이 블로그 글은 Deepseek-R1-Distill-Llama-8B를 4비트 양자화와 LoRA를 활용해 파인튜닝하고 허깅페이스에 모델을 호스팅하는 것까지를 설명한다. 코드 리뷰를 위해 파인튜닝하였는데, 그 코드를 변형하여 포스팅한다. Deepseek-R1-Distill-Llama-8B모델은 딥시크 R1을 경량화한 모델로 8B크기라서 쓸만한 편이다. 양자화 모델을 그냥 파인튜닝(FP3...

Jan 29, 2025 · 2 min read · maximizemaxwell.com  
Read the article

-   [#ai](https://hashnode.com/tag/ai)

## Written by

[Eunsoo Max Eun](https://hashnode.com/@maximizemaxwell)

@maximizemaxwell · Seoul

  
[View profile](https://hashnode.com/@maximizemaxwell)

Furr

## Responses

Markdown supported · ⌘↵ to post

No responses yet.