Qwen3 0.6B - GGUF 포맷 (float16)

📌 본 모델은 코드베이직 Codebasic에서 GGUF 포맷으로 변환되었습니다.

이 저장소는 Qwen3 0.6B 모델을 llama.cpp의 변환 도구를 사용하여 GGUF 포맷으로 변환한 버전입니다. 이 포맷은 llama.cpp, llamafile, llm, text-generation-webui 등에서 사용할 수 있습니다.

🔧 변환 정보

  • 변환 스크립트: llama.cpp/convert.py
  • 출력 형식: GGUF (--outtype f16)
  • 모델 크기: 0.6B 파라미터
  • 원본 모델: Qwen/Qwen1.5-0.5B

🧠 모델 구조

Qwen3 계열은 Transformer 기반 언어 모델로, 다양한 언어와 작업에 사용할 수 있습니다. 본 모델은 한국어 지원 여부에 따라 사용자가 실험적으로 확인해 보시는 것을 권장합니다.

🧪 예시 사용법 (llama.cpp)

./main -m qwen3-0.6b.gguf -p "안녕하세요. 자기소개를 해 주세요."
Downloads last month
1
GGUF
Model size
752M params
Architecture
qwen3
Hardware compatibility
Log In to view the estimation

16-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support