모델 경로가 없다고 나오는데 혹시 수정 중에 있는 건가요??
'Bllossom/llama-3.1-Korean-Bllossom-Vision-8B' 등 Bllosom의 다른 모델들도 좀 쓰려고 하는데 에러가 종종 나는 것 같습니다 ㅠㅠ
아래의 공식 깃허브처럼 gguf파일을 다운받은 후 사용하시길 바랍니다
https://github.com/abetlen/llama-cpp-python
· Sign up or log in to comment