MrBananaHuman
commited on
Commit
·
61855bb
1
Parent(s):
7fc9300
Update README.md
Browse files
README.md
CHANGED
|
@@ -1,11 +1,11 @@
|
|
| 1 |
-
kakao brain에서 공개한 kogpt 6b model을 fp16으로 저장한 모델입니다.
|
| 2 |
|
| 3 |
### 카카오브레인 모델을 fp16으로 로드하는 방법
|
| 4 |
|
| 5 |
-
|
| 6 |
from transformers import GPTJForCausalLM
|
| 7 |
model = GPTJForCausalLM.from_pretrained('kakaobrain/kogpt', cache_dir='./my_dir', revision='KoGPT6B-ryan1.5b', torch_dtype=torch.float16)
|
| 8 |
-
|
| 9 |
|
| 10 |
### 참고 링크
|
| 11 |
https://github.com/kakaobrain/kogpt/issues/6?fbclid=IwAR1KpWhuHnevQvEWV18o16k2z9TLgrXkbWTkKqzL-NDXHfDnWcIq7I4SJXM
|
|
|
|
| 1 |
+
kakao brain에서 공개한 kogpt 6b model('kakaobrain/kogpt')을 fp16으로 저장한 모델입니다.
|
| 2 |
|
| 3 |
### 카카오브레인 모델을 fp16으로 로드하는 방법
|
| 4 |
|
| 5 |
+
```
|
| 6 |
from transformers import GPTJForCausalLM
|
| 7 |
model = GPTJForCausalLM.from_pretrained('kakaobrain/kogpt', cache_dir='./my_dir', revision='KoGPT6B-ryan1.5b', torch_dtype=torch.float16)
|
| 8 |
+
```
|
| 9 |
|
| 10 |
### 참고 링크
|
| 11 |
https://github.com/kakaobrain/kogpt/issues/6?fbclid=IwAR1KpWhuHnevQvEWV18o16k2z9TLgrXkbWTkKqzL-NDXHfDnWcIq7I4SJXM
|