Update README.md
Browse files
README.md
CHANGED
@@ -21,18 +21,20 @@ This llama model was trained 2x faster with [Unsloth](https://github.com/unsloth
|
|
21 |
|
22 |
[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth)
|
23 |
|
24 |
-
|
|
|
25 |
本モデルを用いてELYZA-tasks-100-TVの出力を得るためのコードです。
|
26 |
このコードを動作させることとで課題として提出可能なjsonlファイル得れるようになっています。
|
27 |
|
28 |
-
|
29 |
-
|
30 |
!pip uninstall unsloth -y
|
31 |
!pip install --upgrade --no-cache-dir "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
|
32 |
|
33 |
!pip install --upgrade torch
|
34 |
!pip install --upgrade xformers
|
|
|
35 |
|
|
|
36 |
import torch
|
37 |
if torch.cuda.get_device_capability()[0] >= 8:
|
38 |
!pip install --no-deps packaging ninja einops "flash-attn>=2.6.3"
|
|
|
21 |
|
22 |
[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth)
|
23 |
|
24 |
+
|
25 |
+
# 推論用コード
|
26 |
本モデルを用いてELYZA-tasks-100-TVの出力を得るためのコードです。
|
27 |
このコードを動作させることとで課題として提出可能なjsonlファイル得れるようになっています。
|
28 |
|
29 |
+
```python
|
|
|
30 |
!pip uninstall unsloth -y
|
31 |
!pip install --upgrade --no-cache-dir "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
|
32 |
|
33 |
!pip install --upgrade torch
|
34 |
!pip install --upgrade xformers
|
35 |
+
```
|
36 |
|
37 |
+
```python
|
38 |
import torch
|
39 |
if torch.cuda.get_device_capability()[0] >= 8:
|
40 |
!pip install --no-deps packaging ninja einops "flash-attn>=2.6.3"
|