Spaces:
No application file
No application file
# ์์ด์ ํธ ์์ํ๊ธฐ | |
!!! note | |
์ ์ฒด ๋ฌธ์๋ claude3.5 Sonnet์ ์ํด ๋ฒ์ญ๋์์ผ๋ฉฐ, ์์ด๋ฏผ์ธ ๊ฒฝ์ฐ ๋ฒ์ญ์ ๋ฌธ์ ๊ฐ ์๋ค๊ณ ์๊ฐ๋๋ฉด ์ด์๋ ํ ๋ฆฌํ์คํธ๋ฅผ ๋ณด๋ด์ฃผ์ ์ ๋๋จํ ๊ฐ์ฌํฉ๋๋ค! | |
## ์๊ตฌ์ฌํญ | |
- GPU ๋ฉ๋ชจ๋ฆฌ: ์ต์ 8GB(์์ํ ์ฌ์ฉ ์), 16GB ์ด์ ๊ถ์ฅ | |
- ๋์คํฌ ์ฌ์ฉ๋: 10GB | |
## ๋ชจ๋ธ ๋ค์ด๋ก๋ | |
๋ค์ ๋ช ๋ น์ด๋ก ๋ชจ๋ธ์ ๋ฐ์ ์ ์์ต๋๋ค: | |
```bash | |
huggingface-cli download fishaudio/fish-agent-v0.1-3b --local-dir checkpoints/fish-agent-v0.1-3b | |
``` | |
'checkpoints' ํด๋์ ํ์ผ๋ค์ ๋ฃ์ผ์ธ์. | |
๋ํ [inference](inference.md)์ ์ค๋ช ๋ ๋๋ก fish-speech ๋ชจ๋ธ๋ ๋ค์ด๋ก๋ํด์ผ ํฉ๋๋ค. | |
checkpoints์๋ 2๊ฐ์ ํด๋๊ฐ ์์ด์ผ ํฉ๋๋ค. | |
`checkpoints/fish-speech-1.4`์ `checkpoints/fish-agent-v0.1-3b`์ ๋๋ค. | |
## ํ๊ฒฝ ์ค๋น | |
์ด๋ฏธ Fish-speech๊ฐ ์๋ค๋ฉด ๋ค์ ๋ช ๋ น์ด๋ฅผ ์ถ๊ฐํ์ฌ ๋ฐ๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค: | |
```bash | |
pip install cachetools | |
``` | |
!!! ์ฐธ๊ณ | |
์ปดํ์ผ์ ์ํด Python 3.12 ๋ฏธ๋ง ๋ฒ์ ์ ์ฌ์ฉํด ์ฃผ์ธ์. | |
์๋ค๋ฉด ์๋ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ์ฌ ํ๊ฒฝ์ ๊ตฌ์ถํ์ธ์: | |
```bash | |
sudo apt-get install portaudio19-dev | |
pip install -e .[stable] | |
``` | |
## ์์ด์ ํธ ๋ฐ๋ชจ ์คํ | |
fish-agent๋ฅผ ๊ตฌ์ถํ๋ ค๋ฉด ๋ฉ์ธ ํด๋์์ ์๋ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ์ธ์: | |
```bash | |
python -m tools.api --llama-checkpoint-path checkpoints/fish-agent-v0.1-3b/ --mode agent --compile | |
``` | |
`--compile` ์ธ์๋ Python < 3.12์์๋ง ์ง์๋๋ฉฐ, ํ ํฐ ์์ฑ ์๋๋ฅผ ํฌ๊ฒ ํฅ์์ํต๋๋ค. | |
ํ ๋ฒ์ ์ปดํ์ผ๋์ง ์์ต๋๋ค(๊ธฐ์ตํด ๋์ธ์). | |
๊ทธ๋ฐ ๋ค์ ๋ค๋ฅธ ํฐ๋ฏธ๋์ ์ด๊ณ ๋ค์ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ์ธ์: | |
```bash | |
python -m tools.e2e_webui | |
``` | |
์ด๋ ๊ฒ ํ๋ฉด ๊ธฐ๊ธฐ์ Gradio WebUI๊ฐ ์์ฑ๋ฉ๋๋ค. | |
๋ชจ๋ธ์ ์ฒ์ ์ฌ์ฉํ ๋๋ (`--compile`์ด True์ธ ๊ฒฝ์ฐ) ์ ์ ์ปดํ์ผ์ด ์งํ๋๋ฏ๋ก ๊ธฐ๋ค๋ ค ์ฃผ์ธ์. | |
## Gradio Webui | |
<p align="center"> | |
<img src="../../assets/figs/agent_gradio.png" width="75%"> | |
</p> | |
์ฆ๊ฑฐ์ด ์๊ฐ ๋์ธ์! | |
## ์ฑ๋ฅ | |
ํ ์คํธ ๊ฒฐ๊ณผ, 4060 ๋ ธํธ๋ถ์ ๊ฒจ์ฐ ์คํ๋๋ฉฐ ๋งค์ฐ ๋ถํ๊ฐ ํฐ ์ํ๋ก, ์ด๋น ์ฝ 8ํ ํฐ ์ ๋๋ง ์ฒ๋ฆฌํฉ๋๋ค. 4090์ ์ปดํ์ผ ์ํ์์ ์ด๋น ์ฝ 95ํ ํฐ์ ์ฒ๋ฆฌํ๋ฉฐ, ์ด๊ฒ์ด ์ ํฌ๊ฐ ๊ถ์ฅํ๋ ์ฌ์์ ๋๋ค. | |
# ์์ด์ ํธ ์๊ฐ | |
์ด ๋ฐ๋ชจ๋ ์ด๊ธฐ ์ํ ํ ์คํธ ๋ฒ์ ์ผ๋ก, ์ถ๋ก ์๋ ์ต์ ํ๊ฐ ํ์ํ๋ฉฐ ์์ ํด์ผ ํ ๋ฒ๊ทธ๊ฐ ๋ง์ด ์์ต๋๋ค. ๋ฒ๊ทธ๋ฅผ ๋ฐ๊ฒฌํ๊ฑฐ๋ ์์ ํ๊ณ ์ถ์ผ์๋ค๋ฉด ์ด์๋ ํ ๋ฆฌํ์คํธ๋ฅผ ๋ณด๋ด์ฃผ์๋ฉด ๋งค์ฐ ๊ฐ์ฌํ๊ฒ ์ต๋๋ค. | |