DaehanKim
/

KoUL2

DaehanKim commited on Oct 18, 2022

Commit

d95e380

•

1 Parent(s): 56cfc61

Update README.md

Files changed (1) hide show

README.md CHANGED Viewed

@@ -1,6 +1,7 @@
 # KoUL2
 - 모두의말뭉치 + AI hub에 공개된 기타 한국어 텍스트 데이터를 기반으로 학습된 UL2(Unifying Language Learning Paradigm)모델입니다.
 - [lassl](https://github.com/lassl/lassl) 오픈소스 프로젝트를 활용하여 학습하였습니다.
 - 사전학습만 진행된 모델이므로 아래와 같이 UL2의 denoising을 확인해보실 수 있습니다.
 ```py

 # KoUL2
 - 모두의말뭉치 + AI hub에 공개된 기타 한국어 텍스트 데이터를 기반으로 학습된 UL2(Unifying Language Learning Paradigm)모델입니다.
+- 파라미터 수는 279526656(280M)개로 encoder-decoder 구조를 가지고 있습니다.
 - [lassl](https://github.com/lassl/lassl) 오픈소스 프로젝트를 활용하여 학습하였습니다.
 - 사전학습만 진행된 모델이므로 아래와 같이 UL2의 denoising을 확인해보실 수 있습니다.
 ```py