Update README.md

README.md

@@ -1,3 +1,41 @@
 ---
 license: cc-by-nc-4.0
+language:
+- ja
 ---
+# matsuolab-weblab-10b-instruction-sft-gguf
+[matsuo-labさんが公開しているweblab-10b-instruction-sft](https://huggingface.co/matsuo-lab/weblab-10b-instruction-sft)のggufフォーマット変換版です。
+
+llama.cppのexamplesで動かせます。
+
+## Usage (試用)
+
+```
+git clone https://github.com/ggerganov/llama.cpp.git
+cd llama.cpp
+git checkout gguf
+```
+
+MakeFileを下記に修正します
+
+```
+gguf: examples/gguf/gguf.cpp                                  build-info.h ggml.o llama.o $(OBJS)
+	$(CXX) $(CXXFLAGS) $(filter-out %.h,$^) -o $@ $(LDFLAGS)
+
+```
+の後に
+```
+gguf: examples/gguf/gguf.cpp                                  build-info.h ggml.o llama.o $(OBJS)
+	$(CXX) $(CXXFLAGS) $(filter-out %.h,$^) -o $@ $(LDFLAGS)
+
+gptneox: examples/gptneox-wip/gptneox-main.cpp	build-info.h ggml.o $(OBJS)
+	$(CXX) $(CXXFLAGS) $(filter-out %.h,$^) -o $@ $(LDFLAGS)
+```
+この様に追加します。
+後はmakeしてから実行します。
+
+```
+make 
+./gptneox -m 'matsuolab-weblab-10b-instruction-sft-q4_0.gguf' -n 128 -t 8 -p '吾輩は猫である。名前は実を言うと、' 
+```
+