Update README.md

README.md

@@ -29,11 +29,33 @@ model = AutoModelForCausalLM.from_pretrained(
     use_cache=True,
 )
 
+functions_metadata = [
+    {
+      "type": "function",
+      "function": {
+        "name": "get_temperature",
+        "description": "get temperature of a city",
+        "parameters": {
+          "type": "object",
+          "properties": {
+            "city": {
+              "type": "string",
+              "description": "name"
+            }
+          },
+          "required": [
+            "city"
+          ]
+        }
+      }
+    }
+]
+
 conversation = [
-    {"role": "system", "content": """Bạn là một trợ lý hữu ích có quyền truy cập vào các chức năng sau. Sử dụng chúng nếu cần -\n[ {\n  \"type\": \"function\",\n  \"function\": {\n    \"name\": \"get_temperature\",\n    \"description\": \"get temperature of a city\",\n    \"parameters\": {\n      \"type\": \"object\",\n      \"properties\": {\n        \"city\": {\n          \"type\": \"string\",\n          \"description\": \"name\"\n        }\n      },\n      \"required\": [\n        \"city\"\n      ]\n    }\n  }\n} ] Để sử dụng các chức năng này, hãy phản hồi với:\n<functioncall> {"name": "function_name", "arguments": {"arg_1": "value_1", "arg_1": "value_1", ...}} </functioncall>\n\nTrường hợp đặc biệt bạn phải xử lý:\n - Nếu không có chức năng nào khớp với yêu cầu của người dùng, bạn sẽ phản hồi một cách lịch sự rằng bạn không thể giúp được.""" },
-    { "role": "user", "content": "Thời tiết ở Sài Gòn đang là bao nhiêu độ"},
-    { "role": "assistant", "content": """<functioncall> {"name": "get_temperature", "arguments": \'{"city": "Sai Gon"}\'} </functioncall>"""},
-    { "role": "user", "content": """<function_response> {"temperature" : 20 C} </function_response>"""},
+    {"role": "system", "content": f"""Bạn là một trợ lý hữu ích có quyền truy cập vào các chức năng sau. Sử dụng chúng nếu cần -\n{str(functions_metadata)} Để sử dụng các chức năng này, hãy phản hồi với:\n<functioncall> {{\\"name\\": \\"function_name\\", \\"arguments\\": {{\\"arg_1\\": \\"value_1\\", \\"arg_1\\": \\"value_1\\", ...}} }} </functioncall>\n\nTrường hợp đặc biệt bạn phải xử lý:\n - Nếu không có chức năng nào khớp với yêu cầu của người dùng, bạn sẽ phản hồi một cách lịch sự rằng bạn không thể giúp được.""" },
+    {"role": "user", "content": "Thời tiết ở Sài Gòn đang là bao nhiêu độ"},
+    {"role": "assistant", "content": """<functioncall> {"name": "get_temperature", "arguments": {"city": "Sai Gon"}} </functioncall>"""},
+    {"role": "user", "content": """<function_response> {"temperature" : "20 C"} </function_response>"""},
 ]
 
 input_ids = tokenizer.apply_chat_template(conversation, return_tensors="pt").to(model.device)