Update

models.py

@@ -91,5 +91,4 @@ def generate(
       n_ubatch=512,
       n_batch=512,
   )
-  # return model.tokenizer.to_str(tokens[0])
-  return "output"
+  return model.create_chat_completion(prompt)["choices"][0]["message"]["content"]