Update

models.py

@@ -90,4 +90,8 @@ def generate(
       n_ubatch=512,
       n_batch=512,
   )
-  return model.create_chat_completion(prompt)["choices"][0]["message"]["content"]
+  print(prompt)
+  return model.create_chat_completion(messages=[{
+    "role": "user",
+    "content": prompt
+  }])["choices"][0]["message"]["content"]