Update app.py

app.py

@@ -19,6 +19,7 @@ def respond(input_text, system_message, max_tokens, temperature, top_p):
         **inputs,
         max_length=max_tokens,  # 最大トークン数
         top_p=top_p,  # nucleus sampling のパラメータ
+        do_sample=True,  # サンプリングを有効にする
         temperature=temperature,  # 生成の温度
         pad_token_id=tokenizer.eos_token_id
     )