Update app.py

app.py

@@ -7,6 +7,14 @@ gr.load("models/rinna/japanese-gpt2-medium").launch()
 # 日本語モデルを指定
 model_name = "rinna/japanese-gpt2-medium"
 
+from spaces import GPU
+
+@GPU(duration=120)
+def generate_text(prompt, max_length):
+    result = generator(prompt, max_length=max_length, num_return_sequences=1)
+    return result[0]['generated_text']
+
+
 # トークナイザーとパイプラインの設定
 tokenizer = AutoTokenizer.from_pretrained(model_name)
 generator = pipeline('text-generation', model=model_name, tokenizer=tokenizer, device=0)  # device=0はGPUを使用する設定