Update app.py

app.py

@@ -40,18 +40,35 @@ def extract_text_from_pdf(pdf_path):
         text += page.get_text()
     return text
 
-def summarize_text_with_chat(text, max_length=10000):
-    """OpenAIのChat APIを使ってテキストを要約。"""
-    openai.api_key = os.getenv('OPEN_AI_API_KEYS')
+# def summarize_text_with_chat(text, max_length=10000):
+#     """OpenAIのChat APIを使ってテキストを要約。"""
+#     openai.api_key = os.getenv('OPEN_AI_API_KEYS')
+#     trimmed_text = text[:max_length]
+#     response = openai.chat.completions.create(
+#         model="gpt-4o",
+#         messages=[
+#             {"role": "system", "content": "次の文書を要約してください。必ず'## タイトル', '## 要約', '## 専門用語解説'を記載してください。"},
+#             {"role": "user", "content": trimmed_text}
+#         ],
+#         temperature=0.7,
+#         max_tokens=2000
+#     )
+#     summary_text = response.choices[0].message.content
+#     total_token = response.usage.total_tokens
+#     return summary_text, total_token
+
+def summarize_text_with_chat(text, max_length=5000):
+    """GroqのLlama3 70Bを使ってテキストを要約。"""
+    client = Groq(
+        api_key=os.environ.get("GROQ_API_KEY"),
+    )
     trimmed_text = text[:max_length]
-    response = openai.chat.completions.create(
-        model="gpt-4o",
+    response = client.chat.completions.create(
         messages=[
             {"role": "system", "content": "次の文書を要約してください。必ず'## タイトル', '## 要約', '## 専門用語解説'を記載してください。"},
             {"role": "user", "content": trimmed_text}
         ],
-        temperature=0.7,
-        max_tokens=2000
+        model="llama3-70b-8192",
     )
     summary_text = response.choices[0].message.content
     total_token = response.usage.total_tokens