KennethTM commited on
Commit
be7d7f8
·
verified ·
1 Parent(s): e95282d

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -80,10 +80,10 @@ def search_summary():
80
  {"role": "user", "content": f"Kontekst:\n{context}\n\nSpørgsmål:\n{query}"}]
81
 
82
  stream = client.chat.completions.create(
83
- model="meta-llama/Llama-3-8b-chat-hf",
84
  messages=prompt,
85
  stream=True,
86
- max_tokens=1024
87
  )
88
 
89
  partial_message = ""
@@ -95,7 +95,7 @@ def search_summary():
95
  with gr.Blocks() as demo:
96
 
97
  gr.Markdown("# Natur og miljø BOT")
98
- gr.Markdown("Dette er en simpel spørgsmål-svar applikation indenfor Danmarks natur og miljø. Svar genereres af en sprogmodel (LLAMA-3-8B) og anvender relevante referencer i en stor samling af dokumenter. Dette er blandt andet artikler fra [Wikipedia](https://da.wikipedia.org/wiki/Forside), rapporter fra [DCE - Nationalt Center for Miljø og Energi](https://dce.au.dk/udgivelser), [lex.dk - Den Store Danske](https://denstoredanske.lex.dk/) samt sager fra [Miljø og fødevareklagenævnet](https://mfkn.naevneneshus.dk).")
99
 
100
  with gr.Row():
101
  textbox = gr.Textbox(placeholder="Søg...", lines=1, scale=8, label="Spørgsmål")
 
80
  {"role": "user", "content": f"Kontekst:\n{context}\n\nSpørgsmål:\n{query}"}]
81
 
82
  stream = client.chat.completions.create(
83
+ model="meta-llama/Llama-3.3-70B-Instruct-Turbo-Free",
84
  messages=prompt,
85
  stream=True,
86
+ max_tokens=2048
87
  )
88
 
89
  partial_message = ""
 
95
  with gr.Blocks() as demo:
96
 
97
  gr.Markdown("# Natur og miljø BOT")
98
+ gr.Markdown("Dette er en simpel spørgsmål-svar applikation indenfor Danmarks natur og miljø. Svar genereres af en sprogmodel (Llama-3.3-70B - **opgraderet 20. jan 2025**) og anvender relevante referencer i en stor samling af dokumenter. Dette er blandt andet artikler fra [Wikipedia](https://da.wikipedia.org/wiki/Forside), rapporter fra [DCE - Nationalt Center for Miljø og Energi](https://dce.au.dk/udgivelser), [lex.dk - Den Store Danske](https://denstoredanske.lex.dk/) samt sager fra [Miljø og fødevareklagenævnet](https://mfkn.naevneneshus.dk).")
99
 
100
  with gr.Row():
101
  textbox = gr.Textbox(placeholder="Søg...", lines=1, scale=8, label="Spørgsmål")