Update app.py

app.py

@@ -38,7 +38,7 @@ from pydantic_ai.models.openai import OpenAIModel
 model = OpenAIModel(
     'gemma-2-2b-it',
     base_url='http://localhost:1234/v1',
-    api_key='darso-local-api-key',
+    api_key='your-local-api-key',
 )
 model11 = OpenAIModel(
     'mistral-7b-instruct-v0.3',
@@ -46,6 +46,7 @@ model11 = OpenAIModel(
     api_key='your-local-api-key',
 )
 
+#DeepSeek Key: sk-694660c67c3947e4853019473f30240d https://api.deepseek.com
 # Model Pydantic untuk Sales Order
 class product1(BaseModel):
     ds_productCode: Optional[str] = "" #str = Field(..., min_length=1, max_length=20)
@@ -74,20 +75,20 @@ class SalesOrder(BaseModel):
     ds_shippingAddress: Optional[str] = ""
     ds_totalAmount:Optional[float] = 0
     #ds_paymentTerms: Optional[str] = ""
-
+os.environ['GEMINI_API_KEY'] = 'AIzaSyAsVIHsPIIfDBTb2K6VNdNlMt05t8x3mtE'
 #agent= Agent('gemini-1.5-flash', result_type=SalesOrder)
 
 # # Create a system prompt to guide the model
 SYSTEM_PROMPT = """
-You are a helper that extracts SalesOrder information from text and formats it as a SalesOrder class.
+Anda adalah asisten yang ahli melakukan ekstrak data SalesOrder dari teks user. Format output yang diinginkan hanya berupa JSON saja sesuai class SalesOrder. Tidak usah ada penjelasan lain. Sekali lagi: Output hanya JSON saja. Untuk Nomor Sales Order pasangkan dengan key ds_salesOrderId, untuk Tanggal Sales pasangkan dengan key ds_salesDate, untuk Nama Customer pasangkan dengan Key ds_customerName, untuk Alamat Customer pasangkan dengan key ds_customerAddress, untuk Daftar Item Barang pasangkan dengan key ds_items, untuk Kode Barang pasangkan dengan key ds_productCode, untuk Nama Barang pasangkan dengan key ds_productName, untuk Quantity pasangkan dengan key ds_quantity, untuk Unit Price pasangkan dengan key ds_unitPrice, untuk Total Nilai Per Baris Barang pasangkan dengan key ds_itemAmt, untuk Ongkos Kirim pasangkan dengan key ds_shippingCost, untuk Alamat Pengiriman pasangkan dengan key ds_shippingAddress, untuk Total Nilai Sales Order pasangkan dengan key ds_totalAmount
 """
 #agent3 = Agent(model=ollama_model, result_type=PetList, retries=3, system_prompt=SYSTEM_PROMPT)
 #agent3 = Agent(model=ollama_model, retries=3, system_prompt=SYSTEM_PROMPT)
 
 
-
-agent = Agent('gemini-1.5-flash') # OK-1
-#agent = Agent(model) # OK-2 
+#INI SAJA. SALAH SATU
+agent = Agent('gemini-1.5-flash', system_prompt=SYSTEM_PROMPT) # OK-Gemini
+#agent = Agent(model) # OK-Lokal 
 
 
 
@@ -125,7 +126,7 @@ async def get_db(request: Request) -> Database:
 async def get_chat(database: Database = Depends(get_db)) -> Response:
     msgs = await database.get_messages()
     return Response(
-        b'\n'.join(json.dumps(to_chat_message(m)).encode('utf-8') for m in msgs),
+        b'\n'.join(json.dumps(to_ds_message(m)).encode('utf-8') for m in msgs),
         media_type='text/plain',
     )
 
@@ -133,7 +134,6 @@ async def get_chat(database: Database = Depends(get_db)) -> Response:
     
 class ChatMessage(TypedDict):
     """Format of messages sent to the browser."""
-
     role: Literal['user', 'model']
     timestamp: str
     content: str
@@ -157,9 +157,10 @@ def to_chat_message(m: ModelMessage) -> ChatMessage:
             }
     raise UnexpectedModelBehavior(f'Unexpected message type for chat app: {m}')
 
-def to_ds_message(m: ModelMessage) -> SalesOrder:
-    first_part = m.parts[0]
+def to_ds_message(m: ModelMessage) -> ChatMessage:
+    
     if isinstance(m, ModelRequest):
+        first_part = m.parts[1]
         if isinstance(first_part, UserPromptPart):
             return {
                 'role': 'user',
@@ -167,15 +168,16 @@ def to_ds_message(m: ModelMessage) -> SalesOrder:
                 'content': first_part.content,
             }
     elif isinstance(m, ModelResponse):
+        first_part = m.parts[0]
         if isinstance(first_part, TextPart):
             return {
                 'role': 'model',
                 'timestamp': m.timestamp.isoformat(),
                 'content': first_part.content,
             }
-    raise UnexpectedModelBehavior(f'Unexpected message type for chat app: {m}')
+    raise UnexpectedModelBehavior(f'Unexpected ds-message type for chat app: {m}')
     
-def to_form_message(m: ModelMessage) -> SalesOrder:
+def to_form_message(m: ModelMessage) -> ChatMessage:
     first_part = m.parts[0]
     if isinstance(m, ModelResponse):
         if isinstance(first_part, TextPart):
@@ -220,8 +222,9 @@ async def post_chat(
         #Nama pembeli: Bu Lurah, alamat Bekasi Barat, hari ini membeli Teh Putih dua kaleng harga 110000 per kaleng, juga membeli Teh Hitam 3 kaleng, harga per kaleng 60000. Ongkos kirim ke Bekasi Barat sebesar 36 ribu
         #nama pembeli Mas Anang alamat di Jalan Cisitu no.5 Bandung, membeli Chocobar 5 batang harga 15 ribu per batang, dan membeli Rice Cracker 4 buah harga 20 ribu per buah, ongkos kirim ke Jalan Cisitu no.5 sebesar 7 ribu rupiah
         try:
-            prompt2=f"Ekstrak data Sales Order dari teks: {prompt1}. Format output yang diinginkan hanya berupa JSON saja sesuai class Sales Order. Tidak usah ada penjelasan lain. Sekali lagi: Output hanya JSON saja. Hari ini adalah tanggal {date.today()}. untuk Nomor Sales Order pasangkan dengan key ds_salesOrderId, untuk Tanggal Sales pasangkan dengan key ds_salesDate, untuk Nama Customer pasangkan dengan Key ds_customerName, untuk Alamat Customer pasangkan dengan key ds_customerAddress, untuk Daftar Item Barang pasangkan dengan key ds_items, untuk Kode Barang pasangkan dengan key ds_productCode, untuk Nama Barang pasangkan dengan key ds_productName, untuk Quantity pasangkan dengan key ds_quantity, untuk Unit Price pasangkan dengan key ds_unitPrice, untuk Total Nilai Per Baris Barang pasangkan dengan key ds_itemAmt. Setelah Daftar Item Barang, selanjutnya untuk Ongkos Kirim pasangkan dengan key ds_shippingCost, untuk Alamat Pengiriman pasangkan dengan key ds_shippingAddress, untuk Total Nilai Sales Order pasangkan dengan key ds_totalAmount"
-            #prompt2=f"Ekstrak data Sales Order dari teks: {prompt1}. Hari ini adalah tanggal {date.today()}"            
+            #prompt2=f"Ekstrak data Sales Order dari teks: {prompt1}. Format output yang diinginkan hanya berupa JSON saja sesuai class Sales Order. Tidak usah ada penjelasan lain. Sekali lagi: Output hanya JSON saja. Hari ini adalah tanggal {date.today()}. untuk Nomor Sales Order pasangkan dengan key ds_salesOrderId, untuk Tanggal Sales pasangkan dengan key ds_salesDate, untuk Nama Customer pasangkan dengan Key ds_customerName, untuk Alamat Customer pasangkan dengan key ds_customerAddress, untuk Daftar Item Barang pasangkan dengan key ds_items, untuk Kode Barang pasangkan dengan key ds_productCode, untuk Nama Barang pasangkan dengan key ds_productName, untuk Quantity pasangkan dengan key ds_quantity, untuk Unit Price pasangkan dengan key ds_unitPrice, untuk Total Nilai Per Baris Barang pasangkan dengan key ds_itemAmt. Setelah Daftar Item Barang, selanjutnya untuk Ongkos Kirim pasangkan dengan key ds_shippingCost, untuk Alamat Pengiriman pasangkan dengan key ds_shippingAddress, untuk Total Nilai Sales Order pasangkan dengan key ds_totalAmount"
+            #prompt2=f"Ekstrak data Sales Order dari teks: {prompt1}. Hari ini adalah tanggal {date.today()}"   
+            prompt2=f"{prompt1}. Hari ini adalah tanggal {date.today()}"              
             yield (
                 json.dumps(
                     {
@@ -232,15 +235,26 @@ async def post_chat(
                 ).encode('utf-8')
                 + b'\n'
             )
-            messages = await database.get_messages()
-            async with agent.run_stream(prompt2, message_history=messages) as result:
+            #messages = await database.get_messages()
+            async with agent.run_stream(prompt2) as result:
                 async for text in result.stream(debounce_by=0.1):
                     m = ModelResponse.from_text(content=text, timestamp=result.timestamp())
                     yield json.dumps(to_ds_message(m)).encode('utf-8') + b'\n'
                 
             ##print(result.usage())
-            await database.add_messages(result.new_messages_json())
+            #await database.add_messages(result.new_messages_json())
             darso = json.loads(result.new_messages_json())
+            #print(darso)
+            darso0= darso[0]
+            #darso0.pop(darso0['parts'][0])
+            #print("00|------------------")
+            #print("01|", darso0 )
+            #print("01a|", darso0['parts'][0] )
+            #print("01b|", darso0['parts'][1] )
+            darso0['parts'][0] = darso0['parts'][1]
+            #print("01?|", darso0 ) 
+            #print("01??|", darso ) 
+            #print("02|------------------")
             darso1= darso[1] 
             #print("1|", darso1)
             darso2= json.loads(json.dumps(darso1))
@@ -418,8 +432,10 @@ async def post_chat(
   </form>
                 """
             m = ModelResponse.from_text(content=formDs, timestamp=result.timestamp())
-            yield json.dumps(to_form_message(m)).encode('utf-8') + b'\n'
-            print("OK")
+            yield json.dumps(to_ds_message(m)).encode('utf-8') + b'\n'
+            print("OK:")
+            #await database.add_messages(result.new_messages_json())
+            await database.add_messages(json.dumps(darso))
             ##print(len(items))
             #darso7 = SalesOrder.model_validate(darso6)
             #print("[--",darso7.ds_customerName,"--]")
@@ -435,11 +451,10 @@ async def post_chat(
         print(">>>", prompt, "<<<")
         return StreamingResponse(ds_messages(prompt), media_type='text/plain')
     elif prompt[0] != "@" :    
-        print("biasa")
-        #return StreamingResponse(stream_messages(), media_type='text/plain')
+        #print("biasa")
         return StreamingResponse(ds_messages(prompt), media_type='text/plain')
     print("** selesai **")
-    return StreamingResponse(stream_messages(), media_type='text/plain')
+    return StreamingResponse(ds_messages(prompt), media_type='text/plain')
 
 P = ParamSpec('P')
 R = TypeVar('R')
@@ -520,7 +535,6 @@ class Database:
             *args,  # type: ignore
         )
 
-
 if __name__ == '__main__':    
     import uvicorn
     uvicorn.run(