hf-llm-bill-chat / Prezentare.md
georgeek's picture
.
342b439
# Aplicația LLM Bill Chat
Acest proiect este un proof of concept pentru o aplicație de chat care utilizează un Model de Limbaj Mare (LLM) pentru a asista utilizatorii cu întrebările lor legate de facturile telecom. Aplicația este construită folosind Python și Streamlit, oferind o interfață web interactivă pentru utilizatori.
## Funcționalități
- Menținerea contextului conversației de chat (istoric)
- Permite utilizatorilor să își interogheze informațiile de facturare
- Compararea ultimelor facturi și oferirea de informații
- Răspunde exclusiv cu informațiile de facturare ale utilizatorului
- Augmentează instrucțiunile promptului cu entitățile recunoscute din textul utilizatorului - NER -> Prompting dinamic.
- Salvează informațiile utilizatorului și istoricul conversațiilor
## Structura Proiectului
hf-llm-bill-chat/
├── app.py
├── pages/
│ ├── One_model.py
│ ├── Two_models.py
├── data/
│ └── user_data/
│ └── user_data_724077190.json
└── logs/
└── conversation_logs.json
## Implementarea Codului - Script Principal
- Inițializează aplicația Streamlit
- Încarcă datele utilizatorului și afișează facturile existente
- Gestionează încărcările de fișiere pentru facturile noi
- Menține contextul conversației de chat
- Utilizează recunoașterea entităților din textul utilizatorului (NER) pentru prompting dinamic
- Apelează modelele OpenAI (GPT-4o și GPT-4o-mini) pentru răspunsuri
- Afișează răspunsurile în două coloane paralele
- Înregistrează detaliile conversației
## Îmbunătățiri Viitoare
- Îmbunătățirea capacităților de Procesare a Limbajului Natural (NLP) pentru o mai bună recunoaștere a entităților
- Implementarea autentificării utilizatorilor pentru accesul securizat la informațiile de facturare
- Adăugarea suportului pentru mai mulți furnizori de telecomunicații și formate de facturi
- Îmbunătățirea interfeței utilizatorului pentru o experiență mai bună
- Integrarea cu gateway-uri de plată pentru plata facturilor
## Concluzie
- Aplicația LLM Bill Chat demonstrează potențialul utilizării Modelor de Limbaj Mare pentru asistența în facturarea telecom.
- Aplicația oferă o interfață prietenoasă pentru interogarea informațiilor de facturare și obținerea de informații.
- Îmbunătățirile viitoare pot spori capacitățile aplicației și experiența utilizatorului.