Aplicația LLM Bill Chat

Acest proiect este un proof of concept pentru o aplicație de chat care utilizează un Model de Limbaj Mare (LLM) pentru a asista utilizatorii cu întrebările lor legate de facturile telecom. Aplicația este construită folosind Python și Streamlit, oferind o interfață web interactivă pentru utilizatori.

Funcționalități

Menținerea contextului conversației de chat (istoric)
Permite utilizatorilor să își interogheze informațiile de facturare
Compararea ultimelor facturi și oferirea de informații
Răspunde exclusiv cu informațiile de facturare ale utilizatorului
Augmentează instrucțiunile promptului cu entitățile recunoscute din textul utilizatorului - NER -> Prompting dinamic.
Salvează informațiile utilizatorului și istoricul conversațiilor

Structura Proiectului

hf-llm-bill-chat/ │ ├── app.py ├── pages/ │ ├── One_model.py │ ├── Two_models.py │ ├── data/ │ └── user_data/ │ └── user_data_724077190.json └── logs/ └── conversation_logs.json

Implementarea Codului - Script Principal

Inițializează aplicația Streamlit
Încarcă datele utilizatorului și afișează facturile existente
Gestionează încărcările de fișiere pentru facturile noi
Menține contextul conversației de chat
Utilizează recunoașterea entităților din textul utilizatorului (NER) pentru prompting dinamic
Apelează modelele OpenAI (GPT-4o și GPT-4o-mini) pentru răspunsuri
Afișează răspunsurile în două coloane paralele
Înregistrează detaliile conversației

Îmbunătățiri Viitoare

Îmbunătățirea capacităților de Procesare a Limbajului Natural (NLP) pentru o mai bună recunoaștere a entităților
Implementarea autentificării utilizatorilor pentru accesul securizat la informațiile de facturare
Adăugarea suportului pentru mai mulți furnizori de telecomunicații și formate de facturi
Îmbunătățirea interfeței utilizatorului pentru o experiență mai bună
Integrarea cu gateway-uri de plată pentru plata facturilor

Concluzie

Aplicația LLM Bill Chat demonstrează potențialul utilizării Modelor de Limbaj Mare pentru asistența în facturarea telecom.
Aplicația oferă o interfață prietenoasă pentru interogarea informațiilor de facturare și obținerea de informații.
Îmbunătățirile viitoare pot spori capacitățile aplicației și experiența utilizatorului.