File size: 2,497 Bytes
342b439
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
# Aplicația LLM Bill Chat

Acest proiect este un proof of concept pentru o aplicație de chat care utilizează un Model de Limbaj Mare (LLM) pentru a asista utilizatorii cu întrebările lor legate de facturile telecom. Aplicația este construită folosind Python și Streamlit, oferind o interfață web interactivă pentru utilizatori.

## Funcționalități

- Menținerea contextului conversației de chat (istoric)
- Permite utilizatorilor să își interogheze informațiile de facturare
- Compararea ultimelor facturi și oferirea de informații
- Răspunde exclusiv cu informațiile de facturare ale utilizatorului
- Augmentează instrucțiunile promptului cu entitățile recunoscute din textul utilizatorului - NER -> Prompting dinamic.
- Salvează informațiile utilizatorului și istoricul conversațiilor

## Structura Proiectului

hf-llm-bill-chat/
│
├── app.py
├── pages/
│   ├── One_model.py
│   ├── Two_models.py
│
├── data/
│   └── user_data/
│       └── user_data_724077190.json
└── logs/
    └── conversation_logs.json

## Implementarea Codului - Script Principal

- Inițializează aplicația Streamlit
- Încarcă datele utilizatorului și afișează facturile existente
- Gestionează încărcările de fișiere pentru facturile noi
- Menține contextul conversației de chat
- Utilizează recunoașterea entităților din textul utilizatorului (NER) pentru prompting dinamic
- Apelează modelele OpenAI (GPT-4o și GPT-4o-mini) pentru răspunsuri
- Afișează răspunsurile în două coloane paralele
- Înregistrează detaliile conversației

## Îmbunătățiri Viitoare

- Îmbunătățirea capacităților de Procesare a Limbajului Natural (NLP) pentru o mai bună recunoaștere a entităților
- Implementarea autentificării utilizatorilor pentru accesul securizat la informațiile de facturare
- Adăugarea suportului pentru mai mulți furnizori de telecomunicații și formate de facturi
- Îmbunătățirea interfeței utilizatorului pentru o experiență mai bună
- Integrarea cu gateway-uri de plată pentru plata facturilor

## Concluzie

- Aplicația LLM Bill Chat demonstrează potențialul utilizării Modelor de Limbaj Mare pentru asistența în facturarea telecom.
- Aplicația oferă o interfață prietenoasă pentru interogarea informațiilor de facturare și obținerea de informații.
- Îmbunătățirile viitoare pot spori capacitățile aplicației și experiența utilizatorului.