|
--- |
|
license: mit |
|
language: |
|
- en |
|
- ro |
|
base_model: |
|
- LLMLit/LLMLit |
|
tags: |
|
- LLMLiT |
|
- Romania |
|
- LLM |
|
datasets: |
|
- LLMLit/LitSet |
|
metrics: |
|
- accuracy |
|
- character |
|
- code_eval |
|
--- |
|
--- |
|
|
|
|
|
 |
|
|
|
# **LLMLit – Model Card** |
|
📌 *High-performance multilingual LLM for English & Romanian NLP tasks* |
|
|
|
🔗 [LLMLit on Hugging Face](https://huggingface.co/LLMLit) |
|
🔗 [LitSeekR1 on Hugging Face](https://huggingface.co/LLMLit/LitSeekR1) |
|
|
|
--- |
|
|
|
## **🔍 Quick Summary** |
|
**LLMLit** este un model de limbaj mare (LLM) performant, multilingv, optimizat din **Meta’s Llama 3.1 8B Instruct**. Este conceput pentru **task-uri NLP în limba engleză și română**, având capacități avansate de **urmărire a instrucțiunilor, înțelegere contextuală și generare de conținut precis**. |
|
|
|
## **📌 Model Details** |
|
🔹 **Descriere:** LLMLit poate fi utilizat pentru **generare de conținut, sumarizare, răspuns la întrebări și multe altele**. |
|
🔹 **Fine-tuning:** Modelul a fost antrenat pentru **adherarea la instrucțiuni de înaltă calitate și o mai bună înțelegere a contextului**. |
|
🔹 **Utilizatori țintă:** Dezvoltatori, cercetători și companii care au nevoie de **soluții NLP fiabile**. |
|
|
|
| Caracteristici | Detalii | |
|
|----------------|---------| |
|
| 🏢 **Dezvoltat de** | PyThaGo.AI Development Team | |
|
| 💰 **Finanțare** | Contribuții open-source & sponsori privați | |
|
| 🌍 **Limbaje** | Engleză (en), Română (ro) | |
|
| 🏷 **Licență** | MIT | |
|
| 🔗 **Model de bază** | `meta-llama/Llama-3.1-8B-Instruct` | |
|
| 📂 **Resurse** | [GitHub Repository](#) / Paper: *To be published* | |
|
| 🚀 **Demo** | *Coming Soon* | |
|
|
|
--- |
|
### **Coming Soon: Modele de Generare Imagine și Video 🎨🎬** |
|
--- |
|
|
|
**Modelele de generare imagine și video sunt pe cale să fie lansate!** Așteaptă-te la posibilități creative nelimitate. Iată modelele ce vor fi disponibile curând: |
|
|
|
| Model | Descriere | Status | Data estimată | |
|
|---------------------|-------------------------------------------------------|----------------|---------------| |
|
| **ImageGen** | Generare de imagini detaliate pe baza de text | **Coming Soon** | Martie 2025 | |
|
| **VideoGen** | Creare de clipuri video pe baza descrierilor textuale | **Coming Soon** | Aprilie 2025 | |
|
| **DeepArt** | Transformă pozele în opere de artă (stil artistic) | **Coming Soon** | Mai 2025 | |
|
| **SceneBuilder** | Creare de scene video animate folosind AI | **Coming Soon** | Iunie 2025 | |
|
| **SynthWave** | Generare de video pe bază de muzică și text | **Coming Soon** | Iulie 2025 | |
|
|
|
🎥 **Transformă-ți ideile în realitate!** Modelele noastre de generare îți vor permite să creezi imagini și video într-un mod rapid și inovator! |
|
|
|
--- |
|
|
|
|
|
## **💡 Utilizări principale** |
|
### ✅ **Utilizare directă** |
|
LLMLit poate fi aplicat la: |
|
✔️ Generarea de răspunsuri asemănătoare celor umane |
|
✔️ Traducere între **engleză și română** |
|
✔️ Sumarizarea articolelor, rapoartelor și documentelor |
|
✔️ Răspuns la întrebări complexe cu sensibilitate la context |
|
|
|
### 🚀 **Utilizare avansată (fine-tuning & integrare)** |
|
LLMLit poate fi optimizat pentru: |
|
🗨️ **Chatboți & asistenți virtuali** |
|
📚 **Instrumente educaționale bilingve** |
|
⚖️ **Analiza documentelor legale/medicale** |
|
🛒 **Automatizare în e-commerce & suport clienți** |
|
|
|
### ❌ **Utilizări nerecomandate** |
|
⛔ Aplicații neetice (dezinformare, manipulare) |
|
⛔ Luarea deciziilor critice fără supervizare umană |
|
⛔ Task-uri care necesită **performanță în timp real** |
|
|
|
--- |
|
|
|
## **⚠️ Bias, Riscuri și Limitări** |
|
🔍 **Bias:** Modelul poate reflecta bias-urile existente în datele de antrenament. |
|
⚠️ **Riscuri:** Poate genera informații inexacte sau neconforme. |
|
📌 **Limitări:** |
|
- Performanța depinde de **calitatea prompturilor**. |
|
- Înțelegere limitată a domeniilor **foarte tehnice sau de nișă**. |
|
|
|
🔹 **Recomandări:** |
|
✔️ Revizuirea output-ului pentru **aplicații sensibile**. |
|
✔️ Fine-tuning pentru sarcini specifice pentru **minimizarea riscurilor**. |
|
|
|
--- |
|
|
|
## **🚀 Cum să începi cu LLMLit** |
|
Pentru a utiliza LLMLit, instalează librăriile necesare și încarcă modelul: |
|
|
|
```python |
|
from transformers import AutoModelForCausalLM, AutoTokenizer |
|
|
|
# Încarcă modelul și tokenizer-ul |
|
model = AutoModelForCausalLM.from_pretrained("llmlit/LLMLit-0.2-8B-Instruct") |
|
tokenizer = AutoTokenizer.from_pretrained("llmlit/LLMLit-0.2-8B-Instruct") |
|
|
|
# Generează text |
|
inputs = tokenizer("Your prompt here", return_tensors="pt") |
|
outputs = model.generate(**inputs, max_length=100) |
|
``` |
|
|
|
--- |
|
|
|
|
|
# **📌 Ghid de Instalare: LM Studio + LLMLit pe Windows** |
|
|
|
## **🔹 1. Instalarea LM Studio** |
|
LM Studio este o aplicație desktop care permite descărcarea și rularea locală a modelelor LLM. |
|
|
|
### **🖥️ Pasul 1: Descarcă și instalează LM Studio** |
|
1️⃣ Mergi la site-ul oficial: |
|
🔗 [LM Studio Download](https://lmstudio.ai/) |
|
|
|
2️⃣ Descarcă versiunea pentru **Windows** și instalează aplicația. |
|
|
|
3️⃣ După instalare, deschide **LM Studio**. |
|
|
|
--- |
|
|
|
## **🔹 2. Descărcarea și Instalarea LLMLit** |
|
Pentru a folosi **LLMLit**, trebuie să descarci modelul de pe **Hugging Face**. |
|
|
|
### **🖥️ Pasul 2: Adăugarea Modelului în LM Studio** |
|
1️⃣ **Deschide LM Studio** și mergi la tab-ul **"Model Catalog"**. |
|
|
|
2️⃣ Caută modelul **LLMLit** manual sau folosește acest link pentru descărcare: |
|
🔗 [LLMLit pe Hugging Face](https://huggingface.co/LLMLit/LLMLit-0.2-8B-Instruct) |
|
|
|
3️⃣ Copiază linkul modelului și introdu-l în **LM Studio → "Download Custom Model"**. |
|
|
|
4️⃣ Alege locația unde vrei să salvezi modelul și începe descărcarea. |
|
|
|
--- |
|
|
|
## **🔹 3. Configurarea și Rularea LLMLit** |
|
După ce ai descărcat modelul, trebuie să-l configurezi și să-l rulezi. |
|
|
|
### **🖥️ Pasul 3: Setarea Modelului** |
|
1️⃣ Mergi la **"Local Models"** în LM Studio. |
|
|
|
2️⃣ Selectează **LLMLit-0.2-8B-Instruct** din listă. |
|
|
|
3️⃣ Apasă **"Launch"** pentru a începe rularea modelului. |
|
|
|
--- |
|
|
|
## **🔹 4. Interacțiunea cu LLMLit** |
|
După ce modelul este activ, poți începe să-l folosești în LM Studio. |
|
|
|
1️⃣ **Folosește interfața LM Studio** pentru a trimite mesaje direct modelului. |
|
|
|
2️⃣ **Pentru integrare în Python**, instalează `ollama` și folosește următorul script: |
|
|
|
```python |
|
import ollama |
|
|
|
response = ollama.chat(model='llmlit/LLMLit-0.2-8B-Instruct', |
|
messages=[{'role': 'user', 'content': 'Salut, cum pot folosi LLMLit?'}]) |
|
|
|
print(response['message']['content']) |
|
``` |
|
|
|
--- |
|
|
|
## **🔹 5. Optimizarea Performanței** |
|
Pentru a rula LLMLit mai eficient pe Windows: |
|
✅ **Activează GPU Acceleration** dacă ai placă video compatibilă. |
|
✅ **Folosește modele mai mici**, dacă sistemul tău nu are suficient RAM. |
|
✅ **Optimizează parametrii modelului** din setările LM Studio pentru un echilibru între viteză și precizie. |
|
|
|
--- |
|
|
|
🎉 **Gata!** Acum ai **LM Studio + LLMLit** instalat pe Windows și gata de utilizare! 🚀 |
|
|
|
--- |
|
|
|
|
|
🖥️Iată o documentație simplă și clară despre cum să instalezi **Ollama** și să rulezi **LLMLit** de pe Hugging Face. |
|
|
|
--- |
|
|
|
# **📌 Ghid de Instalare: Ollama + LLMLit** |
|
|
|
## **🔹 Pasul 1: Instalarea Ollama** |
|
Ollama este un framework ușor pentru rularea modelelor **LLM (Large Language Models)** local. |
|
|
|
### **🖥️ Pentru macOS & Linux** |
|
1️⃣ **Deschide un terminal și rulează:** |
|
```sh |
|
curl -fsSL https://ollama.com/install.sh | sh |
|
``` |
|
2️⃣ **Repornește terminalul pentru a aplica modificările.** |
|
|
|
### **🖥️ Pentru Windows (Necesită WSL2)** |
|
1️⃣ **Activează WSL2 și instalează Ubuntu:** |
|
- Deschide **PowerShell** ca administrator și rulează: |
|
```powershell |
|
wsl --install |
|
``` |
|
- Repornește computerul. |
|
|
|
2️⃣ **Instalează Ollama în WSL2:** |
|
```sh |
|
curl -fsSL https://ollama.com/install.sh | sh |
|
``` |
|
|
|
3️⃣ **Verifică dacă Ollama este instalat corect:** |
|
```sh |
|
ollama |
|
``` |
|
Dacă apare meniul de utilizare, instalarea a fost realizată cu succes! 🎉 |
|
|
|
--- |
|
|
|
## **🔹 Pasul 2: Instalarea LLMLit de pe Hugging Face** |
|
LLMLit poate fi descărcat și rulat în Ollama folosind comanda `ollama pull`. |
|
|
|
1️⃣ **Deschide un terminal și rulează:** |
|
```sh |
|
ollama pull llmlit/LLMLit-0.2-8B-Instruct |
|
``` |
|
|
|
2️⃣ **Verifică dacă modelul a fost instalat:** |
|
```sh |
|
ollama list |
|
``` |
|
Ar trebui să vezi **LLMLit** în lista de modele disponibile. ✅ |
|
|
|
--- |
|
|
|
## **🔹 Pasul 3: Rularea LLMLit în Ollama** |
|
După instalare, poți începe să interacționezi cu **LLMLit** astfel: |
|
|
|
```sh |
|
ollama run llmlit/LLMLit-0.2-8B-Instruct |
|
``` |
|
Aceasta va deschide o sesiune locală unde poți discuta cu modelul. 🤖 |
|
|
|
Pentru a trimite un prompt personalizat: |
|
```sh |
|
ollama run llmlit/LLMLit-0.2-8B-Instruct "Salut, cum pot folosi LLMLit?" |
|
``` |
|
|
|
--- |
|
|
|
## **🔹 Pasul 4: Utilizarea LLMLit în Python** |
|
Dacă vrei să integrezi **LLMLit** într-un script Python, instalează librăria necesară: |
|
```sh |
|
pip install ollama |
|
``` |
|
|
|
Apoi, creează un script Python: |
|
```python |
|
import ollama |
|
|
|
response = ollama.chat(model='llmlit/LLMLit-0.2-8B-Instruct', messages=[{'role': 'user', 'content': 'Cum funcționează LLMLit?'}]) |
|
print(response['message']['content']) |
|
``` |
|
|
|
--- |
|
|
|
🚀 **Gata!** Acum ai **Ollama + LLMLit** instalat și pregătit de utilizare local!😊 |
|
|
|
🔗 **Mai multe detalii:** [LLMLit on Hugging Face](https://huggingface.co/LLMLit) 🚀 |
|
|
|
--- |
|
|
|
### **Coming Soon! 🚀** |
|
|
|
**Noua funcționalitate** va fi disponibilă curând! Fii pregătit să explorezi opțiuni personalizate pentru aplicațiile tale. Iată o privire asupra parametrilor ce urmează să fie integrați: |
|
|
|
| Parametru | Descriere | Status | Data estimată | |
|
|---------------------|--------------------------------------------|----------------|---------------| |
|
| **Low-Code Builder** | Construiește aplicații fără a scrie mult cod | **Coming Soon** | Martie 2025 | |
|
| **AI Integration** | Integrare completă cu modelele AI | **Coming Soon** | Aprilie 2025 | |
|
| **Voice Control** | Suport complet pentru comenzi vocale | **Coming Soon** | Mai 2025 | |
|
| **RAG Support** | Generare augmentată prin recuperare | **Coming Soon** | Iunie 2025 | |
|
| **Teme si Agenti** | Theme si Chatbots multi-AI pentru asistență și suport | **Coming Soon** | Iunie 2025 | |
|
🔧 **Rămâi conectat!** Detaliile suplimentare vor fi disponibile foarte curând! |
|
|
|
--- |
|
|
|
 |
|
|
|
|
|
--- |
