Upload 9 files

Dockerfile

@@ -0,0 +1,16 @@
+# Read the doc: https://huggingface.co/docs/hub/spaces-sdks-docker
+# you will also find guides on how best to write your Dockerfile
+
+FROM python:3.12
+
+RUN useradd -m -u 1000 user
+USER user
+ENV PATH="/home/user/.local/bin:$PATH"
+
+WORKDIR /app
+
+COPY --chown=user ./requirements.txt requirements.txt
+RUN pip install --no-cache-dir --upgrade -r requirements.txt
+
+COPY --chown=user . /app
+CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]

main.py

@@ -0,0 +1,75 @@
+from dotenv import load_dotenv
+import os
+from llama_index.core import VectorStoreIndex, StorageContext, SimpleDirectoryReader, load_index_from_storage
+from llama_index.embeddings.huggingface import HuggingFaceEmbedding
+from llama_index.llms.groq import Groq
+from llama_index.core import Settings
+from fastapi import FastAPI
+from fastapi.middleware.cors import CORSMiddleware
+from pydantic import BaseModel
+from llama_index.core.llms import ChatMessage
+
+class History(BaseModel):
+    role: str
+    content: str
+
+class Request(BaseModel):
+    chat_message: list[History]
+    query : str
+
+app = FastAPI()
+
+app.add_middleware(
+    CORSMiddleware,
+    allow_origins=["*"],
+    allow_credentials=True,
+    allow_methods=["*"],
+    allow_headers=["*"],
+)
+
+load_dotenv()
+Settings.llm = Groq(temperature=0.8,model="llama-3.1-70b-versatile", api_key=os.getenv('GROQ_API_KEY'))
+Settings.embed_model = HuggingFaceEmbedding(model_name="OrdalieTech/Solon-embeddings-large-0.1")
+try:
+    storage_context = StorageContext.from_defaults(persist_dir = './storage')
+    res_index = load_index_from_storage(storage_context)
+    index_loaded = True
+except:
+    index_loaded = False
+
+if not index_loaded:
+    print('index creation, please wait...')
+    res_doc = SimpleDirectoryReader('./documents').load_data()
+    res_index = VectorStoreIndex.from_documents(res_doc)
+    res_index.storage_context.persist(persist_dir = './storage')
+    print('index creation completed')
+
+prompt =  (
+        "Tu es un assistant spécialisé dans l'enseignement de la spécialité Numérique et sciences informatiques en classe de première et de terminal"
+        'Tu as un bon niveau en langage Python'
+        'Ton interlocuteur est un élève qui suit la spécialité nsi en première et en terminale'
+        'Tu dois uniquement répondre aux questions qui concernent la spécialité numérique et sciences informatiques'
+        "Tu ne dois pas faire d'erreur, répond à la question uniquement si tu es sûr de ta réponse"
+        "si tu ne trouves pas la réponse à une question, tu réponds que tu ne connais pas la réponse et que l'élève doit s'adresser à son professeur pour obtenir cette réponse"
+        "Tu dois uniquement aborder des notions qui sont aux programmes de la spécialité numérique et sciences informatiques (première et terminale), tu ne dois jamais aborder une notion qui n'est pas au programme"
+        "si l'élève n'arrive pas à trouver la réponse à un exercice, tu ne dois pas lui donner tout de suite la réponse, mais seulement lui donner des indications pour lui permettre de trouver la réponse par lui même"
+        "Tu peux lui donner la réponse à un exercice uniquement si l'élève te demande explicitement cette réponse"
+        'Tu dois uniquement répondre en langue française'
+        'Tu dois utiliser le format markdown pour tes réponses'
+    )
+
+def get_chat_history(chat_messages):  
+    chat_history = []  
+    for message in chat_messages:  
+        chat_history.append(ChatMessage(content=message.content, role=message.role))  
+    return chat_history[-4:]
+
+@app.post('/request')
+def request(req: Request):
+    chat_engine = res_index.as_chat_engine(
+        chat_mode="context",
+        system_prompt = prompt,
+    )
+    chat_history = get_chat_history(req.chat_message)
+    response = chat_engine.chat(req.query, chat_history=chat_history)
+    return {"response":response.response}

requirements.txt

@@ -0,0 +1,5 @@
+llama-index
+llama-index-embeddings-huggingface
+llama-index-llms-groq
+python-dotenv
+fastapi[all]

storage/default__vector_store.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:45f7903bf60f86c9c8dcf4da59ddbc6f83a0f645e158cbb83b9ca285ce7b6398
+size 20178414

storage/docstore.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:87f0d5c125c2840ee1a973f62df96494dc5b4c51ec02296120fe29b9fbc5358b
+size 2338305

storage/graph_store.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8e0a77744010862225c69da83c585f4f8a42fd551b044ce530dbb1eb6e16742c
+size 18

storage/image__vector_store.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d17ed74c1649a438e518a8dc56a7772913dfe1ea7a7605bce069c63872431455
+size 72

storage/index_store.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:defbf731237653d190c59c3701d7d5391be8ba37cfd6bf46f01dedaf4b3e92da
+size 73075