datacipen commited on
Commit
4ba70db
·
verified ·
1 Parent(s): b67f60e

Create main.py

Browse files
Files changed (1) hide show
  1. main.py +180 -0
main.py ADDED
@@ -0,0 +1,180 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import json
2
+ import os
3
+ import time
4
+ from pathlib import Path
5
+
6
+ import chainlit as cl
7
+ from azure.ai.inference import ChatCompletionsClient
8
+ from azure.ai.inference.models import SystemMessage, UserMessage
9
+ from azure.core.credentials import AzureKeyCredential
10
+
11
+ os.environ["GITHUB_TOKEN"] = os.environ["GITHUB_TOKEN"]
12
+
13
+ def Chargement_des_datas(profile):
14
+ if profile == "Toutes les formations":
15
+ file_path='./public/content-MIPI-MITIC.json'
16
+ elif profile == "Licence MIPI":
17
+ file_path='./public/content-Licence-MIPI.json'
18
+ elif profile == "Licence MITIC":
19
+ file_path='./public/content-Licence-MITIC.json'
20
+ elif profile == "Master MIPI":
21
+ file_path='./public/content-Master-MIPI.json'
22
+ elif profile == "Master MITIC":
23
+ file_path='./public/content-Master-MITIC.json'
24
+
25
+ return json.loads(Path(file_path).read_text())
26
+
27
+ def Connexion_Mistral():
28
+ return ChatCompletionsClient(
29
+ endpoint="https://models.inference.ai.azure.com",
30
+ credential=AzureKeyCredential(os.environ["GITHUB_TOKEN"]),
31
+ )
32
+
33
+ @cl.action_callback("Activer")
34
+ async def on_action(action):
35
+ question = action.value
36
+ msg = cl.Message(author="COPILOT",content="")
37
+
38
+ data = cl.user_session.get("data")
39
+ client = cl.user_session.get("client")
40
+ response = client.complete(
41
+ stream=True,
42
+ messages=[
43
+ SystemMessage(content="Tu es un spécialiste de l'enseignement supérieur, des formations et de la pédagogie. Tu es en capacité d'analyser en profondeur les séances pédagogiques et de les mettre en adéquation avec les théories de la recherche en éducation. Répondez à la question seulement et exclusivement à partir du contexte et des définitions ci-contre, de la manière la plus pertinente, seulement en fonction des informations fournies. Contexte : " + str(data) + ". Définition : les formations MIPI (Management de l'Innovation et du Patrimoine Immobilier) concernent le secteur de l'immobilier : facility management, property management, asset management. Les formations MITIC (Management de l'Innovation des Technologies de l'Information et de la Communication) concernent le secteur du numérique : management de projet, innovation et conseil, support numérique aux métiers"),
44
+ UserMessage(content=question + "Donne le résultat au format texte markdown, jusqu'à 3000 caractères convertis en UTF-8. Continue la réponse en citant, dans un paragraphe supplémentaire de 3 lignes, introduit un saut de ligne et par \"\n📚 Sources : \", les 3 verbatim avec leur numéro de ligne respectif, qui ont permis de générer la réponse, à partir du contexte. Termine la réponse en créant, dans un dernier paragraphe d'une seule et unique ligne, introduite par un saut de ligne et par \"\n📣 Question en relation avec le sujet : \", 1 seule et unique question en relation avec la question posée, en commençant la ligne par \"Question relative au contexte :\"."),
45
+ ],
46
+ model="Phi-3.5-MoE-instruct",
47
+ presence_penalty=0.1,
48
+ frequency_penalty=0.8,
49
+ max_tokens=1024,
50
+ stop=["<|endoftext|>"],
51
+ temperature=0,
52
+ top_p=1,
53
+ model_extras={
54
+ "logprobs": True
55
+ }
56
+ )
57
+ for update in response:
58
+ if update.choices:
59
+ await msg.stream_token(update.choices[0].delta.content)
60
+
61
+ await msg.send()
62
+ answer = msg.content
63
+ try:
64
+ indexDeb = answer.index("Question en relation avec le sujet")
65
+ except:
66
+ indexDeb = answer.index("Question relative au contexte")
67
+
68
+ indexFin = answer.index("?")
69
+
70
+ extraction = answer[indexDeb + len("Question en relation avec le sujet") + 1: indexFin]
71
+
72
+ actions = [
73
+ cl.Action(name="Activer", value=extraction + "?", description="Activer la question en relation avec le contexte.")
74
+ ]
75
+ await cl.Message(author="COPILOT", content="Question en relation avec le contexte : " + extraction + "?", actions=actions).send()
76
+
77
+ @cl.set_chat_profiles
78
+ async def chat_profile():
79
+ return [
80
+ cl.ChatProfile(
81
+ name="Toutes les formations",
82
+ markdown_description="Posez vos questions sur l'ensemble des compétences, des cours et des situations de travail pour toutes les formations MIS.",
83
+ icon="/public/public_request-theme.svg",
84
+ ),
85
+ cl.ChatProfile(
86
+ name="Licence MIPI",
87
+ markdown_description="Posez vos questions sur l'ensemble des compétences, des cours et des situations de travail pour la licence MIPI",
88
+ icon="/public/public_request-theme.svg",
89
+ ),
90
+ cl.ChatProfile(
91
+ name="Licence MITIC",
92
+ markdown_description="Posez vos questions sur l'ensemble des compétences, des cours et des situations de travail pour la licence MITIC",
93
+ icon="/public/public_request-theme.svg",
94
+ ),
95
+ cl.ChatProfile(
96
+ name="Master MIPI",
97
+ markdown_description="Posez vos questions sur l'ensemble des compétences, des cours et des situations de travail pour les Masters MIPI",
98
+ icon="/public/public_request-theme.svg",
99
+ ),
100
+ cl.ChatProfile(
101
+ name="Master MITIC",
102
+ markdown_description="Posez vos questions sur l'ensemble des compétences, des cours et des situations de travail pour les masters MITIC",
103
+ icon="/public/public_request-theme.svg",
104
+ ),
105
+ ]
106
+
107
+ @cl.on_chat_start
108
+ def on_chat_start():
109
+ data = Chargement_des_datas(cl.user_session.get("chat_profile"))
110
+ client = Connexion_Mistral()
111
+ cl.user_session.set("data", data)
112
+ cl.user_session.set("client", client)
113
+
114
+ @cl.set_starters
115
+ def set_starters():
116
+ return [
117
+ cl.Starter(
118
+ label="Compétences de la (des) formation(s)",
119
+ message="Quelles sont toutes les compétences des formations? Donne la liste exhaustive.",
120
+ icon="/public/public_learn.svg",
121
+ ),
122
+ cl.Starter(
123
+ label="Cours de la (des) formation(s)",
124
+ message="Quels sont tous les cours des formations? Donne la liste exhaustive.",
125
+ icon="/public/public_learn.svg",
126
+ ),
127
+ cl.Starter(
128
+ label="Compétences en situation professionnelle",
129
+ message="Quelles sont les compétences à mettre en oeuvre pour gérer un projet, du besoin client jusqu'à la livraison, en passant par la planification et le management d'équipe, dans un environnement professionnel en entreprise?",
130
+ icon="/public/public_learn.svg",
131
+ )
132
+ ]
133
+
134
+ @cl.on_message
135
+ async def main(message: cl.Message):
136
+ msg = cl.Message(author="COPILOT",content="")
137
+
138
+ data = cl.user_session.get("data")
139
+ client = cl.user_session.get("client")
140
+ response = client.complete(
141
+ stream=True,
142
+ messages=[
143
+ SystemMessage(content="Tu es un spécialiste de l'enseignement supérieur, des formations et de la pédagogie. Tu es en capacité d'analyser en profondeur les séances pédagogiques et de les mettre en adéquation avec les théories de la recherche en éducation. Répondez à la question seulement et exclusivement à partir du contexte et des définitions ci-contre, de la manière la plus pertinente, seulement en fonction des informations fournies. Contexte : " + str(data) + ". Définition : les formations MIPI (Management de l'Innovation et du Patrimoine Immobilier) concernent le secteur de l'immobilier : facility management, property management, asset management. Les formations MITIC (Management de l'Innovation des Technologies de l'Information et de la Communication) concernent le secteur du numérique : management de projet, innovation et conseil, support numérique aux métiers"),
144
+ UserMessage(content=message.content + "Donne le résultat au format texte markdown, jusqu'à 3000 caractères convertis en UTF-8. Continue la réponse en citant, dans un paragraphe supplémentaire de 3 lignes, introduit un saut de ligne et par \"\n📚 Sources : \", les 3 verbatim avec leur numéro de ligne respectif, qui ont permis de générer la réponse, à partir du contexte. Termine la réponse en créant, dans un dernier paragraphe d'une seule et unique ligne, introduite par un saut de ligne et par \"\n📣 Question en relation avec le sujet : \", 1 seule et unique question en relation avec la question posée, en commençant la ligne par \"Question en relation avec le sujet :\"."),
145
+ ],
146
+ model="Phi-3.5-MoE-instruct",
147
+ presence_penalty=0.1,
148
+ frequency_penalty=0.8,
149
+ max_tokens=1024,
150
+ stop=["<|endoftext|>"],
151
+ temperature=0,
152
+ top_p=1,
153
+ model_extras={
154
+ "logprobs": True
155
+ }
156
+ )
157
+ for update in response:
158
+ if update.choices:
159
+ await msg.stream_token(update.choices[0].delta.content)
160
+
161
+ await msg.send()
162
+
163
+ answer = msg.content
164
+ try:
165
+ indexDeb = answer.index("Question en relation avec le sujet")
166
+ except:
167
+ indexDeb = answer.index("Question relative au contexte")
168
+
169
+ indexFin = answer.index("?")
170
+
171
+ extraction = answer[indexDeb + len("Question en relation avec le sujet") + 1: indexFin]
172
+
173
+ actions = [
174
+ cl.Action(name="Activer", value=extraction + "?", description="Activer la question en relation avec le contexte.")
175
+ ]
176
+ await cl.Message(author="COPILOT", content="Question en relation avec le contexte : " + extraction + "?", actions=actions).send()
177
+
178
+ @cl.on_stop
179
+ def on_stop():
180
+ print("L'utilisateur veut arrêter la completion en cours!")