最多允许100人同时使用

ChuanhuChatbot.py

@@ -143,6 +143,7 @@ with gr.Blocks(
                     ).style(container=False)
                 with gr.Column(min_width=70, scale=1):
                     submitBtn = gr.Button("发送", variant="primary")
+                    cancelBtn = gr.Button("取消", variant="secondary", visible=False)
             with gr.Row(scale=1):
                 emptyBtn = gr.Button(
                     "🧹 新的对话",
@@ -298,6 +299,7 @@ with gr.Blocks(
     )
     user_input.submit(reset_textbox, [], [user_input])
 
+    # submitBtn.click(return_cancel_btn, [], [submitBtn, cancelBtn])
     submitBtn.click(
         predict,
         [
@@ -438,18 +440,18 @@ if __name__ == "__main__":
     # if running in Docker
     if dockerflag:
         if authflag:
-            demo.queue().launch(
+            demo.queue(concurrency_count=CONCURRENT_COUNT).launch(
                 server_name="0.0.0.0", server_port=7860, auth=(username, password),
                 favicon_path="./assets/favicon.png"
             )
         else:
-            demo.queue().launch(server_name="0.0.0.0", server_port=7860, share=False, favicon_path="./assets/favicon.png")
+            demo.queue(concurrency_count=CONCURRENT_COUNT).launch(server_name="0.0.0.0", server_port=7860, share=False, favicon_path="./assets/favicon.png")
     # if not running in Docker
     else:
         if authflag:
-            demo.queue().launch(share=False, auth=(username, password), favicon_path="./assets/favicon.png", inbrowser=True)
+            demo.queue(concurrency_count=CONCURRENT_COUNT).launch(share=False, auth=(username, password), favicon_path="./assets/favicon.png", inbrowser=True)
         else:
-            demo.queue().launch(share=False, favicon_path="./assets/favicon.ico", inbrowser=True)  # 改为 share=True 可以创建公开分享链接
-        # demo.queue().launch(server_name="0.0.0.0", server_port=7860, share=False) # 可自定义端口
-        # demo.queue().launch(server_name="0.0.0.0", server_port=7860,auth=("在这里填写用户名", "在这里填写密码")) # 可设置用户名与密码
-        # demo.queue().launch(auth=("在这里填写用户名", "在这里填写密码")) # 适合Nginx反向代理
+            demo.queue(concurrency_count=CONCURRENT_COUNT).launch(share=False, favicon_path="./assets/favicon.ico", inbrowser=True)  # 改为 share=True 可以创建公开分享链接
+        # demo.queue(concurrency_count=CONCURRENT_COUNT).launch(server_name="0.0.0.0", server_port=7860, share=False) # 可自定义端口
+        # demo.queue(concurrency_count=CONCURRENT_COUNT).launch(server_name="0.0.0.0", server_port=7860,auth=("在这里填写用户名", "在这里填写密码")) # 可设置用户名与密码
+        # demo.queue(concurrency_count=CONCURRENT_COUNT).launch(auth=("在这里填写用户名", "在这里填写密码")) # 适合Nginx反向代理

presets.py

@@ -21,6 +21,7 @@ max_token_all = 3500  # 非流式对话时的最大 token 数
 timeout_all = 200  # 非流式对话时的超时时间
 enable_streaming_option = True  # 是否启用选择选择是否实时显示回答的勾选框
 HIDE_MY_KEY = False  # 如果你想在UI中隐藏你的 API 密钥，将此值设置为 True
+CONCURRENT_COUNT = 100 # 允许同时使用的用户数量
 
 SIM_K = 5
 INDEX_QUERY_TEMPRATURE = 1.0

utils.py

@@ -387,3 +387,10 @@ def find_n(lst, max_num):
             return n - i -1
         total = total - lst[i]
     return 1
+
+def return_cancel_btn():
+    return gr.Button.update(
+        visible=False
+    ), gr.Button.update(
+        visible=True
+    )