添加CoT

modules/chat_func.py

@@ -119,7 +119,6 @@ def stream_predict(
     logging.info(f"输入token计数: {user_token_count}")
     yield get_return_value()
     try:
-        # 如果能传入index，则此处里获得初筛后的店铺和菜名
         response = get_response(
             openai_api_key,
             system_prompt,
@@ -129,75 +128,6 @@ def stream_predict(
             True,
             selected_model,
         )
-        # 将response中的店铺和菜名提取出来
-        import re
-
-        text = """
-        好的，针对您想吃韩式烤肉的需求，我向您推荐以下店铺和菜品：
-        
-        店铺名称：“青年烤肉店” 推荐菜品：烤牛肉、烤猪肉、烤羊肉
-
-        店铺名称：“西西里烤肉店” 推荐菜品：烤牛肉串、烤排骨、烤鸡肉
-
-        店铺名称：“韩式烤肉店” 推荐菜品：石锅拌饭、铁板烧、烤牛舌"""
-
-        pattern = r'店铺名称：(.+?) 推荐菜品：(.+)'
-
-        results = re.findall(pattern, response)
-
-        dicts = {}
-        import string
-        for result in results:
-            dicts[result[0]] = result[1].split('、')
-
-        logging.info(f"初筛后的店铺和菜品：{dicts}")
-        dishes = []
-        for restaurant, dish in dicts.items():
-            dishes.extend(dish)
-
-        dishes = '、'.join(dishes)
-
-        # 将初筛后的店铺和菜品送入构建好的CoT
-        prompt_with_ingredient = f"""
-        我需要你推测一些菜可能的原料以及其营养成分，输出格式如下：
-        
-        菜品名称：[]
-        菜品原料：[原料1,原料2...]
-        营养成分：[成分(含量)]
-        
-        注意，其中营养成分包括蛋白质、脂肪、碳水化合物、纤维素、维生素等，你可以根据你的知识添加其他成分。营养成分的含量分为无、低、中、高四个等级，需要填在成分后的括号内。
-        
-        以下是需要你推测的菜品名称，不同菜品用顿号隔开：{dishes}
-        """
-
-        logging.info(f"分析食物中营养成分的prompt构建完成：{prompt_with_ingredient}")
-
-        response_ingredient = get_response(
-            openai_api_key,
-            "",
-            prompt_with_ingredient,
-            temperature,
-            top_p,
-            True,
-            selected_model,
-        )
-
-        logging.info(f"得到食物中的营养成分：{response_ingredient}")
-
-        prompt_rec = f"""
-        以下是一些菜品名称和所属的店铺，我需要你根据我的需求从其中推荐一家店铺的一种或多种菜品，并给出推荐的理由。我的需求为：我有糖尿病，而且今天不想吃太油腻的食物。
-
-        {response_ingredient}
-        """
-        response = get_response(
-            openai_api_key,
-            "",
-            prompt_rec,
-            temperature,
-            top_p,
-            True,
-            selected_model,
-        )
 
 
     except requests.exceptions.ConnectTimeout:
@@ -283,6 +213,7 @@ def predict_all(
     else:
         all_token_counts.append(count_token(construct_user(inputs)))
     try:
+        # 如果能传入index，则此处里获得初筛后的店铺和菜名
         response = get_response(
             openai_api_key,
             system_prompt,
@@ -292,6 +223,75 @@ def predict_all(
             False,
             selected_model,
         )
+        # 将response中的店铺和菜名提取出来
+        import re
+
+        text = """
+                好的，针对您想吃韩式烤肉的需求，我向您推荐以下店铺和菜品：
+
+                店铺名称：“青年烤肉店” 推荐菜品：烤牛肉、烤猪肉、烤羊肉
+
+                店铺名称：“西西里烤肉店” 推荐菜品：烤牛肉串、烤排骨、烤鸡肉
+
+                店铺名称：“韩式烤肉店” 推荐菜品：石锅拌饭、铁板烧、烤牛舌"""
+
+        pattern = r'店铺名称：(.+?) 推荐菜品：(.+)'
+
+        results = re.findall(pattern, response)
+
+        dicts = {}
+        import string
+        for result in results:
+            dicts[result[0]] = result[1].split('、')
+
+        logging.info(f"初筛后的店铺和菜品：{dicts}")
+        dishes = []
+        for restaurant, dish in dicts.items():
+            dishes.extend(dish)
+
+        dishes = '、'.join(dishes)
+
+        # 将初筛后的店铺和菜品送入构建好的CoT
+        prompt_with_ingredient = f"""
+                我需要你推测一些菜可能的原料以及其营养成分，输出格式如下：
+
+                菜品名称：[]
+                菜品原料：[原料1,原料2...]
+                营养成分：[成分(含量)]
+
+                注意，其中营养成分包括蛋白质、脂肪、碳水化合物、纤维素、维生素等，你可以根据你的知识添加其他成分。营养成分的含量分为无、低、中、高四个等级，需要填在成分后的括号内。
+
+                以下是需要你推测��菜品名称，不同菜品用顿号隔开：{dishes}
+                """
+
+        logging.info(f"分析食物中营养成分的prompt构建完成：{prompt_with_ingredient}")
+
+        response_ingredient = get_response(
+            openai_api_key,
+            "",
+            prompt_with_ingredient,
+            temperature,
+            top_p,
+            True,
+            selected_model,
+        )
+
+        logging.info(f"得到食物中的营养成分：{response_ingredient}")
+
+        prompt_rec = f"""
+                以下是一些菜品名称和所属的店铺，我需要你根据我的需求从其中推荐一家店铺的一种或多种菜品，并给出推荐的理由。我的需求为：我有糖尿病，而且今天不想吃太油腻的食物。
+
+                {response_ingredient}
+                """
+        response = get_response(
+            openai_api_key,
+            "",
+            prompt_rec,
+            temperature,
+            top_p,
+            True,
+            selected_model,
+        )
     except requests.exceptions.ConnectTimeout:
         status_text = (
                 standard_error_msg + connection_timeout_prompt + error_retrieve_prompt