import datasets import pandas as pd from datetime import datetime _DESCRIPTION = "Датасет для анализа запросов и ответов нейронной сети." _URL = "faq_dataset.csv" # Укажите URL для загрузки данных, если необходимо class InstructAnalysis(datasets.GeneratorBasedBuilder): VERSION = datasets.Version("0.0.1") BUILDER_CONFIGS = [ datasets.BuilderConfig(name="default", version=VERSION, description="Стандартная конфигурация для анализа запросов и ответов."), ] DEFAULT_CONFIG_NAME = "default" def _info(self): features = datasets.Features({ "request": datasets.Value("string"), # Запрос к нейронной сети "response": datasets.Value("string"), # Ответ нейронной сети "frequency": datasets.Value("int32"), # Частота запроса "average_response": datasets.Value("string"), # Средний ответ для данного запроса "timestamp": datasets.Value("string"), # Время запроса }) return datasets.DatasetInfo(description=_DESCRIPTION, features=features) def _split_generators(self, dl_manager): downloaded_file = dl_manager.download(_URL) return [ datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"path": downloaded_file}), ] def _generate_examples(self, path): # Чтение данных из CSV файла data = pd.read_csv(path) # Предполагается, что данные хранятся в CSV for index, row in data.iterrows(): yield index, { "request": row["request"], "response": row["response"], "frequency": row["frequency"], "average_response": row["average_response"], "timestamp": row["timestamp"], } def save_faq(self, request, response): # Загрузка существующего датасета try: df = pd.read_csv('faq_dataset.csv') except FileNotFoundError: df = pd.DataFrame(columns=["request", "response", "frequency", "average_response", "timestamp"]) # Проверка, существует ли уже вопрос if request in df['request'].values: # Увеличиваем частоту df.loc[df['request'] == request, 'frequency'] += 1 # Обновляем средний ответ (можно использовать более сложную логику для вычисления среднего) existing_response = df.loc[df['request'] == request, 'average_response'].values[0] new_average_response = f"{existing_response}; {response}" # Простой пример объединения df.loc[df['request'] == request, 'average_response'] = new_average_response else: # Добавляем новый вопрос и ответ new_entry = { "request": request, "response": response, "frequency": 1, "average_response": response, "timestamp": datetime.now().isoformat() } df = df.append(new_entry, ignore_index=True) # Сохраняем обновленный датасет df.to_csv('faq_dataset.csv', index=False)