File size: 3,588 Bytes
70b32ba |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 |
import datasets
import pandas as pd
from datetime import datetime
_DESCRIPTION = "Датасет для анализа запросов и ответов нейронной сети."
_URL = "faq_dataset.csv" # Укажите URL для загрузки данных, если необходимо
class InstructAnalysis(datasets.GeneratorBasedBuilder):
VERSION = datasets.Version("0.0.1")
BUILDER_CONFIGS = [
datasets.BuilderConfig(name="default", version=VERSION, description="Стандартная конфигурация для анализа запросов и ответов."),
]
DEFAULT_CONFIG_NAME = "default"
def _info(self):
features = datasets.Features({
"request": datasets.Value("string"), # Запрос к нейронной сети
"response": datasets.Value("string"), # Ответ нейронной сети
"frequency": datasets.Value("int32"), # Частота запроса
"average_response": datasets.Value("string"), # Средний ответ для данного запроса
"timestamp": datasets.Value("string"), # Время запроса
})
return datasets.DatasetInfo(description=_DESCRIPTION, features=features)
def _split_generators(self, dl_manager):
downloaded_file = dl_manager.download(_URL)
return [
datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"path": downloaded_file}),
]
def _generate_examples(self, path):
# Чтение данных из CSV файла
data = pd.read_csv(path) # Предполагается, что данные хранятся в CSV
for index, row in data.iterrows():
yield index, {
"request": row["request"],
"response": row["response"],
"frequency": row["frequency"],
"average_response": row["average_response"],
"timestamp": row["timestamp"],
}
def save_faq(self, request, response):
# Загрузка существующего датасета
try:
df = pd.read_csv('faq_dataset.csv')
except FileNotFoundError:
df = pd.DataFrame(columns=["request", "response", "frequency", "average_response", "timestamp"])
# Проверка, существует ли уже вопрос
if request in df['request'].values:
# Увеличиваем частоту
df.loc[df['request'] == request, 'frequency'] += 1
# Обновляем средний ответ (можно использовать более сложную логику для вычисления среднего)
existing_response = df.loc[df['request'] == request, 'average_response'].values[0]
new_average_response = f"{existing_response}; {response}" # Простой пример объединения
df.loc[df['request'] == request, 'average_response'] = new_average_response
else:
# Добавляем новый вопрос и ответ
new_entry = {
"request": request,
"response": response,
"frequency": 1,
"average_response": response,
"timestamp": datetime.now().isoformat()
}
df = df.append(new_entry, ignore_index=True)
# Сохраняем обновленный датасет
df.to_csv('faq_dataset.csv', index=False) |