import gradio as gr from huggingface_hub import InferenceClient import PyPDF2 from PIL import Image import cv2 import numpy as np from pydub import AudioSegment from langdetect import detect from rembg import remove import torch import torchvision from torchvision.models.detection import fasterrcnn_resnet50_fpn from torchvision.transforms import functional as F import tempfile from diffusers import DiffusionPipeline import random # Инициализация клиента для модели HuggingFaceH4/zephyr-7b-beta client = InferenceClient("HuggingFaceH4/zephyr-7b-beta") # Загрузка предобученной модели для обнаружения объектов model = fasterrcnn_resnet50_fpn(pretrained=True) model.eval() # Инициализация модели SDXL-Turbo device = "cuda" if torch.cuda.is_available() else "cpu" model_repo_id = "stabilityai/sdxl-turbo" if torch.cuda.is_available(): torch_dtype = torch.float16 else: torch_dtype = torch.float32 pipe = DiffusionPipeline.from_pretrained(model_repo_id, torch_dtype=torch_dtype) pipe = pipe.to(device) MAX_SEED = np.iinfo(np.int32).max MAX_IMAGE_SIZE = 1024 # Функция для генерации изображения с помощью SDXL-Turbo def generate_with_diffusion( prompt, negative_prompt="", seed=0, randomize_seed=True, width=1024, height=1024, guidance_scale=0.0, num_inference_steps=2, ): if randomize_seed: seed = random.randint(0, MAX_SEED) generator = torch.Generator().manual_seed(seed) image = pipe( prompt=prompt, negative_prompt=negative_prompt, guidance_scale=guidance_scale, num_inference_steps=num_inference_steps, width=width, height=height, generator=generator, ).images[0] return image, seed # Функция для обработки PDF def process_pdf(file): pdf_reader = PyPDF2.PdfReader(file) text = "" for page in pdf_reader.pages: text += page.extract_text() return text # Функция для обработки изображений def process_image(file): image = Image.open(file) return f"Изображение: {image.size[0]}x{image.size[1]} пикселей, формат: {image.format}" # Функция для обработки видео def process_video(file): cap = cv2.VideoCapture(file.name) frame_count = int(cap.get(cv2.CAP_PROP_FRAME_COUNT)) duration = frame_count / cap.get(cv2.CAP_PROP_FPS) cap.release() return f"Видео: длительность {duration:.2f} секунд, {frame_count} кадров" # Функция для обработки аудио def process_audio(file): audio = AudioSegment.from_file(file) return f"Аудио: длительность {len(audio) / 1000:.2f} секунд, частота {audio.frame_rate} Гц" # Функция для обработки текстового файла def process_txt(file): with open(file.name, "r", encoding="utf-8") as f: text = f.read() return text # Функция для удаления фона с изображения def remove_background(image): if image is None: return None output = remove(image) return output # Функция для определения количества объектов на изображении def count_objects(image): if image is None: return "Изображение не загружено." # Преобразование изображения в формат, подходящий для модели img = Image.open(image.name).convert("RGB") img_tensor = F.to_tensor(img).unsqueeze(0) # Обнаружение объектов with torch.no_grad(): predictions = model(img_tensor) # Подсчет количества объектов num_objects = len(predictions[0]['labels']) return f"Количество объектов на изображении: {num_objects}" # Функция для конвертации изображения def convert_image(image, target_format): if image is None: return None img = Image.open(image.name) # Создаем временный файл with tempfile.NamedTemporaryFile(delete=False, suffix=f".{target_format.lower()}") as tmp_file: img.save(tmp_file, format=target_format) return tmp_file.name # Функция для определения языка текста def detect_language(text): try: return detect(text) except: return "en" # По умолчанию английский # Функция для обработки сообщений, истории и файлов def respond( message, history: list[tuple[str, str]], system_message, max_tokens, temperature, top_p, file=None, ): # Если загружен файл, обрабатываем его if file is not None: file_type = file.name.split(".")[-1].lower() if file_type == "pdf": file_info = process_pdf(file) elif file_type in ["jpg", "jpeg", "png", "bmp", "gif"]: file_info = process_image(file) elif file_type in ["mp4", "avi", "mov"]: file_info = process_video(file) elif file_type in ["mp3", "wav", "ogg"]: file_info = process_audio(file) elif file_type == "txt": file_info = process_txt(file) else: file_info = "Неизвестный тип файла" message += f"\n[Пользователь загрузил файл: {file.name}]\n{file_info}" # Определяем язык сообщения language = detect_language(message) # Добавляем системное сообщение с учетом языка if language == "ru": system_message = "Вы дружелюбный чат-бот, который понимает русский язык." else: system_message = "You are a friendly chatbot." # Добавляем системное сообщение messages = [{"role": "system", "content": system_message}] # Добавляем историю сообщений for val in history: if val[0]: messages.append({"role": "user", "content": val[0]}) if val[1]: messages.append({"role": "assistant", "content": val[1]}) # Добавляем текущее сообщение пользователя messages.append({"role": "user", "content": message}) # Генерация ответа с использованием модели HuggingFaceH4/zephyr-7b-beta response = "" for message in client.chat_completion( messages, max_tokens=max_tokens, stream=True, temperature=temperature, top_p=top_p, ): token = message.choices[0].delta.content response += token yield response # Функция для сброса истории чата def reset_chat(): return [] # Функция для анализа текстового файла def analyze_txt(file): if file is None: return "Файл не загружен." text = process_txt(file) return f"Содержимое файла:\n{text}" # Создание интерфейса with gr.Blocks() as demo: # Заголовок с изображением gr.HTML("""
Felguk Logo
""") gr.Markdown("Чат-бот Felguk v0. Отвечает на том же языке, на котором вы написали. Задавайте вопросы и загружайте файлы (PDF, изображения, видео, аудио, txt)!") # Кнопка "Новый чат" with gr.Row(): new_chat_button = gr.Button("Новый чат", variant="secondary") # Felguk Tools: Отдельные инструменты with gr.Tab("Felguk Tools"): # Вкладка Txt Analyzer with gr.Tab("Анализатор текста"): gr.Markdown("## Анализатор текста") txt_file = gr.File(label="Загрузите txt файл", file_types=[".txt"]) txt_output = gr.Textbox(label="Содержимое файла", interactive=False) analyze_button = gr.Button("Анализировать") analyze_button.click(fn=analyze_txt, inputs=txt_file, outputs=txt_output) # Вкладка Remove Background with gr.Tab("Удаление фона"): gr.Markdown("## Удаление фона с изображения") image_input = gr.Image(label="Загрузите изображение", type="pil") image_output = gr.Image(label="Результат (без фона)", type="pil") remove_bg_button = gr.Button("Удалить фон") remove_bg_button.click(fn=remove_background, inputs=image_input, outputs=image_output) # Вкладка Numage with gr.Tab("Numage"): gr.Markdown("## Numage: Подсчет объектов на изображении") numage_input = gr.File(label="Загрузите изображение", file_types=["image"]) numage_output = gr.Textbox(label="Результат", interactive=False) numage_button = gr.Button("Определить количество объектов") numage_button.click(fn=count_objects, inputs=numage_input, outputs=numage_output) # Вкладка ConverjerIMG with gr.Tab("Конвертер изображений"): gr.Markdown("## Конвертер изображений") img_input = gr.File(label="Загрузите изображение", file_types=["image"]) img_format = gr.Dropdown( choices=["JPEG", "PNG", "BMP", "GIF", "TIFF"], label="Выберите формат для конвертации", value="JPEG" ) img_output = gr.File(label="Результат конвертации") convert_button = gr.Button("Конвертировать") convert_button.click(fn=convert_image, inputs=[img_input, img_format], outputs=img_output) # Вкладка Felguk Diffusion with gr.Tab("Felguk Diffusion"): gr.Markdown("## Felguk Diffusion: Генерация изображений из текста") with gr.Column(): prompt = gr.Textbox(label="Введите текстовое описание", placeholder="Например: Космический корабль в далекой галактике") negative_prompt = gr.Textbox(label="Нежелательное описание (опционально)", placeholder="Например: Размытое, низкое качество") with gr.Row(): seed = gr.Slider(label="Seed", minimum=0, maximum=MAX_SEED, step=1, value=0) randomize_seed = gr.Checkbox(label="Случайный seed", value=True) with gr.Row(): width = gr.Slider(label="Ширина", minimum=256, maximum=MAX_IMAGE_SIZE, step=32, value=1024) height = gr.Slider(label="Высота", minimum=256, maximum=MAX_IMAGE_SIZE, step=32, value=1024) with gr.Row(): guidance_scale = gr.Slider(label="Guidance scale", minimum=0.0, maximum=10.0, step=0.1, value=0.0) num_inference_steps = gr.Slider(label="Количество шагов", minimum=1, maximum=50, step=1, value=2) generate_button = gr.Button("Сгенерировать", variant="primary") diffusion_output = gr.Image(label="Сгенерированное изображение") generate_button.click( fn=generate_with_diffusion, inputs=[prompt, negative_prompt, seed, randomize_seed, width, height, guidance_scale, num_inference_steps], outputs=[diffusion_output, seed], ) # Интерфейс чата chat_interface = gr.ChatInterface( respond, additional_inputs=[ gr.Textbox(value="You are a friendly Chatbot.", label="System message"), gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"), gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"), gr.Slider( minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)", ), gr.File(label="Загрузите файл (опционально)"), # Поле для загрузки файлов ], ) # Привязка кнопки "Новый чат" к функции сброса истории new_chat_button.click(fn=reset_chat, outputs=chat_interface.chatbot) # Запуск интерфейса if __name__ == "__main__": demo.launch()