Create app.py

app.py

@@ -0,0 +1,32 @@
+import gradio as gr
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+# 加载模型和分词器
+model_name = "CohereForAI/c4ai-command-r-plus-08-2024"
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(model_name)
+
+# 定义生成文本的函数
+def generate_text(system_prompt, user_input):
+    # 将系统提示词和用户输入结合
+    full_prompt = f"{system_prompt}\n\n{user_input}"
+    
+    # 使用模型生成文本
+    inputs = tokenizer(full_prompt, return_tensors="pt")
+    outputs = model.generate(**inputs, max_length=200)
+    return tokenizer.decode(outputs[0], skip_special_tokens=True)
+
+# 创建 Gradio 界面
+iface = gr.Interface(
+    fn=generate_text,
+    inputs=[
+        gr.Textbox(label="System Prompt", placeholder="Enter the system prompt here..."),  # 系统提示词输入框
+        gr.Textbox(label="User Input", placeholder="Enter your input here...")  # 用户输入框
+    ],
+    outputs="text",
+    title="c4ai-command-r-plus-08-2024",
+    description="使用 CohereForAI/c4ai-command-r-plus-08-2024 模型生成文本。输入系统提示词和用户输入，查看模型生成的输出。"
+)
+
+# 启动应用
+iface.launch()