saffr0n commited on
Commit
696fd28
·
verified ·
1 Parent(s): f35c4ba

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +54 -51
app.py CHANGED
@@ -84,61 +84,64 @@ def generate(
84
  outputs.append(text)
85
  yield "".join(outputs)
86
 
87
-
88
- chat_interface = gr.ChatInterface(
89
- fn=generate,
90
- additional_inputs=[
91
- gr.Textbox(label="System prompt", lines=6),
92
- gr.Slider(
93
- label="Max new tokens",
94
- minimum=1,
95
- maximum=MAX_MAX_NEW_TOKENS,
96
- step=1,
97
- value=DEFAULT_MAX_NEW_TOKENS,
98
- ),
99
- gr.Slider(
100
- label="Temperature",
101
- minimum=0.1,
102
- maximum=4.0,
103
- step=0.1,
104
- value=0.6,
105
- ),
106
- gr.Slider(
107
- label="Top-p (nucleus sampling)",
108
- minimum=0.05,
109
- maximum=1.0,
110
- step=0.05,
111
- value=0.9,
112
- ),
113
- gr.Slider(
114
- label="Top-k",
115
- minimum=1,
116
- maximum=1000,
117
- step=1,
118
- value=50,
119
- ),
120
- gr.Slider(
121
- label="Repetition penalty",
122
- minimum=1.0,
123
- maximum=2.0,
124
- step=0.05,
125
- value=1.2,
126
- ),
127
- ],
128
- stop_btn=None,
129
- examples=[
130
- ["நான் எப்படி வேகமாக தூங்க முடியும்?"],
131
- ["என் முதலாளி மிகவும் கட்டுப்படுத்துகிறார், நான் என்ன செய்ய வேண்டும்?"],
132
- ["திருமணத்திற்கு நான் என்ன அணிய வேண்டும்?"],
133
- ["வரலாற்றில் தெரிந்து கொள்ள வேண்டிய சில முக்கியமான காலங்கள் யாவை?"],
134
- ["நான் பணம் சம்பாதிக்க வேண்டும் ஆனால் வேடிக்கையாக இருக்க வேண்டும் என்றால் நல்ல தொழில் எது?"],
135
- ],
136
- )
137
 
138
  with gr.Blocks(css="style.css") as demo:
139
  gr.Markdown(DESCRIPTION)
140
  gr.DuplicateButton(value="Duplicate Space for private use", elem_id="duplicate-button")
141
- chat_interface.render()
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
142
  gr.Markdown(LICENSE)
143
 
144
  if __name__ == "__main__":
 
84
  outputs.append(text)
85
  yield "".join(outputs)
86
 
87
+ chatbot=gr.Chatbot(height=450, label='Gradio ChatInterface')
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
88
 
89
  with gr.Blocks(css="style.css") as demo:
90
  gr.Markdown(DESCRIPTION)
91
  gr.DuplicateButton(value="Duplicate Space for private use", elem_id="duplicate-button")
92
+
93
+ gr.ChatInterface(
94
+ fn=generate,
95
+ chatbot=chatbot,
96
+ fill_height=True,
97
+ additional_inputs=[
98
+ gr.Textbox(label="System prompt", lines=6),
99
+ gr.Slider(
100
+ label="Max new tokens",
101
+ minimum=1,
102
+ maximum=MAX_MAX_NEW_TOKENS,
103
+ step=1,
104
+ value=DEFAULT_MAX_NEW_TOKENS,
105
+ ),
106
+ gr.Slider(
107
+ label="Temperature",
108
+ minimum=0.1,
109
+ maximum=4.0,
110
+ step=0.1,
111
+ value=0.6,
112
+ ),
113
+ gr.Slider(
114
+ label="Top-p (nucleus sampling)",
115
+ minimum=0.05,
116
+ maximum=1.0,
117
+ step=0.05,
118
+ value=0.9,
119
+ ),
120
+ gr.Slider(
121
+ label="Top-k",
122
+ minimum=1,
123
+ maximum=1000,
124
+ step=1,
125
+ value=50,
126
+ ),
127
+ gr.Slider(
128
+ label="Repetition penalty",
129
+ minimum=1.0,
130
+ maximum=2.0,
131
+ step=0.05,
132
+ value=1.2,
133
+ ),
134
+ ],
135
+ stop_btn=None,
136
+ examples=[
137
+ ["நான் எப்படி வேகமாக தூங்க முடியும்?"],
138
+ ["என் முதலாளி மிகவும் கட்டுப்படுத்துகிறார், நான் என்ன செய்ய வேண்டும்?"],
139
+ ["திருமணத்திற்கு நான் என்ன அணிய வேண்டும்?"],
140
+ ["வரலாற்றில் தெரிந்து கொள்ள வேண்டிய சில முக்கியமான காலங்கள் யாவை?"],
141
+ ["நான் பணம் சம்பாதிக்க வேண்டும் ஆனால் வேடிக்கையாக இருக்க வேண்டும் என்றால் நல்ல தொழில் எது?"],
142
+ ],
143
+ )
144
+
145
  gr.Markdown(LICENSE)
146
 
147
  if __name__ == "__main__":