rev app

app.py

@@ -3,11 +3,12 @@ from transformers import pipeline
 import torch
 import spaces
 
-# Initialize model on CPU
+# Initialize model on CPU with float16
 model = pipeline(
     "automatic-speech-recognition",
     model="Aekanun/whisper-small-hi",
-    device="cpu"
+    device="cpu",
+    torch_dtype=torch.float16  # กำหนด data type เป็น float16
 )
 
 @spaces.GPU
@@ -17,17 +18,12 @@ def transcribe_speech(audio):
         if audio is None:
             return "กรุณาบันทึกเสียงก่อน"
             
-        # Move model to GPU
-        model.model = model.model.to("cuda")
+        # Move model to GPU with float16
+        model.model = model.model.to("cuda").half()  # ใช้ .half() เพื่อแปลงเป็น float16
         
         with torch.amp.autocast('cuda'):
-            # Process audio with chunk length to handle long audio
-            result = model(
-                audio,
-                batch_size=1,
-                return_timestamps=True,  # แก้ error เรื่อง timestamps
-                chunk_length_s=30        # แก้ error เรื่องความยาวเสียง
-            )
+            # Process audio
+            result = model(audio, batch_size=1)
             
             # Get text result
             text = result["text"] if isinstance(result, dict) else result