Update README.md
Browse files
README.md
CHANGED
|
@@ -8,6 +8,7 @@ license: apache-2.0
|
|
| 8 |
### 通过心理健康领域的藏文指令数据集进行了QLoRA微调：
|
| 9 |
- 通过4-bit的nf4量化，且加入更多adapter，在大幅减少显存消耗的同时，尽可能逼近全量参数微调的效果。 该方法可以在一张V100上对33B的模型进行微调，并且性能逼近全量参数微调。
|
| 10 |
|
|
|
|
| 11 |
|
| 12 |
|
| 13 |
|
|
|
|
| 8 |
### 通过心理健康领域的藏文指令数据集进行了QLoRA微调：
|
| 9 |
- 通过4-bit的nf4量化，且加入更多adapter，在大幅减少显存消耗的同时，尽可能逼近全量参数微调的效果。 该方法可以在一张V100上对33B的模型进行微调，并且性能逼近全量参数微调。
|
| 10 |
|
| 11 |
+
|
| 12 |
|
| 13 |
|
| 14 |
|