cenkersisman
commited on
Commit
•
9452242
1
Parent(s):
3f2a15a
Update README.md
Browse files
README.md
CHANGED
@@ -23,7 +23,7 @@ GPT-2 Türkçe Modeli
|
|
23 |
|
24 |
GPT-2 Türkçe Modeli, Türkçe diline özelleştirilmiş olan GPT-2 mimarisi temel alınarak oluşturulmuş bir dil modelidir. Belirli bir başlangıç metni temel alarak insana benzer metinler üretme yeteneğine sahiptir ve geniş bir Türkçe metin veri kümesi üzerinde eğitilmiştir.
|
25 |
Modelin eğitimi için 900 milyon karakterli Vikipedi seti kullanılmıştır. Eğitim setindeki cümleler maksimum 48 tokendan (token = kelime kökü ve ekleri) oluşmuştur bu yüzden oluşturacağı cümlelerin boyu sınırlıdır..
|
26 |
-
Türkçe heceleme yapısına uygun tokenizer kullanılmış ve model
|
27 |
Eğitim için 4GB hafızası olan Nvidia Geforce RTX 3050 GPU kullanılmaktadır.
|
28 |
|
29 |
## Model Nasıl Kullanılabilir
|
|
|
23 |
|
24 |
GPT-2 Türkçe Modeli, Türkçe diline özelleştirilmiş olan GPT-2 mimarisi temel alınarak oluşturulmuş bir dil modelidir. Belirli bir başlangıç metni temel alarak insana benzer metinler üretme yeteneğine sahiptir ve geniş bir Türkçe metin veri kümesi üzerinde eğitilmiştir.
|
25 |
Modelin eğitimi için 900 milyon karakterli Vikipedi seti kullanılmıştır. Eğitim setindeki cümleler maksimum 48 tokendan (token = kelime kökü ve ekleri) oluşmuştur bu yüzden oluşturacağı cümlelerin boyu sınırlıdır..
|
26 |
+
Türkçe heceleme yapısına uygun tokenizer kullanılmış ve model 3 milyon 480 bin adımda yaklaşık 6 epoch eğitilmiştir. Eğitim halen devam etmektedir.
|
27 |
Eğitim için 4GB hafızası olan Nvidia Geforce RTX 3050 GPU kullanılmaktadır.
|
28 |
|
29 |
## Model Nasıl Kullanılabilir
|