Collab?
Moin, ich glaube wir hatten mehr oder weniger zur gleichen Zeit die Idee mit einer deutschen Version von Alpaca / LLama 7B. Ich habe meine Version erst heute hochgeladen und dadurch erst deine auf HF gefunden...
Hättest du vielleicht Lust, die deutsche base version zusammen auf einem Repo weiter zu trainieren? Es gibt noch viele verschiedene instruct datasets die man übersetzen könnte, auch schon 30B models mit 4bit quantization.
Hi @avocardio , ich habe Interesse an einer Zusammenarbeit. Es sollte aber kommerziell nutzbar sein ...
Hi @avocardio , voll cool, dass du dich auch mit dem Finetuning deutscher LLMs beschäftigt hast! :)
Abgesehen von uns zwei gibt es da auch noch
@thisserand
. Evtl. wäre er auch noch interessiert.
Leider werde ich ab kommendem Monat privat sehr wenig Zeit für weitere OpenSource-Tätigkeiten haben, würde mich aber nochmal bei dir melden, falls ich doch ein bisschen Zeit finde!
Kannst mich gerne auch unter Twitter bei @ludwig_stumpp adden.
VG
Ludwig