qwopqwop

/

KoAlpaca-Polyglot-12.8B-GPTQ

like 5

oobabooga 에서 돌려봤는데 제대로 대화가 안 되거나
RuntimeError: probability tensor contains either inf, nan or element < 0 또는
RuntimeError: expected scalar type Float but found Half 등의 에러가 나옵니다.
어떻게 셋팅해야 할까요?