- Llama-2-13b-w2a16g128
- Llama-2-13b-w2a16g64
- Llama-2-13b-w3a16
- Llama-2-13b-w3a16g128
- Llama-2-13b-w4a16
- Llama-2-13b-w4a16g128
- Llama-2-13b-w4a4
- Llama-2-7b-w2a16g128
- Llama-2-7b-w2a16g64
- Llama-2-7b-w3a16
- Llama-2-7b-w3a16g128
- Llama-2-7b-w4a16
- Llama-2-7b-w4a16g128
- Llama-2-7b-w4a4
- llama-13b-w2a16
- llama-13b-w2a16g128
- llama-13b-w2a16g64
- llama-13b-w3a16
- llama-13b-w3a16g128
- llama-13b-w4a16
- llama-13b-w4a16g128
- llama-13b-w4a4
- llama-30b-w2a16
- llama-30b-w2a16g128
- llama-30b-w2a16g64
- llama-30b-w3a16
- llama-30b-w3a16g128
- llama-30b-w4a16
- llama-30b-w4a16g128
- llama-30b-w4a4
- llama-7b-w2a16
- llama-7b-w2a16g128
- llama-7b-w2a16g64
- llama-7b-w3a16
- llama-7b-w3a16g128
- llama-7b-w4a16
- llama-7b-w4a16g128
- llama-7b-w4a4
- opt-1.3b-w2a16g128
- opt-1.3b-w2a16g64
- opt-1.3b-w3a16
- opt-1.3b-w3a16g128
- opt-1.3b-w4a16
- opt-1.3b-w4a16g128
- opt-125m-w2a16g128
- opt-125m-w2a16g64
- opt-125m-w3a16
- opt-125m-w3a16g128
- opt-125m-w4a16
- opt-125m-w4a16g128