Skip to content

Commit 37f3a38

Browse files
authored
llama : add llama_n_head() (#9512)
1 parent 23e0d70 commit 37f3a38

File tree

2 files changed

+5
-0
lines changed

2 files changed

+5
-0
lines changed

include/llama.h

+1
Original file line numberDiff line numberDiff line change
@@ -441,6 +441,7 @@ extern "C" {
441441
LLAMA_API int32_t llama_n_ctx_train(const struct llama_model * model);
442442
LLAMA_API int32_t llama_n_embd (const struct llama_model * model);
443443
LLAMA_API int32_t llama_n_layer (const struct llama_model * model);
444+
LLAMA_API int32_t llama_n_head (const struct llama_model * model);
444445

445446
LLAMA_API const struct llama_model * llama_get_model(const struct llama_context * ctx);
446447

src/llama.cpp

+4
Original file line numberDiff line numberDiff line change
@@ -19047,6 +19047,10 @@ int32_t llama_n_layer(const struct llama_model * model) {
1904719047
return model->hparams.n_layer;
1904819048
}
1904919049

19050+
int32_t llama_n_head(const struct llama_model * model) {
19051+
return model->hparams.n_head();
19052+
}
19053+
1905019054
const struct llama_model * llama_get_model(const struct llama_context * ctx) {
1905119055
return &ctx->model;
1905219056
}

0 commit comments

Comments
 (0)