llama_ros: llama.cpp for ROS 2
Loading...
Searching...
No Matches
llava_ros::Llava Member List

This is the complete list of members for llava_ros::Llava, including all inherited members.

add_bos_token()llama_ros::Llamainline
base64_image_to_embed(const std::string &base64_str)llava_ros::Llava
cancel()llama_ros::Llama
canceledllama_ros::Llamaprotected
ctxllama_ros::Llamaprotected
ctx_clipllava_ros::Llavaprotected
detokenize(const std::vector< llama_token > &tokens)llama_ros::Llama
eval(struct llama_batch batch) overridellava_ros::Llavaprotectedvirtual
llama_ros::Llama::eval(std::vector< llama_token > tokens)llama_ros::Llamaprotected
eval_image(struct llava_image_embed *image_embed)llava_ros::Llavaprotected
eval_prompt() overridellava_ros::Llavaprotectedvirtual
llama_ros::Llama::eval_prompt(std::vector< llama_token > prompt_tokens)llama_ros::Llamaprotected
eval_system_prompt()llama_ros::Llamaprotected
eval_token(llama_token token)llama_ros::Llamaprotected
find_stop(std::vector< struct CompletionOutput > completion_result_list, std::vector< std::string > stopping_words)llama_ros::Llamaprotected
find_stop_word(std::vector< struct CompletionOutput > completion_result_list, std::string stopping_word)llama_ros::Llamaprotected
format_chat_prompt(std::vector< struct common_chat_msg > chat_msgs, bool add_ass)llama_ros::Llama
free_image()llava_ros::Llavaprivate
ga_illama_ros::Llamaprotected
generate_embeddings(const std::string &input_prompt, int normalization=2)llama_ros::Llama
generate_embeddings(const std::vector< llama_token > &tokens, int normalization=2)llama_ros::Llama
generate_response(const std::string &input_prompt, struct common_params_sampling sparams, GenerateResponseCallback callbakc=nullptr, std::vector< std::string > stop={})llama_ros::Llama
generate_response(const std::string &input_prompt, GenerateResponseCallback callbakc=nullptr, std::vector< std::string > stop={})llama_ros::Llama
get_ctx()llama_ros::Llamainline
get_float_metadata(const std::string &key, size_t size)llama_ros::Llama
get_float_metadata(const std::string &model_name, const std::string &key, size_t size)llama_ros::Llama
get_int_metadata(const std::string &key, size_t size)llama_ros::Llama
get_int_metadata(const std::string &model_name, const std::string &key, size_t size)llama_ros::Llama
get_metadata(const std::string &key, size_t size)llama_ros::Llama
get_metadata(const std::string &model_name, const std::string &key, size_t size)llama_ros::Llama
get_metadata()llama_ros::Llama
get_model()llama_ros::Llamainline
get_n_ctx()llama_ros::Llamainline
get_n_ctx_train()llama_ros::Llamainline
get_n_embd()llama_ros::Llamainline
get_n_vocab()llama_ros::Llamainline
get_probs()llama_ros::Llamaprotected
get_token_bos()llama_ros::Llamainline
get_token_eos()llama_ros::Llamainline
get_token_sep()llama_ros::Llamainline
get_vocab()llama_ros::Llamainline
image_embedllava_ros::Llavaprotected
image_posellava_ros::Llavaprivate
is_embedding()llama_ros::Llamainline
is_eog()llama_ros::Llamainline
is_reranking()llama_ros::Llamainline
list_loras()llama_ros::Llama
Llama(const struct common_params &params, std::string system_prompt="", bool initial_reset=true)llama_ros::Llama
llama_initllama_ros::Llamaprotected
Llava(const struct common_params &params, const struct LlavaParams &llava_params, std::string system_prompt="")llava_ros::Llava
llava_paramsllava_ros::Llavaprotected
load_image(std::string base64_str)llava_ros::Llava
load_prompt(const std::string &input_prompt, bool add_pfx, bool add_sfx) overridellava_ros::Llavaprotectedvirtual
lora_adaptersllama_ros::Llamaprotected
modelllama_ros::Llamaprotected
mutexllama_ros::Llamaprivate
n_consumedllama_ros::Llamaprotected
n_pastllama_ros::Llamaprotected
paramsllama_ros::Llamaprotected
prompt_tokensllama_ros::Llamaprotected
rank_document(const std::string &query, const std::string &document)llama_ros::Llama
rank_documents(const std::string &query, const std::vector< std::string > &documents)llama_ros::Llama
reset() overridellava_ros::Llavavirtual
sample()llama_ros::Llamaprotected
samplerllama_ros::Llamaprotected
spinnerllama_ros::Llamaprotected
st_pos_idllava_ros::Llavaprivate
system_promptllama_ros::Llamaprotected
threadpoolllama_ros::Llamaprotected
threadpool_batchllama_ros::Llamaprotected
tokenize(const std::string &text, bool add_bos, bool special=false)llama_ros::Llama
truncate_tokens(const std::vector< llama_token > &tokens, int limit_size, bool add_eos=true)llama_ros::Llama
update_loras(std::vector< struct LoRA > loras)llama_ros::Llama
~Llama()llama_ros::Llamavirtual
~Llava()llava_ros::Llava