llama_ros: llama.cpp for ROS 2
|
#include <memory>
#include <rclcpp/rclcpp.hpp>
#include <rclcpp_lifecycle/lifecycle_node.hpp>
#include "common.h"
#include "llama.h"
#include "llama_msgs/msg/sampling_config.hpp"
#include "llama_utils/logs.hpp"
#include "llava_ros/llava.hpp"
Go to the source code of this file.
Classes | |
struct | llama_utils::LlamaParams |
Namespaces | |
namespace | llama_utils |
Functions | |
void | llama_utils::declare_llama_params (const rclcpp_lifecycle::LifecycleNode::SharedPtr &node) |
struct LlamaParams | llama_utils::get_llama_params (const rclcpp_lifecycle::LifecycleNode::SharedPtr &node) |
enum ggml_sched_priority | llama_utils::parse_priority (std::string priority) |
struct common_params_sampling | llama_utils::parse_sampling_params (const llama_msgs::msg::SamplingConfig &sampling_config, int n_vocab) |