llama_ros: llama.cpp for ROS 2
Loading...
Searching...
No Matches
llama_demos.chatllama_demo_node.ChatLlamaDemoNode Class Reference
Inheritance diagram for llama_demos.chatllama_demo_node.ChatLlamaDemoNode:
Collaboration diagram for llama_demos.chatllama_demo_node.ChatLlamaDemoNode:

Public Member Functions

None __init__ (self)
 
None send_prompt (self)
 

Public Attributes

 prompt = self.get_parameter("prompt").get_parameter_value().string_value
 
 cv_bridge = CvBridge()
 
int tokens = 0
 
int initial_time = -1
 
int eval_time = -1
 
 chat = ChatLlamaROS(temp=0.2, penalty_last_n=8, template_method="jinja")
 
 chain = self.prompt | self.chat | StrOutputParser()
 

Constructor & Destructor Documentation

◆ __init__()

None llama_demos.chatllama_demo_node.ChatLlamaDemoNode.__init__ ( self)

Member Function Documentation

◆ send_prompt()

None llama_demos.chatllama_demo_node.ChatLlamaDemoNode.send_prompt ( self)

Member Data Documentation

◆ chain

llama_demos.chatllama_demo_node.ChatLlamaDemoNode.chain = self.prompt | self.chat | StrOutputParser()

◆ chat

llama_demos.chatllama_demo_node.ChatLlamaDemoNode.chat = ChatLlamaROS(temp=0.2, penalty_last_n=8, template_method="jinja")

◆ cv_bridge

llama_demos.chatllama_demo_node.ChatLlamaDemoNode.cv_bridge = CvBridge()

◆ eval_time

int llama_demos.chatllama_demo_node.ChatLlamaDemoNode.eval_time = -1

◆ initial_time

int llama_demos.chatllama_demo_node.ChatLlamaDemoNode.initial_time = -1

◆ prompt

llama_demos.chatllama_demo_node.ChatLlamaDemoNode.prompt = self.get_parameter("prompt").get_parameter_value().string_value

◆ tokens

int llama_demos.chatllama_demo_node.ChatLlamaDemoNode.tokens = 0

The documentation for this class was generated from the following file: