llama_ros: llama.cpp for ROS 2
Loading...
Searching...
No Matches
llama_demos.llama_rerank_demo_node Namespace Reference

Variables

 rerank_req = RerankDocuments.Request()
 
 query
 
 documents
 
 scores = LlamaClientNode.get_instance().rerank_documents(rerank_req).scores
 
 scored_docs = list(zip(rerank_req.documents, scores))
 
 result = sorted(scored_docs, key=operator.itemgetter(1), reverse=True)
 

Variable Documentation

◆ documents

llama_demos.llama_rerank_demo_node.documents

◆ query

llama_demos.llama_rerank_demo_node.query

◆ rerank_req

llama_demos.llama_rerank_demo_node.rerank_req = RerankDocuments.Request()

◆ result

llama_demos.llama_rerank_demo_node.result = sorted(scored_docs, key=operator.itemgetter(1), reverse=True)

◆ scored_docs

llama_demos.llama_rerank_demo_node.scored_docs = list(zip(rerank_req.documents, scores))

◆ scores

llama_demos.llama_rerank_demo_node.scores = LlamaClientNode.get_instance().rerank_documents(rerank_req).scores