通过MCP让LLM调用系统接口

场景

MCP的出现大大丰富了LLM的功能,对于存量系统,我们希望能让模型调用已有的接口,以最小的成本让AI能够获取系统内部数据。因此我们开发了一个名为http-api-call的MCP Server,来支持模型到内部API的调用

实现方案

使用用标准的MCP协议,重写call_toollist_tool

  • call_tool
    在这里实现调用工具的逻辑,将请求信息转发给已有系统的后端接口调用
  • list_tool
    在这里实现工具列表的查询,返回以及配置的API即可

这样我们将工具列表封装为tool_message,传递给模型,即可让模型自动选择合适的API调用。


#[derive(Debug, Clone)]
pub struct McpService;impl McpService {pub fn new() -> Self {Self {}}/// 添加或更新APIfn add_or_update_api(&self, req: Api) -> Res<()> {}/// 删除APIfn remove_api(&self, req: RemoveApiReq) -> Res<()> {}/// 查询API列表fn list_api(&self, req: Option<ListApiReq>) -> Res<PageRes<Api>> {}
}impl ServerHandler for McpService {async fn call_tool(&self,request: CallToolRequestParam,_context: RequestContext<RoleServer>,) -> Result<CallToolResult, Error> {// 请求转发}fn list_tools(&self,_request: PaginatedRequestParam,_context: RequestContext<RoleServer>,) -> impl Future<Output = Result<ListToolsResult, Error>> + Send + '_ {//返回API列表}
}

配置API:
在这里插入图片描述

在模型中使用API:
在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/910459.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【智能优化算法改进系列 | 第一期】基于Tent混沌映射改进智能优化算法

引言&#xff1a;当混沌理论遇上智能优化算法 在智能优化算法&#xff08;如粒子群优化、遗传算法&#xff09;的研究中&#xff0c;混沌映射因其独特的遍历性、非周期性和类随机性&#xff0c;成为提升算法性能的重要工具。其中&#xff0c;Tent混沌映射以其简单高效的特性&a…

(3)python开发经验

文章目录 1 sender返回对象找不到函数2 获取绝对路径3 指定翻译字符 更多精彩内容&#x1f449;内容导航 &#x1f448;&#x1f449;Qt开发 &#x1f448;&#x1f449;python开发 &#x1f448; 1 sender返回对象找不到函数 在PySide6中多个信号绑定一个槽函数&#xff0c;使…

【Redis】RedLock实现原理

Redis的RedLock是一种分布式锁算法&#xff0c;旨在通过多节点协作解决传统单节点Redis锁的容错性问题。其核心原理如下&#xff1a; 1. 设计目标 互斥性&#xff1a;同一时刻只有一个客户端持有锁。死锁避免&#xff1a;锁自动超时释放&#xff0c;防止客户端崩溃导致死锁。容…

KV cache 缓存与量化:加速大型语言模型推理的关键技术

引言 在大型语言模型&#xff08;LLM&#xff09;的推理过程中&#xff0c;KV 缓存&#xff08;Key-Value Cache&#xff09; 是一项至关重要的优化技术。自回归生成&#xff08;如逐 token 生成文本&#xff09;的特性决定了模型需要反复利用历史token的注意力计算结果&#…

Angular | 利用 `ChangeDetectorRef` 解决 Angular 动态显示输入框的聚焦问题

在 Angular 应用开发中&#xff0c;实现用户点击按钮后&#xff0c;原地切换显示一个输入框并自动获取焦点的功能&#xff0c;是一个常见的交互模式。例如&#xff0c;搜索图标点击后变为搜索框&#xff0c;用户可以直接输入。然而&#xff0c;由于 Angular 的变更检测和 DOM 更…

Spring Boot之Web服务器的启动流程分析

如何判断创建哪种web容器&#xff1a;servlet&#xff1f;reactive&#xff1f; 我们在启动Spring Boot程序的时候&#xff0c;会使用SpringApplication.run方法来启动&#xff0c;在启动流程中首先要判断的就是需要启动什么类型的服务器&#xff0c;是servlet&#xff1f;或者…

【SpringBoot】从零开始全面解析Spring MVC (一)

本篇博客给大家带来的是SpringBoot的知识点, 本篇是SpringBoot入门, 介绍Spring MVC相关知识. &#x1f40e;文章专栏: JavaEE初阶 &#x1f680;若有问题 评论区见 ❤ 欢迎大家点赞 评论 收藏 分享 如果你不知道分享给谁,那就分享给薯条. 你们的支持是我不断创作的动力 . 王子…

【TDengine源码阅读】TAOS_DEF_ERROR_CODE(mod, code)

2025年5月13日&#xff0c;周二清晨 #define TAOS_DEF_ERROR_CODE(mod, code) ((int32_t)((0x80000000 | ((mod)<<16) | (code))))这段代码定义了一个宏 TAOS_DEF_ERROR_CODE(mod, code)&#xff0c;用于生成一个32位有符号整数&#xff08;int32_t&#xff09;形式的错误…