← 返回首页
技能

大模型Token压缩·成本节约

tencent_skillhub · 1.9.0 · 下载量 13 · 热度分 21.1

产品介绍

大模型 API 费用越来越高?token 越用越多却不知道花在哪?大模型token成本节约(llm token compressor / prompt compression / token optimizer / 上下文压缩)在请求到达大模型之前自动压缩 prompt 和上下文,减少 60-95% 的 token 消耗,直接降低 API 成本——想让 agent 和应用更省就跑它。支持 Claude/OpenAI/Gemini 等主流模型,提供代理模式、CLI 包装、Python SDK 和 MCP Server 四种接入方式,一个 tool 搞定全链路压缩。内置一键安装脚本、企业内网适配方案、压缩效果对比报告、场景专项配置(法律/医疗/金融/代码)、模型更新指南。完全本地运行,不向任何外部服务器发送数据。当用户说「token 太贵了」「帮我降低 API 成本」「如何压缩 prompt」「怎么节省 token」「我想优化大模型开销」时触发。Use when your LLM API bills keep growing. 基于开源项目 headroom(https://github.com/chopratejas/headroom,MIT License)封装,已注明来源与许可证。

资源信息

作者:user_2dc8a2f8
分类:工作流 & 自动化
版本:1.9.0
认证方式: 无需认证
是否付费: 官方未说明

许可证信息摘自官方源,可能过时或缺失。商用前请以原仓库的 LICENSE 文件为准。

标签
提示词优化上下文管理工具调用

信息边界说明

本页信息摘自官方文档,仅作技术信息呈现,不代表本站的判断或推荐。价格、配额、可用性以官方最新说明为准。你离开本站后的任何行为(申请 Key、付费、部署、商用),本站不做任何承诺与担保。

同类推荐

self-improving agent

官方未说明

记录自身发现以实现自我改进的技能

Agent Browser

官方未说明

用于 AI 代理的浏览器自动化 CLI。当用户需要与网站交互(包括浏览页面、填写表单、点击按钮、截图等)时使用。

Memory Setup

需申请 Key

启用并配置 Moltbot/Clawdbot 记忆搜索以实现持久上下文。适用于初始化记忆、解决“金鱼脑”问题或协助用户配置 memorySearch。涵盖 MEMORY.md、日志记录及向量搜索设置。

天工.skill

官方未说明

天工.skill(Tiangong Skill)智能体设计师。当用户需要设计、创建或优化AI智能体/Agent,或基于真实人物蒸馏思维框架创建人物Skill时使用。支持两种范式:人物蒸馏(由内而外,复刻心智模型)与岗位型专家(由外而内,定义岗位职责)。目标:创建专业领域专家角色,具备清晰人设和扎实交付力。

Agent Memory

官方标注收费需申请 Key

为AI智能体提供持久记忆,用于跨会话存储事实、从行动中学习、回忆信息及追踪实体。

玄奘.skill

官方未说明

有事就请如来佛祖!当用户明确请求pua模式,或表现出沮丧、反复失败(2次及以上)、消极被动、抱怨质量、未核实即声称完成、想要放弃,或要求更努力/换种方法时触发。常见触发词:'try harder'、'figure it out'、'stop giving up'、'you keep failing'、'加油'、'别偷懒'、'你再试试'、'为什么还不行'、'你怎么又失败了'、'又错了'、'检查下'、'完善'、'审核'、'质量太差'、'换个方法'、'stop spinning'、'you broke it'、'/pua'。对于正常的首次编程或信息查询请求,请勿触发。

什么是技能

技能(Skill)是封装好的单项能力,比如文字识别、文档摘要、关键词提取。开发者把调用逻辑和提示词打包,使用者像用插件一样加载即可,无需了解底层模型。启枢技能 收录大量技能,可直接试跑或编入方案。