丝美导航 AI技能集 AI智能技能

Model-Selector

通过分析查询意图和成本效益,自动选择最优LLM模型层级的AI智能工具。

标签:
分享到:

Model-Selector

Model-Selector是什么

Model-Selector是一款基于语义分析和成本效益分析的AI智能工具,旨在为不同复杂度的查询选择最合适的LLM模型,优化性能和成本。

rayray1218 开发 | 累计安装 155 次 | 开源协议:MIT-0

Model-Selector的主要功能

  • 语义意图识别:利用向量嵌入技术,准确识别查询的复杂度,为模型选择提供依据。
  • 成本效益编排:根据查询复杂度和预算,智能路由到精英、平衡或基础模型,实现成本优化。
  • 模型层级支持:支持Claude 3.5 Sonnet、GPT-4o-mini和DeepSeek等主流LLM模型,满足不同需求。
  • 滚动调整:通过分析用户历史查询,不断优化意图关键词,提高模型选择准确性。
  • 多提供商支持:兼容OpenAI、Anthropic、Gemini和DeepSeek等多个LLM提供商,满足多样化需求。

如何使用Model-Selector

  • 添加技能:将Model-Selector添加到代理的能力列表中。
  • 调用工具:代理在调用主要LLM之前,调用get_optimal_model工具进行模型选择。
  • 执行查询:根据模型选择结果,执行相应的LLM查询。

Model-Selector的项目地址

  • 项目官网https://clawhub.ai/rayray1218/model-selector

Model-Selector的应用场景

  • 智能客服系统,根据用户查询复杂度,自动选择合适的LLM模型,提高响应速度和准确性。
  • 数据分析平台,针对不同数据规模和复杂度,智能选择模型,降低计算成本。
  • 多语言翻译服务,根据源语言和目标语言的复杂度,选择合适的LLM模型,保证翻译质量。

相关导航