
Model-Selector是什么
Model-Selector是一款基于语义分析和成本效益分析的AI智能工具,旨在为不同复杂度的查询选择最合适的LLM模型,优化性能和成本。
由 rayray1218 开发 | 累计安装 155 次 | 开源协议:MIT-0
Model-Selector的主要功能
- 语义意图识别:利用向量嵌入技术,准确识别查询的复杂度,为模型选择提供依据。
- 成本效益编排:根据查询复杂度和预算,智能路由到精英、平衡或基础模型,实现成本优化。
- 模型层级支持:支持Claude 3.5 Sonnet、GPT-4o-mini和DeepSeek等主流LLM模型,满足不同需求。
- 滚动调整:通过分析用户历史查询,不断优化意图关键词,提高模型选择准确性。
- 多提供商支持:兼容OpenAI、Anthropic、Gemini和DeepSeek等多个LLM提供商,满足多样化需求。
如何使用Model-Selector
- 添加技能:将Model-Selector添加到代理的能力列表中。
- 调用工具:代理在调用主要LLM之前,调用get_optimal_model工具进行模型选择。
- 执行查询:根据模型选择结果,执行相应的LLM查询。
Model-Selector的项目地址
- 项目官网:https://clawhub.ai/rayray1218/model-selector
Model-Selector的应用场景
- 智能客服系统,根据用户查询复杂度,自动选择合适的LLM模型,提高响应速度和准确性。
- 数据分析平台,针对不同数据规模和复杂度,智能选择模型,降低计算成本。
- 多语言翻译服务,根据源语言和目标语言的复杂度,选择合适的LLM模型,保证翻译质量。
渝公网安备50011302222466号
暂无评论