1. LLMProvider的设计与实现
1.1 策略模式的应用
在设计LLMProvider时,我们采用了策略模式来封装不同大模型的调用方式。策略模式的核心思想是将算法(或行为)封装起来,使它们可以相互替换,而不用在代码中写一堆if-else/switch来决定使用哪个算法。
举个生活中的例子:假设你要从宿舍去图书馆,有三种方式可选:
- 走路(最省钱但慢)
- 骑自行车(中等速度,中等花销)
- 坐校内公交车(最快但贵)
在代码中,我们可以这样实现:
cpp复制class TransportStrategy {
public:
virtual void go() = 0;
};
class WalkStrategy : public TransportStrategy {
public:
virtual void go() override { cout << "走路去机房🚶"; }
};
class BikeStrategy : public TransportStrategy {
public:
virtual void go() override { cout << "骑车去机房🚴"; }
};
class BusStrategy : public TransportStrategy {
public:
virtual void go() override { cout << "打车去机房🚕"; }
};
class Student {
private:
TransportStrategy* strategy;
public:
void setStrategy(TransportStrategy* s) { strategy = s; }
void goToLab() { strategy->go(); }
};
这种设计的美妙之处在于,使用时只需和TransportStrategy打交道,不需要知道背后具体是哪种策略。如果想更换模式,只需要更换一个具体的策略对象即可,程序基本不需要改动。
1.2 LLMProvider抽象基类设计
我们将策略模式的思想应用到LLMProvider的设计中。首先定义一个抽象基类LLMProvider,包含所有大模型提供者都需要实现的接口:
cpp复制class LLMProvider {
public:
virtual bool initModel(const std::map<std::string, std::string>& modelConfig) = 0;
virtual std::string getModelName() const = 0;
virtual std::string getModelDesc() const = 0;
virtual bool isAvailable() const = 0;
virtual std::string sendMessage(const std::vector<Message>& message,
const std::map<std::string, std::string>& requestParam) = 0;
virtual void sendMessageStream(const std::vector<Message>& message,
const std::map<std::string, std::string>& requestParam,
std::function<void(const std::string&, bool)> callback) = 0;
protected:
bool _isAvailable = false;
std::string _apikey;
std::string _endpoint;
};
这个设计的关键点:
- 将LLMProvider设为抽象类(接口类),所有方法都是纯虚函数
- 使用C++的多态机制,基类指针可以指向子类对象
- 公共部分(如apiKey和endpoint)放在protected区域,子类可以直接访问
- 支持两种消息发送方式:全量返回和流式返回
1.3 多态机制的实现
通过C++的多态机制,我们可以在运行时决定使用哪个具体的大模型提供者。例如:
cpp复制std::shared_ptr<LLMProvider> provider;
// 根据配置决定使用哪个提供者
if(config.model == "deepseek") {
provider = std::make_shared<DeepSeekProvider>();
} else if(config.model == "gemini") {
provider = std::make_shared<GeminiProvider>();
}
// 统一接口调用
provider->sendMessage(messages, params);
这种设计避免了代码重复,新增一个大模型支持时,只需要实现一个新的Provider子类即可,不需要修改现有代码。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. DeepSeek模型接入实现
2.1 DeepSeek API基础
DeepSeek提供了标准的HTTP API接口,主要参数包括:
- model:模型名称
- messages:对话消息列表
- temperature:控制生成文本的随机性
- max_tokens:最大生成token数
- stream:是否启用流式响应
API调用需要注意几个关键点:
- 无状态服务原则:每次请求视为独立会话,需要客户端主动管理对话上下文
- 系统提示:如需保持角色设定,每次请求必须包含系统级指令
- 对话历史:模型仅处理当前请求中的上下文,无法关联前序对话
2.2 初始化实现
DeepSeekProvider的初始化主要包括:
- 从配置中获取api_key和endpoint
- 验证配置有效性
- 设置模型可用状态
cpp复制bool DeepSeekProvider::initModel(const std::map<std::string, std::string>& modelConfig) {
// 检查api_key
auto it = modelConfig.find("api_key");
if(it == modelConfig.end()) {
ERR("DeepSeekProvider initModel failed: api_key not found");
return false;
}
_apikey = it->second;
// 检查endpoint
it = modelConfig.find("endpoint");
if(it == modelConfig.end()) {
ERR("DeepSeekProvider initModel failed: endpoint not found");
return false;
}
_endpoint = it->second;
_isAvailable = true;
return true;
}
安全提示:在实际项目中,api_key这样的敏感信息不应该硬编码在代码中,应该通过环境变量或配置中心获取。
2.3 全量返回实现
全量返回的实现相对简单,主要步骤:
- 构造请求参数
- 发送HTTP请求
- 解析响应
cpp复制std::string DeepSeekProvider::sendMessage(const std::vector<Message>& messages,
const std::map<std::string, std::string>& requestParam) {
if(!isAvailable()) {
ERR("Model not available");
return "";
}
// 构造请求体
Json::Value request
