deepseek + 搜索代理测试完成，记录下踩过的坑 #110

wolf-joe · 2024-08-07T11:36:09Z

wolf-joe
Aug 7, 2024

我目前用deepseek的api比较多，部署的环境也无法直接访问duckduckgo，部署下来主要踩了两个坑，这里分享一下。

支持deepseek等自定义模型

修改 mindsearch/agent/models.py，加入自己的模型

deepseek = dict(type=GPTAPI,
            model_type='deepseek-chat',
            openai_api_base='https://api.deepseek.com/v1/chat/completions',
            key=os.environ.get('DEEPSEEK_API_KEY', 'YOUR OPENAI API KEY'))

openai_api_base这个变量名，字面意义上理解是https://api.deepseek.com/这种api前缀，但实际要填的是完整的url endpoint。

修改系统库中的lagent包（我的路径是./venv/lib/python3.8/site-packages/lagent/llms/openai.py），让其支持自定义模型

        # 388行开始
        # Model-specific processing
        data = {}
        # 原语句：if model_type.lower().startswith('gpt'):
        if model_type.lower().startswith(('gpt', 'deepseek')):
            ...省略

不是很理解为啥会限定model_type前缀必须是gpt。

使用代理访问duckduckgo

墙内网络环境无法直连duckduckgo，仓库里也没找到传入proxy的地方，所以还是直接改代码（我的路径是./venv/lib/python3.8/site-packages/lagent/actions/bing_browser.py）：

# 43行开始
class DuckDuckGoSearch(BaseSearch):

    def __init__(self,
                 topk: int = 3,
                 black_list: List[str] = [
                     'enoN',
                     'youtube.com',
                     'bilibili.com',
                     'researchgate.net',
                 ],
                 **kwargs):
        self.proxy = kwargs.get('proxy')
        self.proxy = 'http://x.x.x.x:xx' # 手动指定代理
        self.timeout = kwargs.get('timeout', 10)
        super().__init__(topk, black_list)