SQLBot version
1.9.0
Please describe your requirements or suggestions for improvement
当前 SQLBot 未对数据源关联的目标数据库做连接数限制与并发查询管控。当多用户高并发发起提问时,会快速耗尽目标数据库的可用连接数,触发数据库连接超限报错,不仅导致 SQLBot 查询失败,还可能影响共用该数据库的其他业务系统,整体稳定性风险较高。
同理,模型调用侧目前也缺少对应的并发与频率限制机制,高并发场景下存在调用配额超限、服务资源耗尽的风险。
功能期望
希望在 SQLBot 层面新增完整的并发与连接管控能力,具体包含:
- 数据源侧:支持对单数据源配置最大连接数、同时执行的查询并发数上限
- 超限处理:并发请求达到阈值时,自动进行排队或返回友好提示,避免直接打满数据库连接
- 模型侧:同步新增并发数/调用频率限制能力,保障模型调用链路稳定
实现建议
- 可在数据源配置页新增「最大并发查询数」「单数据源最大连接数」配置项,由管理员按需设置阈值(例如并发上限 200)
- 并发超限后优先对请求做排队处理,超出队列容量再返回明确的限流提示
- 模型调用侧提供可配置的 QPS / 并发数限制,适配不同模型服务商的调用配额
SQLBot version
1.9.0
Please describe your requirements or suggestions for improvement
当前 SQLBot 未对数据源关联的目标数据库做连接数限制与并发查询管控。当多用户高并发发起提问时,会快速耗尽目标数据库的可用连接数,触发数据库连接超限报错,不仅导致 SQLBot 查询失败,还可能影响共用该数据库的其他业务系统,整体稳定性风险较高。
同理,模型调用侧目前也缺少对应的并发与频率限制机制,高并发场景下存在调用配额超限、服务资源耗尽的风险。
功能期望
希望在 SQLBot 层面新增完整的并发与连接管控能力,具体包含:
实现建议