Skip to content

[FEATURE] 业务数据源连接池与并发控制:防止高并发问数耗尽目标数据库连接数 #1256

Description

@Fit111

SQLBot version
1.9.0
Please describe your requirements or suggestions for improvement

当前 SQLBot 未对数据源关联的目标数据库做连接数限制与并发查询管控。当多用户高并发发起提问时,会快速耗尽目标数据库的可用连接数,触发数据库连接超限报错,不仅导致 SQLBot 查询失败,还可能影响共用该数据库的其他业务系统,整体稳定性风险较高。

同理,模型调用侧目前也缺少对应的并发与频率限制机制,高并发场景下存在调用配额超限、服务资源耗尽的风险。

功能期望

希望在 SQLBot 层面新增完整的并发与连接管控能力,具体包含:

  1. 数据源侧:支持对单数据源配置最大连接数、同时执行的查询并发数上限
  2. 超限处理:并发请求达到阈值时,自动进行排队或返回友好提示,避免直接打满数据库连接
  3. 模型侧:同步新增并发数/调用频率限制能力,保障模型调用链路稳定

实现建议

  • 可在数据源配置页新增「最大并发查询数」「单数据源最大连接数」配置项,由管理员按需设置阈值(例如并发上限 200)
  • 并发超限后优先对请求做排队处理,超出队列容量再返回明确的限流提示
  • 模型调用侧提供可配置的 QPS / 并发数限制,适配不同模型服务商的调用配额

Metadata

Metadata

Labels

Type

No type

Fields

No fields configured for issues without a type.

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions