速率限制是一种机制,用于控制用户或应用程序在给定时间段内可以发出的请求数。 GitHub 使用速率限制来确保每个人都能够公平地访问 GitHub Copilot 和防止滥用。
GitHub为何使用速率限制?
GitHub 出于多种原因强制实施限速。
- 能力: 为所有用户 Copilot 提供服务的计算能力有限。 速率限制有助于防止系统过载。
- 使用率高:**** 热门功能和模型可能会接收到大量请求。 速率限制可确保单个用户或组无法垄断这些资源。
- 公平: 速率限制可确保所有用户都能公平地访问 Copilot。
- 滥用缓解措施: 如果没有速率限制,恶意参与者可能会利用 Copilot,导致每个人的服务降级,甚至拒绝服务。
使用限制的类型
GitHub Copilot 有两个限制: **会话** 和 **每周(7 天)限制**。
- 会话限制。 如果达到会话限制,则必须等到重置后才能继续使用 Copilot。
- 每周限制。 此限制规定在 7 天内可以使用的令牌总数上限。 如果达到每周限制且剩余premium requests,则可以继续使用Copilot自动模型选择。 当每周时间段重置时,将重新启用模型选择。
你接近限制时会看到什么
VS Code 和 GitHub Copilot 命令行界面 (CLI) 都会在你接近限制时显示警告。 这些指标旨在帮助你避免意外达到限制。
如果接近限制,该怎么办
如果您即将达到某个限制,以下步骤可以帮助减少达到该限制的可能性。
- 对更简单的任务使用具有较小乘数的模型。 乘数越大,达到限制的速度就越快。
- 使用计划模式。 在 VS Code 和 Copilot 命令行界面(CLI),计划模式可以提高任务效率和任务成功,从而减少整体令牌消耗。
- 减少并行工作流。 并行化工具会导致令牌消耗较高。 如果接近限制,请节制使用它们。
- 升级计划。 如果您使用的是Copilot Pro计划,升级到Copilot Pro+计划将显著提高使用限制。
如果达到限制,该怎么办
如果在使用 Copilot时收到使用限制错误,则应:
- 等到限制时间重置。
- 切换到 Copilot自动选择模型。 如果达到每周使用限制,可以继续使用Copilot自动模型选择,直到耗尽高级请求。
- 升级计划。 如果您使用的是个人 Copilot 计划,升级计划可以增加使用量。
- 请联系支持人员。 如果你反复达到使用限制,并认为它会影响合法使用,请联系 GitHub 支持 寻求帮助。