Gestion des limites de taux de l'API

Discussion avec Copilot peut aider à gérer les limites de débit d’API en suggérant du code qui les détecte et implémente une logique de nouvelle tentative.

Dans cet article

Lorsque vous effectuez des demandes à des API, il est courant de rencontrer des limites de débit qui limitent le nombre d’appels que vous pouvez effectuer dans un délai donné. GitHub Copilot Chat peut vous aider à gérer ces limites en suggérant du code pour détecter les réponses de limite de débit et réessayer automatiquement les demandes après un délai.

Exemple de scénario

Le code Python suivant extrait des données météorologiques à partir d’une API externe. Si l’API a des limites de débit, les requêtes peuvent échouer lorsque des limites sont dépassées et votre application peut avoir besoin d’un moyen de gérer ces réponses correctement en implémentant la logique de nouvelle tentative.

from flask import Flask, request
import requests

app = Flask(__name__)

WEATHER_API_URL = "https://api.example.com/weather"

@app.route('/get_weather', methods=['GET'])
def get_weather():
    city = request.args.get('city')
    # Simulate an API request to the external weather service
    response = requests.get(WEATHER_API_URL, params={"city": city})
    weather_data = response.json()

    return weather_data

Exemple d’invite

Copilot prompt
How can I handle API rate limits within get_weather().

Exemple de réponse

Remarque

La réponse suivante est un exemple. Les réponses Discussion avec Copilot ne sont pas déterministes, vous pouvez donc obtenir une réponse différente de celle affichée ici.

Copilot peut suggérer du code qui implémente un mécanisme de nouvelle tentative avec temporisation exponentielle afin de limiter la fréquence des tentatives.

Par exemple:

import requests
from flask import Flask, request
from requests.adapters import HTTPAdapter
from requests.packages.urllib3.util.retry import Retry

app = Flask(__name__)

WEATHER_API_URL = "https://api.example.com/weather"

def requests_retry_session(
    retries=3,
    backoff_factor=0.3,
    status_forcelist=(500, 502, 504),
    session=None,
):
    session = session or requests.Session()
    retry = Retry(
        total=retries,
        read=retries,
        connect=retries,
        backoff_factor=backoff_factor,
        status_forcelist=status_forcelist,
    )
    adapter = HTTPAdapter(max_retries=retry)
    session.mount("http://", adapter)
    session.mount("https://", adapter)
    return session

@app.route('/get_weather', methods=['GET'])
def get_weather():
    city = request.args.get('city')
    try:
        response = requests_retry_session().get(WEATHER_API_URL, params={"city": city})
        response.raise_for_status()
        weather_data = response.json()
    except requests.exceptions.RequestException as e:
        return {"error": str(e)}, 500

    return weather_data

Dans cet exemple, Copilotles suggestions incluent la configuration d’une session de nouvelle tentative qui permet au code de réessayer automatiquement les demandes en cas d’échec en raison de codes d’état spécifiques (500, 502, 504). Le backoff_factor augmente progressivement le délai entre les nouvelles tentatives, ce qui permet d’éviter de dépasser davantage la limite de débit de l’API.

Lectures complémentaires