Extraer URLs del blog del sitio web de Stripe

import requests
import time
import json

# Configuración
API_URL = 'https://api.olostep.com/v1'
API_KEY = '<your_olostep_api_key>'
HEADERS = {
    'Content-Type': 'application/json',
    'Authorization': f'Bearer {API_KEY}'
}

# Hora de inicio para el seguimiento de latencia
start_time = time.time()

# Define la carga útil con patrones de URL para incluir
payload = {
    "url": "https://stripe.com",
    "include_urls": ["/blog", "/blog/**"]  # Coincide con /blog y todos los caminos bajo /blog
}

# Realiza la solicitud
response = requests.post(f'{API_URL}/maps', headers=HEADERS, json=payload)

# Calcula la latencia
latency = round((time.time() - start_time) * 1000, 2)
print(f"Solicitud completada en {latency}ms")

# Procesa los resultados
data = response.json()
print(f"Se encontraron {data['urls_count']} URLs del blog en el sitio web de Stripe")

# Imprime las primeras 10 URLs como muestra
print("\nMuestra de URLs del blog:")
for url in data['urls'][:10]:
    print(f"- {url}")
    
# Guarda las URLs del blog en un archivo para un procesamiento posterior
with open('stripe_blog_urls.json', 'w') as f:
    json.dump(data, f, indent=2)
print(f"\nTodas las URLs del blog guardadas en stripe_blog_urls.json")

# Define la carga útil con patrones de URL más específicos
payload = {
    "url": "https://stripe.com",
    "include_urls": ["/blog/engineering", "/blog/engineering/**"]
}