Blog-URLs von Stripes Website extrahieren

import requests
import time
import json

# Konfiguration
API_URL = 'https://api.olostep.com/v1'
API_KEY = '<your_olostep_api_key>'
HEADERS = {
    'Content-Type': 'application/json',
    'Authorization': f'Bearer {API_KEY}'
}

# Startzeit für Latenzverfolgung
start_time = time.time()

# Definieren Sie die Nutzlast mit einzuschließenden URL-Mustern
payload = {
    "url": "https://stripe.com",
    "include_urls": ["/blog", "/blog/**"]  # Übereinstimmung mit /blog und allen Pfaden unter /blog
}

# Anfrage stellen
response = requests.post(f'{API_URL}/maps', headers=HEADERS, json=payload)

# Latenz berechnen
latency = round((time.time() - start_time) * 1000, 2)
print(f"Anfrage abgeschlossen in {latency}ms")

# Ergebnisse verarbeiten
data = response.json()
print(f"{data['urls_count']} Blog-URLs auf Stripes Website gefunden")

# Die ersten 10 URLs als Beispiel ausgeben
print("\nBeispiel-Blog-URLs:")
for url in data['urls'][:10]:
    print(f"- {url}")
    
# Blog-URLs zur weiteren Verarbeitung in eine Datei speichern
with open('stripe_blog_urls.json', 'w') as f:
    json.dump(data, f, indent=2)
print(f"\nAlle Blog-URLs in stripe_blog_urls.json gespeichert")

# Definieren Sie die Nutzlast mit spezifischeren URL-Mustern
payload = {
    "url": "https://stripe.com",
    "include_urls": ["/blog/engineering", "/blog/engineering/**"]
}