Naar hoofdinhoud gaan
Via de Olostep /v1/maps endpoint kun je alle URL’s op een website verkrijgen. Dit is nuttig voor het ontdekken van content, het analyseren van de sitestructuur (bijv. SEO), of het beslissen welke URL’s je vervolgens wilt scrapen.
  • Verkrijg alle URL’s op een website (inclusief sitemaps en ontdekte links)
  • Gebruik speciale patronen om paden in of uit te sluiten (bijv. /blog/**)
  • Pagineer grote reacties met cursor (tot 10MB per reactie)
  • Beperk het volume met top_n
Voor API-details zie de Map Endpoint API Referentie.

Installatie

# pip install requests

import requests

Gebruik

Stuur een POST-verzoek met de website url. Optioneel kun je include_urls, exclude_urls (glob patronen), en top_n doorgeven.
import requests
import json

endpoint = "https://api.olostep.com/v1/maps"

payload = {
    "url": "https://docs.olostep.com"
}
headers = {
    "Authorization": "Bearer <YOUR_API_KEY>",
    "Content-Type": "application/json"
}

response = requests.post(endpoint, json=payload, headers=headers)
print(json.dumps(response.json(), indent=2))
De responstijd is meestal binnen enkele seconden, maar kan oplopen tot 120 seconden voor complexere websites. Het kan alle URL’s van een website extraheren, zelfs backlinks en die niet in de Sitemaps aanwezig zijn. Je kunt ook beslissen welke URL-paden je wilt opnemen of uitsluiten van de reactie. Standaard retourneert de endpoint ongeveer 100k URL’s in één oproep (maximaal 10MB). Als de reactie meer gegevens bevat, retourneert de API een cursor parameter die kan worden gebruikt voor paginering en het verkrijgen van de volgende URL’s. Voor meer details raadpleeg de API Referentie. Deze endpoint is bijzonder nuttig wanneer je:
  • Alle contentpagina’s op een website wilt ontdekken
  • De sitestructuur en hiërarchie wilt analyseren
  • URL’s wilt voorbereiden voor batchverwerking
  • Wilt beslissen welke specifieke URL’s je wilt scrapen
Voor meer gedetailleerde controle over de geretourneerde URL’s kun je de parameters include_urls en exclude_urls gebruiken.

Voorbeeld

Stel dat je van www.brex.com alle URL’s wilt extraheren die de paden na /product/ hebben, bijv. https://www.brex.com/product/api/no-code, maar ook www.brex.com/product wilt opnemen. Je kunt de volgende code gebruiken:
import requests

endpoint = "https://api.olostep.com/v1/maps"

payload = {
    "url": "https://www.brex.com/",
    "include_urls": ["/product", "/product/**"],
    "top_n": 100000
}

headers = {
    "Authorization": "Bearer <YOUR_API_KEY>",
    "Content-Type": "application/json"
}

response = requests.post(endpoint, json=payload, headers=headers)

print(response.text)

Conclusie

De maps endpoint is een krachtig hulpmiddel voor contentontdekking en site-analyse. Het biedt een uitgebreide lijst van URL’s op een website, waarmee je content van specifieke pagina’s kunt extraheren of de sitestructuur kunt analyseren. Deze endpoint is bijzonder nuttig voor SEO-professionals, contentmarketeers, AI-agenten die websitecontent of -structuur moeten analyseren.

Prijsstelling

Kaart kost 1 credit. Vervolgens wordt voor elke extra 1000 URL’s die in de reactie worden geretourneerd, een extra credit in rekening gebracht.