Naar hoofdinhoud gaan
Via het Olostep /v1/maps endpoint kun je alle URL’s op een website verkrijgen. Dit is nuttig voor contentontdekking, analyse van de sitestructuur (bijv. SEO), of om te beslissen welke URL’s je vervolgens wilt scrapen.
  • Verkrijg alle URL’s op een website (inclusief sitemaps en ontdekte links)
  • Gebruik speciale patronen om paden in of uit te sluiten (bijv. /blog/**)
  • Pagineer grote reacties met cursor (tot 10MB per reactie)
  • Beperk volume met top_n
Voor API-details zie de Kaart Endpoint API Referentie.

Installatie

Gebruik

Stuur een POST-verzoek met de website url. Optioneel kun je include_urls, exclude_urls (glob patronen), en top_n doorgeven.
De responstijd is meestal binnen enkele seconden, maar kan oplopen tot 120 seconden voor complexere websites. Het kan alle URL’s van een website extraheren, zelfs backlinks en die niet aanwezig in de Sitemaps. Je kunt ook beslissen welke URL-paden je wilt opnemen of uitsluiten van de reactie. Standaard retourneert het endpoint ongeveer 100k URL’s in één oproep (maximaal 10MB). Als de reactie meer data bevat, retourneert de API een cursor parameter die kan worden gebruikt voor paginering en het verkrijgen van de volgende URL’s. Voor meer details raadpleeg de API Referentie. Dit endpoint is bijzonder nuttig wanneer je:
  • Alle contentpagina’s op een website wilt ontdekken
  • De sitestructuur en hiërarchie wilt analyseren
  • URL’s wilt voorbereiden voor batchverwerking
  • Wilt beslissen welke specifieke URL’s je wilt scrapen
Voor meer gedetailleerde controle over de geretourneerde URL’s kun je de parameters include_urls en exclude_urls gebruiken.

Voorbeeld

Stel dat je van www.brex.com alle URL’s wilt extraheren die de paden na /product/ hebben, bijv. https://www.brex.com/product/api/no-code, maar ook www.brex.com/product wilt opnemen. Je kunt de volgende code gebruiken:

Conclusie

Het maps endpoint is een krachtig hulpmiddel voor contentontdekking en site-analyse. Het biedt een uitgebreide lijst van URL’s op een website, waarmee je content van specifieke pagina’s kunt extraheren of de sitestructuur kunt analyseren. Dit endpoint is bijzonder nuttig voor SEO-professionals, contentmarketeers, AI-agenten die website-inhoud of -structuur moeten analyseren.

Opslag

Opgeslagen bestanden voor een kaart worden standaard 7 dagen bewaard. Geef een storage object door bij POST /v1/maps om ze langer of voor onbepaalde tijd te bewaren. De instelling geldt voor het kaartresultaat en de pagina’s die tijdens het ontdekken van URL’s zijn gescrapet. Als storage wordt weggelaten, of storage zonder expires_in wordt verzonden, wordt 7d gebruikt. Zowel de create response als GET /v1/maps/{map_id} bevatten de waarde die van kracht is:
cURL
Een ongeldige waarde retourneert 400:

Prijzen

Een kaart kost 1 credit. Voor elke extra 1000 URL’s die in de reactie worden geretourneerd, wordt een extra credit in rekening gebracht.