/v1/maps endpoint kun je alle URL’s op een website verkrijgen. Dit is nuttig voor contentontdekking, analyse van de sitestructuur (bijv. SEO), of om te beslissen welke URL’s je vervolgens wilt scrapen.
- Verkrijg alle URL’s op een website (inclusief sitemaps en ontdekte links)
- Gebruik speciale patronen om paden in of uit te sluiten (bijv.
/blog/**) - Pagineer grote reacties met
cursor(tot 10MB per reactie) - Beperk volume met
top_n
Installatie
Gebruik
Stuur een POST-verzoek met de websiteurl. Optioneel kun je include_urls, exclude_urls (glob patronen), en top_n doorgeven.
cursor parameter die kan worden gebruikt voor paginering en het verkrijgen van de volgende URL’s. Voor meer details raadpleeg de API Referentie.
Dit endpoint is bijzonder nuttig wanneer je:
- Alle contentpagina’s op een website wilt ontdekken
- De sitestructuur en hiërarchie wilt analyseren
- URL’s wilt voorbereiden voor batchverwerking
- Wilt beslissen welke specifieke URL’s je wilt scrapen
include_urls en exclude_urls gebruiken.
Voorbeeld
Stel dat je van www.brex.com alle URL’s wilt extraheren die de paden na/product/ hebben, bijv. https://www.brex.com/product/api/no-code, maar ook www.brex.com/product wilt opnemen.
Je kunt de volgende code gebruiken:
Conclusie
Het maps endpoint is een krachtig hulpmiddel voor contentontdekking en site-analyse. Het biedt een uitgebreide lijst van URL’s op een website, waarmee je content van specifieke pagina’s kunt extraheren of de sitestructuur kunt analyseren. Dit endpoint is bijzonder nuttig voor SEO-professionals, contentmarketeers, AI-agenten die website-inhoud of -structuur moeten analyseren.Opslag
Opgeslagen bestanden voor een kaart worden standaard 7 dagen bewaard. Geef eenstorage object door bij POST /v1/maps om ze langer of voor onbepaalde tijd te bewaren. De instelling geldt voor het kaartresultaat en de pagina’s die tijdens het ontdekken van URL’s zijn gescrapet.
Als
storage wordt weggelaten, of storage zonder expires_in wordt verzonden, wordt 7d gebruikt. Zowel de create response als GET /v1/maps/{map_id} bevatten de waarde die van kracht is:
cURL
400: