/v1/maps di Olostep puoi ottenere tutti gli URL su un sito web. Questo è utile per la scoperta di contenuti, l’analisi della struttura del sito (ad esempio, SEO) o per decidere quali URL vuoi estrarre successivamente.
- Ottieni tutti gli URL su un sito web (inclusi sitemaps e link scoperti)
- Usa pattern speciali per includere/escludere percorsi (ad esempio
/blog/**) - Pagina le risposte grandi con
cursor(fino a 10MB per risposta) - Limita il volume con
top_n
Installazione
Utilizzo
Invia una richiesta POST con l’url del sito web. Opzionalmente passa include_urls, exclude_urls (pattern glob) e top_n.
cursor che può essere usato per la paginazione e ottenere gli URL successivi. Per maggiori dettagli, consulta la Riferimento API.
Questo endpoint è particolarmente utile quando hai bisogno di:
- Scoprire tutte le pagine di contenuto su un sito web
- Analizzare la struttura e la gerarchia del sito
- Preparare gli URL per l’elaborazione in batch
- Decidere quali URL specifici estrarre
include_urls e exclude_urls.
Esempio
Supponiamo che da www.brex.com tu voglia estrarre tutti gli URL che hanno i percorsi dopo/product/, ad esempio https://www.brex.com/product/api/no-code, ma includere anche www.brex.com/product.
Puoi usare il seguente codice: