Saltar al contenido principal

Descripción General

El endpoint Batches de Olostep te permite iniciar un lote de hasta 100,000 URLs y obtener el contenido en 5–7 minutos. Si necesitas más escala, por favor contáctanos. Esto es útil si ya tienes las URLs que deseas procesar, por ejemplo, para agregar datos para análisis, construir una herramienta de búsqueda especializada o monitorear múltiples sitios web para detectar cambios. En esta guía, te mostraremos cómo iniciar un lote con una lista de URLs y recuperar el contenido en formato markdown.

Gist con Código Completo

Aquí tienes todo el código en un gist que puedes copiar y pegar para probar el raspado por lotes con Olostep: https://gist.github.com/olostep/e903f2e4fc28f8093b834b4df68b8031 En este gist hemos mostrado cómo iniciar un lote con 5 consultas de búsqueda de Google, verificar el estado y recuperar el contenido de cada elemento.

Prerrequisitos

Antes de comenzar, asegúrate de tener lo siguiente:
  • Una clave de API válida de Olostep. Puedes obtener una registrándote en Olostep.
  • Python instalado en tu sistema.
  • Las bibliotecas requests y hashlib (instala requests con pip install requests si es necesario).

Paso 1: Crear un Lote desde URLs Locales

Si ya tienes una lista de URLs que deseas procesar, puedes definirlas directamente en tu script. De lo contrario, puedes leerlas desde un archivo o base de datos.

Paso 2: Monitorear el Estado del Lote

Una vez que el lote está iniciado, puedes monitorear su estado usando el batch_id que se devuelve cuando inicias el lote.
Puedes verificar el estado cada pocos segundos (por ejemplo, 10 segundos) hasta que el lote esté completo:

Paso 3: Recuperar Elementos Completados

Una vez que el lote se marca como completo, obtén los elementos procesados.
Cada elemento incluirá un retrieve_id que puedes usar para obtener el contenido raspado.

Paso 4: Recuperar el Contenido

Usa el retrieve_id para obtener el contenido extraído en markdown, html o json. Aquí tienes un ejemplo para recuperar el contenido en formato markdown:

Contenido Hospedado

También alojamos el contenido durante 7 días, por lo que puedes recuperarlo varias veces sin volver a raspar. Ejemplo de una URL alojada para contenido markdown

Casos de Uso Ejemplares

1. Construir Motores de Búsqueda

Usa Olostep para extraer contenido de sitios web específicos de la industria (legal, médico, IA) y construir una base de datos consultable.

2. Monitoreo de Sitios Web

Monitorea la disponibilidad de productos, cambios de precios o actualizaciones de noticias en múltiples sitios web programando raspados diarios por lotes.

3. Monitoreo de Redes Sociales

Raspa menciones de tu marca o palabras clave en foros o fuentes de contenido y extrae datos estructurados.

4. Agregadores

Construye un tablero de empleo, un agregador de noticias o una plataforma de listados inmobiliarios extrayendo datos de docenas de fuentes.

Conclusión

Con el raspado por lotes, puedes extraer contenido de hasta 100k URLs de manera rápida y eficiente. Ya sea que estés construyendo herramientas de búsqueda, agregadores o sistemas de monitoreo, los Lotes de Olostep simplifican el trabajo. ¿Quieres extraer solo datos estructurados? Usa Parsers para obtener solo los campos que necesitas. ¿Necesitas ayuda? Comunícate con info@olostep.com para soporte o para que escribamos scripts personalizados para tu caso de uso.