Skip to main content

概要

Olostepのscrapeエンドポイントを使用すると、任意のウェブサイトからコンテンツを抽出できます。Markdown形式のコンテンツは、HTMLを含まずにLLMに提供したい場合に便利です。 このガイドでは、https://www.nea.com/teamのようなウェブサイトからMarkdownを抽出する方法を見ていきます。

前提条件

始める前に、以下を確認してください:
  • 有効なOlostep APIキー。これはOlostepにサインアップすることで取得できます。
  • システムにPythonがインストールされていること
  • requestsjsonライブラリ(これらはPythonにプリインストールされていますが、必要に応じてpip install requestsでインストールできます)

ウェブサイトからテキストを抽出する

以下のPythonスクリプトは、OlostepのAPIを使用してウェブサイトからテキストとMarkdownコンテンツを抽出する方法を示しています。

レスポンスの例

成功したレスポンスは次のようになります:

説明

  • url_to_scrape: コンテンツを抽出するウェブサイトのURLを指定します。
  • formats: 出力形式を定義します(この場合はテキスト)。
  • Authorization: リクエストを認証するためのAPIキーを含みます。
  • レスポンスはJSON形式でフォーマットされ、読みやすく表示されます。

結論

Olostepを使用すると、任意のウェブサイトから簡単にMarkdownコンテンツを抽出できます。これは、ウェブサイトからコンテンツを取得してLLMに提供し、データ抽出や分析を行いたい場合に便利です。同じウェブサイトから繰り返しコンテンツを大規模に抽出したい場合(例:データの監視、価格追跡など)、カスタムパーサーを使用してJSON形式でコンテンツを取得することをお勧めします。