Beautiful Soupを利用してPythonでスクレイピングを行う環境構築方法の解説

2017/02/11 2017/04/29

PythonのBeautiful Soupを利用してスクレイピングを実行

Beautiful Soupとは？

　
「Beautiful Soup」は、スクレイピングに特化した機能を持っている Pythonのライブラリです。
「Beautiful Soup」は、スクレイピングに特化した機能を持っているため、スクレイピングによる情報の取得が簡単な記述で取得できるようになります。
　
　
「Selenium WebDriver、Pythonをインストールしブラウザ自動操作の環境構築手順のまとめ」で、Seleniumの記事を書いていますが、Seleniumでブラウザを自動操作しつつ、スクレイピングをしていく処理を構築する上で、BeautifulSoupは強力なツールになってくれます。
Pythonでスクレイピングの処理を構築する場合は、ぜひとも利用したいライブラリですね。
　
　
この記事では、Windows10の環境にセットアップする想定で書いていますので、その点はご了承ください。
　
　

Beautiful Soupをインストール

　
現在の Beautiful Soupの最新バージョンは 4になっていますので、Beautifulsoup4をインストールします。
　
　

Python、pipインストールの確認

　
ですが、BeautifulSoup4を利用するには、Pythonがインストールされている必要があり、Pythonのライブラリをインストールするには、pipというツールが必要です。
　
すでに pipもインストールされていれば問題ないですが、まだインストールをしていない場合は、下記の記事を参考にして、pipのインストールをしてください。
　Selenium WebDriver、Pythonをインストールしブラウザ自動操作の環境構築手順のまとめ
　
　

BeautifulSoup4のインストール

　
BeautifulSoup4のインストールは、下記のコマンドで実行します。
　
下記コマンドでインストール（pipにパスが通っていない場合はパス付で実行）
　

c:\python27\Scripts\pip install beautifulsoup4

1	c:\python27\Scripts\pip install beautifulsoup4

C:\> c:\python27\Scripts\pip install beautifulsoup4
Collecting beautifulsoup4
  Downloading beautifulsoup4-4.5.3-py2-none-any.whl (85kB)
    100% |################################| 92kB 430kB/s
Installing collected packages: beautifulsoup4
Successfully installed beautifulsoup4-4.5.3

C:\>

C:\> c:\python27\Scripts\pip install beautifulsoup4

Collecting beautifulsoup4

Downloading beautifulsoup4-4.5.3-py2-none-any.whl (85kB)

100% |################################| 92kB 430kB/s

Installing collected packages: beautifulsoup4

Successfully installed beautifulsoup4-4.5.3

C:\>

　
　
コマンドを実行し、「Successfully installed beautifulsoup4-4.5.3」と出てきたら、BeautifulSoup4のインストールは正常終了したことになります。
　
　
ツールのインストールだけなので、簡単ですね。
　
BeautifulSoup4の使い方に関しては、また別記事でご紹介します！
　
　

スクレイピングに関連する記事

　
スクレイピングを行うに当たって、「Beautiful Soup」だけを使って実行することはないわけですが、私がスクレイピングを行う際に使ったものとして、Selenium WebDriverというブラウザを自動的に操作するツールがあります。
それらに関連する記事をご紹介しておきます。あわせてご覧ください。
　
　Selenium WebDriver、Pythonをインストールしブラウザ自動操作の環境構築手順のまとめ
　 PythonでUTF-8など日本語（全角文字）を使う方法。コメントにも必要。
　Pythonをコマンドラインで実行。全角文字（日本語）を引数にする場合の対処方法
　 Selenium WebDriverでFirefoxをプライベートウィンドウ／Chromeをシークレットモードで起動する方法・言語はpython
　Selenium WebDriver、Pythonをインストールし Chromeの自動操作の環境構築手順のまとめ
　 Beautiful Soupを利用してPythonでスクレイピングを行う環境構築方法の解説
　 PythonでMySQLへの接続ライブラリMySQL-pythonの簡単インストール方法
　 PythonでURLの有無、存在をチェックするスクリプト

- プログラミング・Web関連技術

最後までお読みいただきましてありがとうございます。
この記事が参考になったと思いましたらソーシャルメディアで共有していただけると嬉しいです！

Message コメントをキャンセル

※入力いただいたコメントは管理者の承認後に掲載されます。

: 本当に？GMO系ロリポップ・ヘテムルを無料で運用する方法があった！

ロリポップ、ヘテムルを株主優待を利用して実質無料で運営しよう!という解説記事です。株主優待で提供されるサービスの内容を解説し、無料になる仕組みを解説します。

: .htaccessのmod_deflateでファイル圧縮送信で高速化でSEO対策！

Page Speed Insightsの指摘事項であるファイルの圧縮送信の対応方法。処理内容の解説もあるけど、.htaccessにコピペするだけの簡単設置で効果抜群！SEOにも威力を発揮！

: CentOS環境に ntpdをインストールして自動的に時刻を取得して合わせる設定にする

VirtualBoxに構築した CentOSの環境の時計がずれているとき、ntpdをインストールし、時計を合わせる方法を解説。NTPサーバを指定する方法や ntpdを自動起動する設定も解説。

: 直リンクとは何か？直リンクとディープリンクの違いと著作権問題

直リンクは著作権違反なのか？議論の前にまず「直リンク」の意味を正しく理解しよう。直リンクは他のサイトの画像を読み込む、ディープリンクなど多様な意味がある。

: .htaccessのmod_expiresでブラウザキャッシュで高速化でSEO対策！

Page Speed Insightsの指摘事項のファイルのブラウザキャッシュの設定方法。解説もしてるけど、.htaccessにコピペするだけの簡単設置で効果抜群！SEOにも威力を発揮！

: Gitはフォルダ自体を管理対象にはできない。空のフォルダを設定する手順

Gitはフォルダだけを管理対象にすることはできない。そのため空の.gitkeepファイルを作成し管理対象にすることで、それが入っているフォルダも管理対象にする、と言う手順で管理を行う。

: So-netのレンタルサーバHSはヤバイ・借りてはいけないレンタルサーバリスト

餅は餅屋。サーバはサーバ屋が提供するサービスを利用するべきという記事で、単独でSo-netを紹介。OEMでサービスの提供を受けているだけなので何とも残念すぎる内容。

: chromedriver.exe – ディスクがありませんと出てSeleniumの設定が上手くいかない

Selenium WebDriverを使ってChromeを自動操作する仕組みを作る際、chromedriver.exeを利用しますが、ディスクがありません、というエラーが発生する場合があります。その対処方法を解説します。

: Selenium WebDriver、Pythonをインストールし Chromeの自動操作の環境構築手順のまとめ

Selenium WebDriverを使ってChromeを自動操作する環境を構築する手順のまとめ。使用するPythonのインストールから、サンプルスクリプトの動作確認までを詳細解説。

: .gitignoreで無視フォルダの中の特定のファイルを除外「!（否定文）」を使う場合の注意点

Gitで管理する対象、対象外のファイル、フォルダの指定は .gitignoreに記述する。その基本的な記述の方法に加え、無視対象にしたフォルダの中の特定のファイルを管理対象にする記述方法を解説。