Python - Lettura di pagine HTML

libreria conosciuta come beautifulsoup. Usando questa libreria, possiamo cercare i valori dei tag html e ottenere dati specifici come il titolo della pagina e l'elenco delle intestazioni nella pagina.

Installa Beautifulsoup

Utilizzare il gestore di pacchetti Anaconda per installare il pacchetto richiesto e i suoi pacchetti dipendenti.

conda install Beaustifulsoap

Leggere il file HTML

Nell'esempio seguente facciamo una richiesta a un URL da caricare nell'ambiente python. Quindi utilizzare il parametro parser html per leggere l'intero file html. Successivamente, stampiamo le prime righe della pagina html.

import urllib2
from bs4 import BeautifulSoup

# Fetch the html file
response = urllib2.urlopen('http://tutorialspoint.com/python/python_overview.htm')
html_doc = response.read()

# Parse the html file
soup = BeautifulSoup(html_doc, 'html.parser')

# Format the parsed html file
strhtm = soup.prettify()

# Print the first few characters
print (strhtm[:225])

Quando eseguiamo il codice precedente, produce il seguente risultato.

<!DOCTYPE html>
<!--[if IE 8]><html class="ie ie8"> <![endif]-->
<!--[if IE 9]><html class="ie ie9"> <![endif]-->
<!--[if gt IE 9]><!-->
<html>
 <!--<![endif]-->
 <head>
  <!-- Basic -->
  <meta charset="utf-8"/>
  <title>

Estrazione del valore del tag

Possiamo estrarre il valore del tag dalla prima istanza del tag utilizzando il codice seguente.

import urllib2
from bs4 import BeautifulSoup

response = urllib2.urlopen('http://tutorialspoint.com/python/python_overview.htm')
html_doc = response.read()

soup = BeautifulSoup(html_doc, 'html.parser')

print (soup.title)
print(soup.title.string)
print(soup.a.string)
print(soup.b.string)

Quando eseguiamo il codice precedente, produce il seguente risultato.

Python Overview
Python Overview
None
Python is Interpreted

Estrazione di tutti i tag

Possiamo estrarre il valore del tag da tutte le istanze di un tag utilizzando il codice seguente.

import urllib2
from bs4 import BeautifulSoup

response = urllib2.urlopen('http://tutorialspoint.com/python/python_overview.htm')
html_doc = response.read()
soup = BeautifulSoup(html_doc, 'html.parser')

for x in soup.find_all('b'): print(x.string)

Quando eseguiamo il codice precedente, produce il seguente risultato.

Python is Interpreted
Python is Interactive
Python is Object-Oriented
Python is a Beginner's Language
Easy-to-learn
Easy-to-read
Easy-to-maintain
A broad standard library
Interactive Mode
Portable
Extendable
Databases
GUI Programming
Scalable